Введение 2
Постановка и актуальность задачи 3
Обзор использованной литературы 6
Глава 1. Метод решения поставленной задачи 7
Глава 2. Элементы теории искусственных нейронных сетей .... 9
2.1. Биологические нейроны 10
2.2. Искусственные нейроны 12
2.3. Сети. Топология. Рекуррентность 13
Глава 3. Эволюционные методы 16
Глава 4. Нейроэволюция 20
Глава 5. Нейроэволюционный метод решения 22
5.1. Обоснование выбора Эрланга как языка реализации. Его пре¬
имущества 22
5.2. SENNs (ИНС с субстратным кодированием) 26
5.3. Используемый метод с точки зрения нейроэволюции 32
5.4. Структура используемой платформы 38
5.5. Код 39
Выводы 40
Оценка результатов 40
Планы на будущее 45
Список литературы 47
Приложение 52
Терминологические примечания 52
В течение значительного времени люди, принимающие решения, испытывали желание, а зачастую также и потребность в ускорении такого принятия решений (этот термин будет пониматься буквально и очень широко, охватывая большую часть человеческой когнитивной деятельности).
Со временем для описания алгоритмов такого принятия решений были разработаны математические области и дисциплины, которые часто тесно связаны друг с другом. Несколько позже, с появлением вычисли¬тельных машин, эти алгоритмы были перенесены на них, что привело к бурному развитию имеющихся научных областей и появлению новых.
В частности, во второй половине XX века стали развиваться области машинного обучения и искусственного интеллекта (ИИ). Достижения, полученные в этих областях, по мере прогресса в них были адаптированы в области человеческой деятельности, в которой решения должны при¬ниматься как можно быстрее, и к тому же они имеют существенные по¬следствия - в области финансов. Финансовый анализ уже довольно дол¬го применяет методы ИИ, включая многочисленные разновидности искусственных нейронных сетей (ИНС, ANNs). Однако до сих пор, если судить по доступным научным публикациям, в этой области было обращено ма¬ло внимания на нейроэволюцию. В этой работе предпринимается попытка исправить такое положение.
Нейроэволюция - метод машинного обучения, использующий эволю-ционные алгоритмы для обучения искусственных ИНС).
В этой работе показывается, что нейроэволюция как метод ИИ способна эффективно решать определённые проблемы в области финансового анализа.
Эрланг по природе своей способен поддерживать значительное коли-ество потокообразных сущностей (так называемых акторов [54]), однако фактически скорость выполнения кода, написанного на Эрланге, растёт с ростом количества доступных процессорных потоков (CPU core threads) .
Вообще говоря, каждый построенный агент должен быть не очень требователен к ресурсам. Однако же в ходе экспериментов множество агентов подвергалось обработке большое количество раз, а такая задача выигрывает от проведения вычислений на мощных машинах. Эксперименты проводились на 3 предоставленных компанией Google виртуальных маши¬нах с 8 vCPU (один vCPU = гипертред на 2.6GHz Intel Xeon E5 (Sandy Bridge)) и 30 GB RAM. В качестве операционной системы использовалась Ubuntu 14.04 LTS x64; версия Эрланга - R18B03.
Было проведено в общей сложности 14 экспериментов для агентов на основе ИНС двух видов:
1) SlidingWindow5
2) SlidingWindow10
3) SlidingWindow20
4) SlidingWindow50
5) . SlidingWindow100
и
6) ChartPlane5X10
7) ChartPlane5X20
8) ChartPlane10X10
9) ChartPlane10X20
10) ChartPlane20X10
11) ChartPlane20X20
12) ChartPlane50X10
13) ChartPlane50X20
14) ChartPlane100x10.
Для агентов были вычислены значения приспособленности (fitness) в зависимости от количества проведённых оценок (evaluations).
Можно видеть, что агенты обоих видов принесли прибыль. Из [1, 3] известно, что для обучения наибольшее возможное значение баланса - $704, а для проверки обобщения - $428; относительно этих показателей прибыль, принесённая выращенными агентами, может считаться значительной.
PLI агенты адаптировались довольно быстро и устойчиво, иногда со-вершая резкие “адаптивные скачки”. В свою очередь, PCI агенты показали более рано начавшийся и более стремительный рост адаптированности, ко-торая со временем стала меняться более плавно. Таким образом, геометри-ческая чувствительность не только работает, но и показывает осмысленные результаты.
Это позволяет предположить, что PCI агенты быстрее адаптирова¬лись, а именно, что они быстрее достигли состояния, в котором небольшая часть популяции удалялась из-за переучивания, и большая часть агентов оставалась в популяции всё дольше. Что позволяет надеяться, что способ-ность PCI агентов к обобщению может быть перенесена на реальные финансовые данные.
Дальнейший анализ графиков показывает, что лучше всего себя про-явили агенты с разрешениями 5x20 и 10x20 и агенты с размером скользя¬щего окна 10 и 20 соответственно; вопреки ожиданиям того, что увеличение разрешения должно привести к увеличению приспособленности.
Возможным объяснением такого поведения для PCI является следу-ющее: с ростом разрешения входного изображения у нейродов постсинапти-ческого слоя появляется столько входов, что они становятся насыщеными и не могут эффективно работать.
Про PLI можно сказать, что при небольшом размере скользящего окна (10 и 20) в ИНС присутствует некоторое количество рекуррентных связей, мешающих простому переучиванию и запоминанию (memorisation) и побуждающих агентов к обобщению. Однако увеличение количества та¬ких связей, похоже, приводит к уменьшению производительности сети.
Данные гипотезы требуют более тщательной проверки и дальнейших экспериментов, как и вся область нейроэволюции в целом.
Используемая нейроэволюционная платформа поддерживает нейро-пластичность в ИНС, управляющих агентами, но в данной серии экспе-риментов она не была использована. Проведение бенчмарков для агентов, использующих нейропластичность, сопоставление результатов с результа-тами испытаний агентов, которые её не используют, и осмысление срав¬нения - отдельная исследовательская задача (требующая длительных вы¬числений и могущая стать целью отдельной (следующей) работы в области нейроэволюции).
В целом можно видеть, что, как и ожидалось, геометрически воспри-имчивые PCI агенты показали своё превосходство над PLI и свою способ¬ность к обобщению и прибыльной торговле. Более того, можно считать, что полученные в результате эксперимента лучшие особи с большой вероятно-стью (связанной с точностью симуляций Форекса) проявят себя в обработке реальных данных в реальном времени. Также можно отметить, что такие агенты будут пользоваться всеми преимуществами, которые предоставляет Эрланг.
Помощь студентам и аспирантам в выполнении работ от наших партнеров
