Введение 3
1. Теоретические основы современного развития нейросетевых технологий. .5
1.1. Обзор основных результатов по применению нейронных сетей для
анализа финансовых рынков 5
1.2. Теоретические основы построения персептронов. Метод обратного
распространения ошибки 6
1.3. Теоретические основы построения свёрточной нейронной сети 26
2. Использование различных конфигураций нейронных сетей для
предсказания тренда 29
2.1. Предварительная подготовка данных для подачи в нейронную сеть..29
2.2. Использование многослойных персептронов 31
2.3. Использование свёрточных нейронных сетей 32
3. Сравнительный анализ рассмотренных конфигураций 34
3.1. Интерпретация результатов работы многослойных персептронов 34
3.2. Интерпретация результатов работы свёрточных нейронных сетей... .35
3.3. Оценка эффективности рассмотренных нейросетевых технологий... .37
Заключение 40
Список использованных источников
Примечание
Прогнозирование финансового благосостояния интересует каждого человека ещё с давних времён. Поэтому предсказание цен акций на финансовых рынках стало важной проблемой с того момента, как из этого стало возможно извлечь значительную прибыль.
Существует несколько подходов к прогнозированию цен на акции: фундаментальный анализ, технический анализ и технологический анализ. Фундаментальный анализ использует внешнюю информацию, которая больше относится к компании - процент ставок, цены, ликвидность других активов и другие макро/микро-экономические параметры. Технический анализ исследует изменение цен на основе закономерностей изменений цен в прошлом в аналогичных обстоятельствах. Основой метода является анализ графиков цен.
В последнее время вновь проявился интерес к технологическому анализу - машинному обучению и использованию искусственных нейронных сетей в сфере прогнозирования цен на финансовых рынках. Основным отличием машинного обучения от классического моделирования является то, что исходные алгоритмы сами интерпретируют данные, поданные на них аналитиком. Поэтому процесс разработки нейронной сети начинается с разработки какой-либо простой сети, либо непосредственно применяя те архитектуры, которые уже успешно применялись для решения подобных задач, используя те параметры, которые раньше уже давали неплохие результаты. В конечном итоге, задача машинного обучения заключается в достижении такого уровня производительности, который послужит хорошей отправной точкой, после которой можно попробовать изменять все зафиксированные параметры и извлечь из сети максимальную производительность.
Актуальностью работы является сравнение результатов работы
различных конфигураций нейронных сетей, а именно многослойного персептрона и свёрточной нейронной сети для прогнозирования данных финансовых рынков.
Цель работы - реализовать различные конфигурации нейронных сетей для анализа финансовых рынков и провести их сравнение с позиций прогнозирования.
Задачи:
1. исследовать теоретические основы проектирования искусственных нейронных сетей;
2. провести анализ существующих решений для прогнозирования данных финансовых рынков;
3. реализовать многослойный персептрон и свёрточную нейронную сеть;
4. провести анализ результатов.
С помощью технологического анализа - машинного обучения - была проведена работа по использованию нейронных сетей в сфере прогнозирования цен и тренда на финансовых рынках.
Процессе разработки нейронной сети начался с разработки простой сети, с применением архитектур, которые уже успешно применялись для решения подобных задач, используя те параметры, которые раньше уже давали неплохие результаты. Это послужило хорошей отправной точкой, после которой можно попробовать изменять все зафиксированные параметры и извлечь из сети максимальную производительность.
В работе были исследованы различные подходы для прогнозирования цен акций и тренда финансовых рынков, а именно многослойный персептрон и свёрточная нейронная сеть. Были изучены теоретические основы проектирования искусственных нейронных сетей, проведён анализ существующих решений для прогнозирования данных финансовых рынков, реализованы нейронные сети и проведён сравнительный анализ результатов, который показал, что свёрточная нейронная сеть может прогнозировать цены акций финансовых рынков чуть лучше, чем многослойный персептрон.
Исходя из полученных результатов, наблюдается следующее - при прогнозировании данных дальше, чем на время t+1 получается слишком много ошибок, что означает, что нейронные сети не могут предсказывать точные значения цен акций. Но, также видно, что линии тренда идут в одном направлении, а из этого можно сделать вывод, что нейронные сети могут следовать за трендом.
1. Kara Y. Predicting direction of stock price index movement using artificial neural networks and support vector machines: The sample of the Istanbul Stock Exchange / Y. Kara, M. A. Boyacioglu, O. K. Baykan — Expert Systems with Applications №38(5), 2011. — с. 5311-5319.
2. Moghaddam A. H. Stock market index prediction using artificial neural network / A. H. Moghaddam, M. H. Moghaddam, M. Esfandyari — Journal of Economics, Finance and Administrative Science №21(41), 2016. — p. 89-93.
3. Nelson D. M. Stock market's price movement prediction with LSTM neural networks / D. M. Nelson, A. C. Pereira, R. A. de Oliveira — 2017 International Joint Conference on Neural Networks (IJCNN), 2017. — p. 1419-1426.
4. Bao W. A deep learning framework for financial time series using stacked autoencoders and long-short term memory / W. Bao, J. Yue, Y. Rao — PLoS ONE 12(7): e0180944, 2017. - 24p.
5. Sheng C. Stock Prediction Using Convolutional Neural Network / C. Sheng, He Hongxiang — IOP Conference Series: Materials Science and Engineering №435(1), 2018. - 9p.
6. Hoseinzade E. CNNPred: CNN-based stock market prediction using several data sources / E. Hoseinzade, S. Haratizadeh — arXiv:1810.08923, 2018. - 39p.
7. Perceptron: The Artificial Neuron (An Essential Upgrade To The McCulloch-Pitts Neuron) [Электронный ресурс] / towardsdatascience.com — Towards Data Science — Режим доступа: https://towardsdatascience.com/perceptron-the-artificial-neuron- 4d8c70d5cc8d — Дата обращения: 09.03.2019.
8. Perceptron Learning Algorithm: A Graphical Explanation Of Why It Works [Электронный ресурс] / towardsdatascience.com — Towards Data Science
— Режим доступа: https://towardsdatascience.com/perceptron-learning- al gorithm -d5db0deab975 — Дата обращения: 11.03.2019.
9. Deep Dive into Math Behind Deep Networks - Towards Data Science [Электронный ресурс] / towardsdatascience.com — Towards Data Science
— Режим доступа: https://towardsdatascience.com/https-medium-com- piotr-skalski92-deep-dive-into-deep-networks-math- 17660bc376ba — Дата обращения: 14.03.2019.
10.Это нужно знать: Ключевые рекомендации по глубокому обучению (Часть 2) | DataReview.info [Электронный ресурс] / datareview.info — DataReview.info — Ваш проводник в мире анализа данных — Режим доступа: http : //datareview.info/article/eto-nuzhno-znat-klyuchevyie-
rekomendatsii-po- glubokomu- obucheniyu- chast-2/ — Дата обращения:
19.03.2019.
11. Learning Parameters, Part 1: Gradient Descent - Towards Data Science [Электронный ресурс] / towardsdatascience.com — Towards Data Science
— Режим доступа: https://towardsdatascience.com/learning-parameters- part-1-eb3e8bb9ffbb — Дата обращения: 24.03.2019.
12. Artificial Neural Networks: Mathematics of Backpropagation (Part 4) [Электронный ресурс] / briandolhansky.com — The personal webpage of Brian Dolhansky. Featuring machine learning, Android, and other code tutorials, my photography, and my mobile development portfolio. — Режим доступа:
http://www.briandolhansky.com/blog/2013/9/27/artificial-neural-networks- backpropagation-part-4 — Дата обращения: 29.03.2019.
13. Dropout — метод решения проблемы переобучения в нейронных сетях [Электронный ресурс] / habr.com/ru/ — Хабр — Режим доступа: https:// habr . com/ru/company/wunderfund/blog/330814/ — Дата обращения:
03.04.2019.
14. A Gentle Introduction to Dropout for Regularizing Deep Neural Networks [Электронный ресурс] / machinelearningmastery.com — Machine Learning Mastery — Режим доступа: https://machine1earningmastery.com/ dropout-for-regularizing-deep-neural-networks/ — Дата обращения:
07.04.2019.
15. Types of Optimization Algorithms used in Neural Networks and Ways to Optimize Gradient Descent [Электронный ресурс] / towardsdatascience.com — Towards Data Science — Режим доступа: https://towardsdatascience.com/types-of-optimization-algorithms-used-in- neural-networks-and-ways-to-optimize-gradient-95ae5d39529f — Дата обращения: 11.04.2019.
16. Методы оптимизации нейронных сетей / Хабр [Электронный ресурс] / habr.com/ru/ — Хабр — Режим доступа: https://habr.com/ru/post/318970/
— Дата обращения: 15.04.2019.
17. Gentle Introduction to the Adam Optimization Algorithm for Deep Learning [Электронный ресурс] / machinelearningmastery.com — Machine Learning Mastery — Режим доступа: https://machinelearningmastery.com/ adam-optimization-algorithm-for-deep-learning/ — Дата обращения:
18.04.2019.
18. An overview of gradient descent optimization algorithms [Электронный
ресурс] / ruder.io — Sebastian Ruder — Режим доступа:
http://ruder.io/optimizing-gradient-descent/index.html — Дата обращения:
21.04.2019.
19. Gentle Dive into Math Behind Convolutional Neural Networks [Электронный ресурс] / towardsdatascience.com — Towards Data Science
— Режим доступа: https://towardsdatascience.com/gentle-dive-into-math- behind-convolutional-neural-networks-79a07dd44cf9 — Дата обращения:
24.04.2019.
20. Building a Convolutional Neural Network (CNN) in Keras [Электронный ресурс] / towardsdatascience.com — Towards Data Science — Режим доступа: https://towardsdatascience.com/building-a-convolutional-neural-
network-cnn-in-keras-329fbbadc5f5 — Дата обращения: 27.04.2019.
21.Introduction to 1D Convolutional Neural Networks in Keras for Time Sequences [Электронный ресурс] / towardsdatascience.com — Towards Data Science — Режим доступа:
https://blog.goodaudience.com/introduction-to-1d-convolutional-neural- networks-in-keras-for-time-sequences-3a7ff801a2cf — Дата обращения:
01.05.2019.
22. Applied Deep Learning - Part 4: Convolutional Neural Networks [Электронный ресурс] / towardsdatascience.com — Towards Data Science — Режим доступа: https://towardsdatascience.com/applied-deep-learning- part-4-convolutional-neural-networks-584bc134c1e2 — Дата обращения:
05.05.2019.
23. Рутковская Д. Нейронные сети, генетические алгоритмы и нечеткие системы / Д. Рутковская, М. Пилиньский, Л. Рутковский. Пер. с польского И.Д. Рудинского. — 2-е изд., стереотип. — М.: Горячая линия - Телеком, 2013. — 384 с.
24. Галушкин А.И. Нейронные сети: основы теории / А.И. Галушкин — М.: Горячая линия — Телеком, 2012. — 496 с.