Только Word
Введение 3
Глава 1 Концептуальная модель нейросетевых систем 5
1.1 Общая информация о нейронных сетях 5
1.2 Классификация нейронных сетей 7
1.3 Поэтапное представление процесса разработки 9
Глава 2 Интеллектуальные системы в финансовой сфере экономики 15
2.1 Применение нейронных сетей на фондовом рынке 15
2.2 Выбор и анализ финансовых активов 17
Глава 3 Интеллектуальная обработка данных 21
3.1 Общая информация об аномалиях 21
3.2 Методы обнаружения аномалий 24
3.3 Алгоритм поиска аномалий 27
3.4 Программа для обработки данных 29
Глава 4 Разработка и практическое применение нейросетевых систем 34
4.1 Разработка интеллектуальных систем 34
4.1.1 Многослойная нейронная сеть 34
4.1.2 Рекуррентная нейронная сеть 44
4.2 Статистический анализ временных рядов 50
Заключение 58
Список использованных источников 61
Приложение 1 64
Эффективное управление ресурсами является основной экономической задачей современного мира, вследствие этого повышение показателей роста производительности труда является ключевой проблемой в экономике. Вышеуказанная задача всегда решается путем внедрения новых технологий. В процессе технологической эволюции на первый план выходят интеллектуальные системы управления, которые в свою очередь находятся в постоянном состоянии непрерывного развития. Важным свойством таких систем является способность обучаться и использовать накопленный опыт для принятия решений. Существует достаточно много алгоритмов, которые применяются для обучения таких систем. Но наиболее известным и часто используемым из них является класс алгоритмов под названием “нейронные сети”.
Нейронная сеть - это математическая модель, которая состоит из большого числа простых элементов, соединенных и взаимодействующих между собой. Обучение в этом случае представляет собой поиск оптимальной структуры модели, при которой будет достигаться минимальное расхождение получаемого результата со значениями реальных данных.
На данный момент интеллектуальные системы, построенные на базе нейронных сетей, находят широкое применение во многих областях жизнедеятельности человека, например: в медицине, в IT-сфере и в различных производственных бизнес-процессах. В рамках этой работы будут рассматриваться применение ИИ в финансовой сфере экономики, частью которой является фондовый рынок.
Область применения ИИ на фондовом рынке достаточно широка. Например, он может использоваться при прогнозировании стоимости активов, оценки финансовых рисков, а также он может исполнять часть торгового функционала при операционной деятельности участников рынка.
С ростом доступности цифровых технологий повышается актуальность исследуемой темы. В настоящий момент технологии, использующие нейронные сети, проникают практически во все сферы нашей жизни, поэтому возникает потребность в глубоком исследовании данного вопроса. Поэтому цель данной научно-исследовательской работы заключается в определении и анализе эффективности методик, применяемых в процессе разработки нейронных сетей.
Для реализации данной цели потребовалось решить следующие исследовательские задачи, а именно:
1. Дать характеристику нейронным сетям;
2. Составить поэтапный план разработки;
3. Рассмотреть применение нейронных сетей на фондовом рынке;
4. Выбрать и проанализировать финансовые активы;
5. Выполнить предобработку исходных данных;
6. Разработать и протестировать программы с нейросетевой структурой;
7. Провести оценку методами статистического анализа данных;
8. Сравнить полученные результаты.
Научно-исследовательская работа основана на трудах Т.Теплова и Т.Соколова «Исследовательские поля облигационных рынков», Ф.Фабоцци «Рынок облигаций. Анализ и стратегии» и А.Буренина «Рынок ценных бумаг и производных финансовых инструментов». Помимо этого, были использованы работы Ф.Гафарова и А.Галимянова «Искусственные нейронные сети и их приложения», В.Круглова и В.Борисова «Искусственные нейронные сети. Теория и практика», Т.Рашида «Создаем нейронную сеть», Ф.Шолле «Глубокое обучение на Python».
Реализация вышеуказанных цели и задач обусловила структуру и логику данной работы. Она состоит из четырех глав, введения, заключения, списка используемых источников и приложений. В первой главе представлена общая характеристика нейронных сетей, и выделен поэтапный план их разработки. Во второй главе приводится информация об использовании нейронных сетей на фондовом рынке. Помимо этого, здесь осуществляется выбор и анализ финансовых активов, выделяются исходные данные и определяются задачи для нейронной сети. В третьей главе рассматриваются методы, применяемые для поиска аномальных экземпляров данных. Далее на их основе составляется алгоритм обработки данных, который затем реализуется на программном уровне. В четвертой главе происходит разработка и тестирование программ с нейросетевой структурой. Затем осуществляется оценка данных с помощью методов анализа временных рядов. Наконец, проводится сравнительный анализ между результатами программ и статистической оценки данных, делаются выводы.
Подведем итоги. На основании проведенного научного исследования удалось решить следующие задачи:
1. Выделить ключевые особенности систем ИИ, построенных на базе ИНС;
2. Составить поэтапный план разработки нейронной сети;
3. Определить методы использования нейронных сетей на фондовом рынке;
4. Выбрать и проанализировать финансовые активы;
5. Выполнить предобработку исходных данных;
6. Разработать и протестировать нейросетевые программы;
7. Провести оценку методами статистического анализа данных;
8. Сравнить полученные результаты.
Начнем с того, что первым пунктом научно-исследовательской работы было определение и раскрытие общей информации о системах ИИ, в которых используются искусственные нейронные сети. Например, были выделены главные особенности таких систем, указаны их основные преимущества и недостатки.
Затем было отмечено, что каждая нейронная сеть по-своему уникальна. Она может принимать различные структуры и использовать разные способы обработки информации. Исходя из этого, были приведены классификации и архитектуры нейронной сети.
Далее был представлен и разобран процесс разработки искусственной нейронной сети. Было отмечено, что данный процесс может быть сведен к последовательной реализации следующих этапов:
1. Сбор, подготовка и нормализация данных;
2. Выбор топологии сети;
3. Подбор характеристик сети и параметров обучения;
4. Обучение сети;
5. Проверка адекватности;
6. Регулировка параметров.
Отметим, что каждый вышеназванный этап был подробно описан и проанализирован. Также были обозначены проблемы, которые могут возникать на некоторых стадиях разработки, и представлены варианты их решения.
Затем была приведена информация о том, как используются искусственные нейронные сети на фондовом рынке. Так, была выявлена их область применения, определены положительные и отрицательные стороны.
После этого был выбран и проанализирован финансовый актив. В результате были рассмотрены государственные облигации, выпуском которых занимается правительство РФ, были выделены исходные данные, и была определена задача для нейронной сети.
Затем было отмечено, что некоторые значения из набора данных являются аномальными. Поэтому далее пришлось осуществить предобработку данных. Для этого сначала была приведена общая характеристика об аномалиях. Так, было раскрыто само понятие, затем были выявлены основные причины возникновения аномалий, после чего были определены и проанализированы их виды.
Дальше были рассмотрены методы, которые используются для обнаружения аномалий в массиве данных. Было дано подробное описание методик, были приведены конкретные примеры.
Далее на основе приведенных методик был разработан алгоритм, по которому должен осуществляться поиск аномальных экземпляров данных. В его основе лежит метод главных компонент, который отвечает за предобработку исходных данных, и метод кластерного анализа k-средних, с помощью которого определяются аномальные значения.
Наконец, была получена программа, предназначенная для решения поставленной задачи. Были рассмотрены основные этапы ее работы, проанализированы результаты ее вычислений.
На следующем этапе были представлены системы ИИ с нейросетевой структурой. Сначала была разработана и протестирована программа, в которой использовалась многослойная нейронная сеть. Затем был написан и проанализирован программный код сети с долгой краткосрочной памятью.
Далее была проведена оценка с помощью методов анализа временных рядов. Сначала была построена и оценена интегрированная модель авторегрессии-скользящего среднего. После чего был проведен сравнительный анализ между этой моделью и ранее разработанными нейросетевыми программами.
Таким образом, на основе данных, полученных в ходе написания научно-исследовательской работы, можно сказать, что необходимо постоянно совершенствовать алгоритмы машинного обучения из-за ряда причин:
Во-первых, на системы ИИ довольно часто перекладывают задачи, связанные с обработкой большого массива данных. Основная проблема заключается в том, что необходимо выделить только те данные, которые непосредственно нужны для решения. Так, одним из способов устранения данной проблемы является улучшение обучающих алгоритмов. Благодаря этому система ИИ начинает лучше понимать, какую информацию следует использовать для принятия решений. ....
1. Abadi M. et al. Tensorflow: A system for large-scale machine learning // 12th {USENIX} Symposium on Operating Systems Design and Implementation ({OSDI} 16). – 2016. – P. 265-283.
2. Adebiyi A. A., Adewumi A. O., Ayo C. K. Comparison of ARIMA and artificial neural networks models for stock price prediction // Journal of Applied Mathematics. – 2014. – Vol. 2014.
3. Bholowalia P., Kumar A. EBK-means: A clustering technique based on elbow method and k-means in WSN // International Journal of Computer Applications. – 2014. – Vol. 105. – №. 9.
4. Brownlee J. Deep learning with Python: develop deep learning models on Theano and TensorFlow using Keras. – Machine Learning Mastery, 2016. – 256 p.
5. Chen K., Zhou Y., Dai F. A LSTM-based method for stock returns prediction: A case study of China stock market // 2015 IEEE international conference on big data (big data). – IEEE, 2015. – P. 2823-2824.
6. Erfani S. M. et al. R1SVM: a randomised nonlinear approach to large-scale anomaly detection // Proceedings of the Twenty-Ninth AAAI Conference on Artificial Intelligence. – 2015. – P. 432-438.
7. Ghosh S., Dubey S. K. Comparative analysis of k-means and fuzzy c-means algorithms // International Journal of Advanced Computer Science and Applications. – 2013. – Vol. 4. – №. 4.
8. Gulli A., Pal S. Deep learning with Keras. – Packt Publishing Ltd, 2017.
9. Hoffer E., Hubara I., Soudry D. Train longer, generalize better: closing the generalization gap in large batch training of neural networks // Advances in Neural Information Processing Systems. – 2017. – P. 1731-1741.
10. Hope T., Resheff Y. S., Lieder I. Learning tensorflow: A guide to building deep learning systems. – "O'Reilly Media, Inc.", 2017.
11. Ketkar N. Introduction to keras // Deep learning with Python. – Apress, Berkeley, CA, 2017. – P. 97-111.
12. Ketkar N. Introduction to Tensorflow // Deep Learning with Python. – Apress, Berkeley, CA, 2017. – P. 159-194.
13. Kind A., Stoecklin M. P., Dimitropoulos X. Histogram-based traffic anomaly detection // IEEE Transactions on Network and Service Management. – 2009. – Vol. 6. – №. 2. – P. 110-121.
14. Lai G. et al. Modeling long-and short-term temporal patterns with deep neural networks // The 41st International ACM SIGIR Conference on Research & Development in Information Retrieval. – 2018. – P. 95-104.
15. Laxhammar R., Falkman G., Sviestins E. Anomaly detection in sea traffic-a comparison of the gaussian mixture model and the kernel density estimator // 2009 12th International Conference on Information Fusion. – IEEE, 2009. – P. 756-763.....56