Введение 3
Глава 1. Постановка и формализация задачи 5
1.1 Динамические системы и их модели 5
1.2 Основные понятия зондоформирующих систем 6
1.3 Управляющие параметры 8
1.4 Физическая модель зондоформирующей системы 9
1.5 Заключение к Главе 1 12
Глава 2. Математическая модель микрозонда 13
2.1 Линейная модель зондоформирующей системы 13
2.2 Основные понятия искусственных нейронных сетей 15
2.3 Классификация нейронных сетей 17
2.4 Глубокие нейронные сети 19
2.5 Полиномиальная нейронная сеть 20
2.6 Заключение к Главе 2 23
Глава 3. Программная реализация 24
3.1 Обзор существующих решений для создания искусственных
нейронных сетей 24
3.2 Применение искусственной нейронной сети для моделирования
зондоформирующих систем 25
3.3 Пользовательский интерфейс приложения 26
3.4 Вычислительный эксперимент 28
3.5 Заключение к Главе 3 31
Заключение 32
Список литературы 33
Динамические системы являются неотъемлемой частью современной науки [3]. Многие существующие объекты представляют из себя динамические системы, поэтому изучение внутренних связей и процессов функционирования подобных систем представляет особый интерес.
В качестве примера реальной динамической системы будем рассматривать ускорители заряженных частиц, а именно системы фокусировки пучка частиц под названием зондоформирующие системы (ЗФС). Данные системы фокусируют пучок заряженных частиц на мишень, обеспечивая сохранение необходимых свойств и характеристик пучка. Для достижения требуемых размеров пучка на мишени, которые обычно варьируются от микро- до нанометров, реальная установка должна быть точно настроена. Подобные устройства очень чувствительны к любым отклонениям управляющих элементов, число которых значительно выросло в процессе развития данных систем [4]. Так как в качестве мишени может выступать практически любой объект, подобные устройства применяются во многих областях науки: имплантация ионов (см., например, [36]), изменение состава материалов (см., например, [19]), лечение и диагностика болезней (см., например, [28]).
Традиционно для численного решения дифференциальных уравнений, описывающих ЗФС, применяются различные модификации методов Рунге- Кутты, зависящие от конкретной задачи. В качестве недостатков данного подхода можно отметить низкую устойчивость решений к возможным отклонениям, а также заметное нарастание объема вычислений при увеличении размеров задачи [1]. Использование данных методов подразумевает проведение всех вычислений заново при каких-либо изменениях в конструкции ЗФС, что достаточно неудобно на практике.
Возникает задача поиска метода, лишенного данных недостатков и дающего возможность провести сравнение результатов с классическим подходом, что важно перед проведением дорогостоящих экспериментов на реальных устройствах.
Технологии искусственного интеллекта могут помочь в решении данной задачи [23]. В данной работе рассматривается подход с использованием нейронных сетей. Нейронные сети находят применение во многих предметных областях: решение обыкновенных дифференциальных уравнений [31, 41]; идентификация динамических систем [43], детектирование частиц [40], алгоритмы компьютерного зрения [34, 44] и других. Нейронные сети также открывают возможность использования современных методов обработки данных, таких как параллельные и распределенные вычисления.
С учетом вышеизложенного целью данной работы является исследование применимости искусственных нейронных сетей для математического и компьютерного моделирования зондоформирующих систем.
Для достижения поставленной цели необходимо решить следующие задачи:
1) исследование и поиск решений проблем, возникающих при моделировании и эксплуатации зондоформирующих установок;
2) обзор существующих методов построения нейронных сетей и применение их для моделирования зондоформирующих систем;
3) проведение численных экспериментов;
4) анализ полученных результатов.
В данной работе на примере таких динамических систем, как системы фокусировки пучка частиц, были исследованы и описаны проблемы, возникающие в процессах моделирования, проектирования и использования подобных систем. Был проведен обзор литературы, касающейся искусственных нейронных сетей, отмечены их основные понятия, особенности построения и применения. В работе был предложен способ моделирования зондоформирующих систем с помощью нейронных сетей. Для проверки корректности предложенного метода было разработано специальное программное обеспечение. При помощи созданной программы на реальных данных были проведены вычислительные эксперименты, которые доказали применимость искусственных нейронных сетей для математического и компьютерного моделирования зондоформирующих систем.
В качестве перспектив для развития представленной работы можно отметить возможность исследования особенностей применения рассматриваемого подхода для моделирования иных динамических систем. Изучение точности и устойчивости предлагаемого метода могут позволить усовершенствовать используемую математическую модель. Рассмотренные нейронные сети могут также быть использованы для решения задач, возникающих при идентификации динамических систем. Расширение средств визуализации и ввода данных является перспективой развития программной части. Приложение может быть дополнено соответствующими модулями для решения других задач физики ускорителей заряженных частиц.
[1] Андрианов С.Н. Динамическое моделирование систем управления пучками частиц. СПбГУ. 2002. 376 с.
[2] Андрианов С.Н., Дымников А.Д., Осетинский Г.М. Система формирования протонных пучков микронных размеров. // Приборы и техника эксперимента. 1982. Том. 1. с. 39-42.
[3] Андронов А. А., Витт А. А., Хайкин С. Э. Теория колебаний. — 2-е изд., перераб. и испр.. — М.: Наука, 1981. — 918 с.
[4] Дымников А.Д., Явор С.Я. // ЖТФ. 1963. Т. 33. В. 7. С. 851.
[5] Ефимов И. Н., Морозов Е. А., Селиванов К. М. Компьютерное моделирование динамических систем //Ижевск: Институт компьютерных исследований. - 2014. - С. 134.
[6] Малинецкий Г. Г., Потапов А. Б., Подлазов А. В. Нелинейная динамика: подходы, результаты, надежды. — М.: УРСС, 2006.
[7] Мартиросян Ю. Л. Исследование эффектов краевых магнитных полей в накопительных кольца // ЖТФ. 2003. Т. 73. В.10.
[8] Беллман Р. Введение в теорию матриц. Москва. 1976. 351c.
[9] Галушкин А. И. Синтез многослойных систем распознавания образов. — М.: «Энергия», 1974.
[10] Джексон Дж. Классическая электродинамика. Перевод с английского Г. В. Воскресенского и Л. С. Соловьева. Под редакцией Э. Л. Бурштейна. Изд «Мир» Москва 1965. - 703 с.
[11] Домашняя страница проекта Deeplearning4j // Deep Learning for Java. — Режим доступа: https://deeplearning4j.org/(дата обращения: 22.04.2020).
[12] Домашняя страница проекта Keras // Keras: the Python deep learning API. --Режим доступа: https://keras.io/(дата обращения: 22.04.2020).
[13] Домашняя страница проекта PyTorch // From Research to Production. --Режим доступа: https://pytorch.org/(дата обращения: 22.04.2020).
[14] Домашняя страница проекта PyQt // Riverbank Computing. — Режим
доступа: https://riverbankcomputing.com/software/pyqt/intro (дата
обращения: 22.04.2020).
[15] Домашняя страница проекта TensorFlow // An end-to-end open source machine learning platform. — Режим доступа: https://www.tensorflow.org/(дата обращения: 22.04.2020).
[16] Игнатьев И. Г. и др. Oптимизация электростатической системы ионного микрозонда //Ядерна ф1зика та енергетика. 2012. Т. 13. № 1. С. 97-100.
[17] Ландау Л.Д., Лифшиц Е.М. Теория поля. — Издание 7-е, исправленное. — М.: Наука, 1988.
[18] Круглов В. В., Борисов В. В. Искусственные нейронные сети. Теория и практика. — М.: Горячая линия - Телеком, 2001. — 382 с.
[19] Романенко А.В. Формирование ионного микропучка для исследования радиационно-стимулированной миграции примеси в твердом теле. Сумы. 2016.
[20] Романенко А.В., Пономарев А.Г. Влияние гистерезиса магнитных квадрупольных линз на процесс фокусировки пучка при изменении его энергии в ядерном сканирующем микрозонде // Письма в журнал технической физики, 2013, том 39, выпуск 7, С. 1-8.
[21] Смалюк В.В. Диагностика пучков заряженных частиц в ускорителях / Под ред. чл.-корр. РАН Н. С. Диканского. Новосибирск: Параллель, 2009. 294 с.
[22] Терешонков Ю.В. Математическое моделирование зондоформирующих систем. СПбГУ. 2010. 152 с.
[23] Тихонов А.В. Мультиагентные технологии анализа и оптимизации микро- и нанозондовых систем. СПбГУ. 2018. 42 с.
[24] Уоссермен, Ф. Нейрокомпьютерная техника: Теория и практика = Neural Computing. Theory and Practice. — М.: Мир, 1992. — 240 с.
[25] Чернышев А.А. Моделирование и оптимизация систем транспортировки и фокусировки пучков частиц. СПбГУ. 2010. 149 с.
[26] Штеффен К. Оптика пучков высокой энергии. — М.:Мир, 1969 — 223 с.
[27] Andrianov S. Edamenko N., Chernyshev A. and Tereshonkov Yu. Synthesis of Optimal Nanoprobe (Linear Approximation), Proceedings of EPAC08, Genoa, Italy. 2008. P. 2125-2127.
[28] Barapatre Nirav Application of Ion Beam Methods in Biomedical Research - Quantitative Microscopy with Trace Element Sensitivity. 2013.
[29] Bengio Y. Learning deep architectures for AI // Foundations and trends® in Machine Learning, Vol. 2. 2009. P. 1-127.
[30] Berz M., Erdelyi B., Makino K. Fringe field effects in small rings of large acceptance // Phys. Rew. St-Accelerators and Beams 2000. Vol. 3. N 124001. P. 1-11.
[31] Chen T. Q. et al. Neural ordinary differential equations, Advances in neural information processing systems. 2018. P. 6571-6583.
[32] Darryl J. Leiter. Van de Graaff, Robert Jemison A to Z of Physicists. 2003. P. 312.
[33] Dragt, A. Lie Methods for Nonlinear Dynamics with Applications to Accelerator Physics. 2011.
[34] Fang W. et al. A deep learning-based approach for mitigating falls from height with computer vision: Convolutional neural network, Advanced Engineering Informatics. Vol. 39. 2019. P. 170-177.
[35] Goodfellow I., Bengio Y., Courville A. Deep learning. MIT press. 2016.
[36] Ishaq Ahmad Introductory Chapter: Introduction to Ion Implantation, Ion Implantation. InTech. 2017.
[37] Ivanov, A., Andrianov, S., Krushinevskii, E., Kulabukhova, N., Sboeva, E., & Sholokhova, A. Matrix representation of Lie transform in TensorFlow. In 9th Int. Particle Accelerator Conf.(IPAC'18). Vancouver, BC, Canada. 2018. P. 3438-3440.
[38] Jamieson D.N., Rout B., Szymanski R. The new Melbourne nuclear microprobe system. Nuclear Instruments and Methods in Physics Research Section B: Beam Interactions with Materials and Atoms, Vol. 190, Issue 1-4, 2002. P. 54-59.
[39] Kohonen T. Self-Organizing Maps (Third Extended Edition), New York, 2001.
[40] Majoros T., Ujvari B. Stability study of the neural network at particle physics detectors, Carpathian Journal of Electronic and Computer Engineering, Vol. 11. 2018. P. 48-52.
[41] Mall S., Chakraverty S. Comparison of artificial neural network architecture in solving ordinary differential equations, Advances in Artificial Neural Systems, 2013.
[42] Manuel J. E. et al. Design and construction of an electrostatic quadrupole doublet lens for nuclear microprobe application Nuclear Instruments and Methods in Physics Research Section B: Beam Interactions with Materials and Atoms, Vol. 404. 2017. P. 21-28.
[43] Raissi M., Perdikaris P., Karniadakis G. E. Multistep neural networks for data- driven discovery of nonlinear dynamical systems, arXiv preprint arXiv:1801.01236. 2018.
[44] Ramirez I. et al. Convolutional neural networks for computer vision-based detection and recognition of dumpsters, Neural Computing and Applications, 2018, P. 1-9.
[45] Schmidhuber, J. Deep Learning in Neural Networks: An Overview // Neural Networks. 61: 85-117. 2015.
[46] Tara N Sainath, Brian Kingsbury, Vikas Sindhwani Low-rank matrix factorization for deep neural network training with high-dimensional output targets, Acoustics, Speech and Signal Processing (ICASSP), Conference on IEEE. 2013. P. 6655-6659.
[47] Wenlin Chen, James Wilson, Stephen Tyree Compressing neural networks with the hashing trick, International Conference on Machine Learning. 2015. P. 2285-2294.
[48] Xue Jian, Li Jinyu, Gong Yifan Restructuring of deep neural network acoustic models with singular value decomposition. Interspeech. 2013. P. 2365-2369.