Введение 5
Глава 1. Простейшие методы решения экстремальных задач. Связь с методами решения уравнений 6
1.1. Простейшие методы решения экстремальных задач. Связь с методами
решения уравнений 6
1.1.1. Градиентный спуск 6
1.1.2. Стохастический градиентный спуск 7
1.2. Системы нелинейных уравнений. Метод Ньютона и секущие. Недостатки 7
1.2.1. Метод Ньютона 7
1.2.2. Дискретизация метода Ньютона, Метод секущих 9
1.3. Сведение к задаче поиска экстремума 11
1.4. Моделирование распределений 11
1.5. Марковский процесс 12
1.6. Алгоритм метода Метрополиса 13
Глава 2. Модификации 15
2.1. Имитация отжига и его модификация 15
2.1.1. История имитационного отжига 15
2.1.2. Определение терминов 15
2.1.3. Модификация 18
2.1.4. Новые результаты 21
2.2. Масштабирование функции 22
2.2.1. Алгоритм кластеризации DBSCAN 22
Глава 3. Моделирование 23
3.1. Решение простой нелинейной системы по сравнению с классическим моделируемым отжигом 23
3.1.1. Решение гиперболической системы, масштабирование модели . . 25
3.1.2. Решение многомерной системы, анализ точности 27
Заключение
Список литературы 31
Приложение А. Решение простой нелинейной системы по сравнению с классическим моделируемым отжигом 33
Приложение Б. Решение гиперболической системы, масштабирование модели 38
Приложение В. Решение многомерной системы, анализ точности ... 42
Задача поиска наибольшего (наименьшего) значения функции многих переменных является составной частью многих важных прикладных задач и ей посвящена обширная литература. Различают задачи поиска с ограничениями и без, классические методы решения задачи и стохастические, задачи с одним наибольшим значением в заданной области и многими равными значениями. Последний случай получил развитие сравнительно недавно [1] и задачей данной работы является его обобщение и дальнейшее развитие. В процессе работы были найдены интересные приложения к задаче решения систем уравнений и получены новые результаты в этой области. Работа содержит реферативную часть, которая на простых примерах показывает недостатки существующих классических методов решения экстремальных задач, описывает известные связи между экстремальными задачами и задачами решения систем нелинейных уравнений и описывает наиболее известный и употребительный стохастический метод имитации отжига для решения экстремальных задач. Новыми результатами является Лемма 2, являющаяся уточнением результатов работы [1] и основанный на ней метод отделения и приближенного вычисления корней систем уравнений. Приводятся результаты вычислений для некоторых характерных примеров.
Таким образом, в работе было показано, что обобщение метода имитации отжига, полученное в работе [1] (Ермаков, Куликов, Леора), может быть использовано в задаче автоматического разделения корней системы нелинейных уравнений . Также могут быть указаны начальные приближения для применения методов Ньютона и его модификаций. Теоретической основой указанных методов является лемма 2 главы 3 (новый результат), а также методы изменения масштаба и кластеризации. Приведенные численные примеры свидетельствуют о перспективности разработанных статистических методов.
1. С.М. Ермаков Д.В. Куликов С. Н. Л. К анализу метода имитации отжига в многоэкстремальном случае // Вестник Санкт-Петербургского университета. Математика. Механика. Астрономия. — 2017.—Vol. 4(62), по. 2, —Р. 220-226. — Access mode: https://dspace.spbu.ru/bitstream/11701/6944/1/05-Ermakov.pdf.
2. Hazan E. Introduction to Online Convex Optimization. — 2019. — Sep. — 1909.05207.
3. Hazan E. Lecture Notes: Optimization for Machine Learning. — 2019. — Access mode: https://arxiv.org/pdf/1909.03550vl.
4. Mykel J. Kochenderfer T. A. W. Algorithms for Optimization. — The MIT Press, 2019. — Access mode: https://mitpress.mit.edu/books/algorithms-optimization.
5. Polak E. Computational Methods in Optimization: A Unified Approach. — Elsevier, 1971. — Access mode: https://www.sciencedirect.com/bookseries/ mathematics-in-science-and-engineering/vol/77/suppl/C.
6. Overton M. Quadratic Convergence of Newton’s Method. — 2017. — Access mode: https://cs.nyu.edu/~overton/NumericalComputing/newton.pdf.
7. Ortega J. M., Rheinboldt W. C. Iterative Solution of Nonlinear Equations in Several Variables. — Society for Industrial and Applied Mathematics, 2000. — jan. — Access mode: https://epubs.siam.org/doi/book/10.1137/1.9780898719468.
8. Ермаков С. Метод Монте-Карло в вычислительной математике. Вводный курс. — Российская Федерация : Невский Диалект, 2009.—ISBN: 978-5-7940-0140-2.
9. Stella L. Studies of Classical and Quantum Annealing : Ph. D. thesis ; SISSA. — 2005. — Access mode: https://web.archive.org/web/20060516151710/http://www. sissa.it/cm/thesis/2005/stella.pdf.
10. Henderson D., Jacobson S. H., Johnson A. W. The Theory and Practice of Simulated Annealing // Handbook of Metaheuristics / ed. by Glover F., Kochenberger G. A.— Boston, MA : Springer US, 2003. - P. 287-319. - ISBN: 978-0-306-48056-0. - Access mode: https://www.researchgate.net/publication/225260290_The_Theory_and_ Practice_of_Simulated_Annealing.
11. Equation of State Calculations by Fast Computing Machines / Metropolis N., Rosenbluth A. W., Rosenbluth M. N., Teller A. H., and Teller E. // The Journal of Chemical Physics. — 1953. — June. — Vol. 21, no. 6. — P. 1087-1092. — Access mode: https://www.researchgate.net/publication/239113707_Perspective_on_ Equation_of_state_calculations_by_fast_computing_machines.
12. Ермаков С. Метод Монте-Карло и смежные вопросы.—МОСКВА : НАУКА, 1975.
13. El-Sonbaty Y., Ismail М., Farouk М. An efficient density based clustering algorithm for large databases // 16th IEEE International Conference on Tools with Artificial Intelligence. — IEEE Comput. Soc. — Access mode: https://ieeexplore.ieee.org/ document/1374253.