Введение 5
Глава 1. Простейшие методы решения экстремальных задач. Связь с методами решения уравнений 6
1.1. Простейшие методы решения экстремальных задач. Связь с методами
решения уравнений 6
1.1.1. Градиентный спуск 6
1.1.2. Стохастический градиентный спуск 7
1.2. Системы нелинейных уравнений. Метод Ньютона и секущие. Недостатки 7
1.2.1. Метод Ньютона 7
1.2.2. Дискретизация метода Ньютона, Метод секущих 9
1.3. Сведение к задаче поиска экстремума 11
1.4. Моделирование распределений 11
1.5. Марковский процесс 12
1.6. Алгоритм метода Метрополиса 13
Глава 2. Модификации 15
2.1. Имитация отжига и его модификация 15
2.1.1. История имитационного отжига 15
2.1.2. Определение терминов 15
2.1.3. Модификация 18
2.1.4. Новые результаты 21
2.2. Масштабирование функции 22
2.2.1. Алгоритм кластеризации DBSCAN 22
Глава 3. Моделирование 23
3.1. Решение простой нелинейной системы по сравнению с классическим моделируемым отжигом 23
3.1.1. Решение гиперболической системы, масштабирование модели . . 25
3.1.2. Решение многомерной системы, анализ точности 27
Заключение
Список литературы 31
Приложение А. Решение простой нелинейной системы по сравнению с классическим моделируемым отжигом 33
Приложение Б. Решение гиперболической системы, масштабирование модели 38
Приложение В. Решение многомерной системы, анализ точности ... 42
Задача поиска наибольшего (наименьшего) значения функции многих переменных является составной частью многих важных прикладных задач и ей посвящена обширная литература. Различают задачи поиска с ограничениями и без, классические методы решения задачи и стохастические, задачи с одним наибольшим значением в заданной области и многими равными значениями. Последний случай получил развитие сравнительно недавно [1] и задачей данной работы является его обобщение и дальнейшее развитие. В процессе работы были найдены интересные приложения к задаче решения систем уравнений и получены новые результаты в этой области. Работа содержит реферативную часть, которая на простых примерах показывает недостатки существующих классических методов решения экстремальных задач, описывает известные связи между экстремальными задачами и задачами решения систем нелинейных уравнений и описывает наиболее известный и употребительный стохастический метод имитации отжига для решения экстремальных задач. Новыми результатами является Лемма 2, являющаяся уточнением результатов работы [1] и основанный на ней метод отделения и приближенного вычисления корней систем уравнений. Приводятся результаты вычислений для некоторых характерных примеров.
Таким образом, в работе было показано, что обобщение метода имитации отжига, полученное в работе [1] (Ермаков, Куликов, Леора), может быть использовано в задаче автоматического разделения корней системы нелинейных уравнений . Также могут быть указаны начальные приближения для применения методов Ньютона и его модификаций. Теоретической основой указанных методов является лемма 2 главы 3 (новый результат), а также методы изменения масштаба и кластеризации. Приведенные численные примеры свидетельствуют о перспективности разработанных статистических методов.