Введение 4
Глава 1. О методе сопряженных градиентов 5
1.1. Минимизация квадратичной функции 5
1.2. Общая задача безусловной минимизации 6
1.3. Обновление 6
1.4. Линейный поиск 7
1.5. Параметр сопряженности 10
Глава 2. Сходимость 12
2.1. Условия 12
2.2. Теорема Зойтендейка 12
Глава 3. Численные эксперименты и их анализ 14
3.1. Целевая функция 14
3.2. Численные эксперименты 15
3.3. Анализ результатов 18
Глава 4. Минимизация циклической функции 20
4.1. Неравенство Шапиро 20
4.2. Постановка задачи и метод решения 20
4.3. Начальное приближение 21
4.4. Результаты вычислений 22
Глава 5. Геометрический вариант метода сопряженных градиентов . . 25
5.1. Особенности геометрического варианта 25
5.2. Сходимость 26
Заключение 29
Список литературы 30
Метод сопряженных градиентов применяется для решения задач безусловной минимизации. Метод имеет длительную историю развития, начальный этап которого был подробно описан Голубом и О’Лири в обзорной статье [10].
Первая работа в данной области принадлежит Хестенсу и Штифелю и датируется 1952 годом [1]. В этой работе метод споряженных градиентов применялся для решение систем линейных уравнений. В 1964-м году Флетчер и Ривз [9] в первый использовали метод сопряженных градиентов для минимизации гладких функций.
Развитие метода продолжается и сейчас: разрабатываются новые варианты метода, исследуются вопросы сходимости.
Достоинствами метода сопряженных градиентов являются его простота и низкие затраты памяти, что делает его особенно эффективным при решении задач большой размерности.
В данной работе представлен обзор и сравнение различных вариантов метода сопряженных градиентов. Большое внимание уделяется наиболее эффективным способам осуществления линейного поиска. Исследуются вопросы сходимости. На примере задачи о минимизации циклической функции проверяется эффективность работы метода.
1. В рамках данной работы проведен обзор и численное сравнение различных вариантов метода сопряженных градиентов.
2. С помощью метода сопряженных градиентов решена задача о построении контрпримеров для неравенства Шапиро.
3. Доказана теорема о сходимости геометрического варианта метода сопряженных градиентов при точном линейном поиске.
4. Установлено свойство убывания целевой функции в геометрическом варианте метода сопряженных градиентов при неточном линейном поиске.
Предварительные результаты опубликованы в [8].
1. Hestenes M. R., Stiefel E. Method of Conjugate Gradients for Solving Linear Systems // Journal of Research of the National Bureau of Standards. 1952. Vol. 49. P. 409-436.
2. Малозёмов В. Н. О методе сопряжённых градиентов. Семинар «DHA &CAGD». Избранные доклады. 28.04.2012. URL:http://dha.spb.ru/reps12.shtml#0428.
3. Nocedal J., Wright S. J. Numerical Optimization. 2nd edition. Springer, 2006. P. 664.
4. Pytlak R. Conjugate Gradient Algorithms in Nonconvex Optimization. Springer, 2009. P. 478.
5. Powell M. J. D. Restart Procedures of the Conjugate Gradient Method // Mathematical Programming. 1977. Vol. 12. P. 241-254.
6. Малозёмов В. Н. Циклические функции и экстремальные задачи. Семинар «CNSA &NDO». Избранные доклады. 27.08.2015. URL:http://www.apmath.spbu.ru/cnsa/reps15.shtml#0827.
7. Малозёмов В. Н. Варианты метода сопряжённых градиентов. Семинар «CNSA &NDO». Избранные доклады. 29.10.2015. URL:http://www.apmath.spbu.ru/cnsa/reps15.shtml#1029.
8. Плоткин А. В. Минимизация циклической функции // Процессы управления и устойчивость. Vol. 3 (19). 2016. (принята в печать).
9. Fletcher R., Reeves C. M. Function Minimization by Conjugate Gradients // Computer Journal. 1964. Vol. 7. P. 149-154.
10. Golub G. H., O’Leary D. P. Some History of the Conjugate Gradient Methods and Lanczos Algorithms: 1948-1976 // SIAM Rev. 1989. Vol. 31. P. 50-102.
11. Hager W. W., Zhang H. A Survey of Nonlinear Conjugate Gradient Methods // Pacific Journal of Optimization. 2006. Vol. 2. P. 335-358.
12. Dai Y. H. Nonlinear Conjugate Gradient Methods. Wiley Encyclopedia of Operations Research and Management Science. 15.02.2011.