АННОТАЦИЯ 2
ВВЕДЕНИЕ 4
1 РАССМОТРЕНИЕ АЛГОРИТМОВ РЕШЕНИЯ ОДНОМЕРНОЙ
ЗАДАЧИ И МЕТОДОВ ОЦЕНКИ КОНСТАНТЫ ЛИПШИЦА 6
1.1 Алгоритм решения задач с недифференцируемой целевой функ¬цией и априорно заданной оценкой константы Липшица 6
1.2 Алгоритм информационно-статистического метода решения задач
с недифференцируемой целевой функцией с адаптивным оцениванием глобальной константы Липшица 7
1.3 Алгоритм решения задач геометрическим методом с недифферен¬
цируемой целевой функцией и адаптивным оцениванием локальных констант Липшица 10
1.4 Способы оценивания константы Липшица 12
2 МЕТОДЫ МАШИННОГО ОБУЧЕНИЯ И РАЗРАБОТАНЫЙ
АЛГОРИТМ 15
2.1 Обучение нейронной сети 15
2.2 Информационно-статистический метод решения задач с недиф¬
ференцируемой целевой функцией и адаптивным оцениванием глобальной константы Липшица 17
3 ИСХОДНЫЕ ДАННЫЕ И РЕЗУЛЬТАТЫ ВЫЧИСЛИТЕЛЬНЫХ
ЭКСПЕРИМЕНТОВ 21
ЗАКЛЮЧЕНИЕ 32
БИБЛИОГРАФИЧЕСКИЙ СПИСОК 33
ПРИЛОЖЕНИЕ 1 Код алгоритма решения задач геометрическим методом с недифференцируемой целевой функцией и адаптивным оцениванием локальных констант Липшица с применением машинного обучения 36
Одномерные задачи глобальной оптимизации являются базовыми алгоритмами, которые используются для построения быстрых многомерных методов. У таких задач имеется практическое значение, они нередко возникают в различных областях: электроники, электротехники и многих других.
Сложности решения одномерных задач связаны с требованием большого количества вычислительных ресурсов. Для решения таких задач используются алгоритмы, которые были специально разработаны для решения одномерной задачи:
f * = f (х*) = minf (х), (1)
где а < х < b. В таких задачах целевая функция f (х) будет являться многоэкстремальной функцией, которая выполняет условие Липшица.
Рассматриваются три подхода решения одномерных задач глобальной оптимизации. Первый подход состоит из различных методов геометрического типа, которые в процессе поиска глобального решения создают дополнительные функции. Данные функции аппроксимируют целевую функцию f (х) в области поиска.
Второй подход является информационно-статистическим. Данный подход объединяет методы, в алгоритмах которых поиск глобального минимума строятся на основе вероятностной модели целевой функции.
Третий подход даёт возможность создать методы глобальной оптимизации, которые в процессе поиска настраиваются на локальное поведение целевой функции в различных частях допустимой области. Суть метода заключается в сопряжении глобальной и локальной информации при адаптивном оценивании локальных констант Липшица.
Рассмотренные выше методы показывают различные способы нахождения и использования оценок константы Липшица, которые используются при решении одномерных задач и решении задач глобальной оптимизации. Именно поэтому для построения быстрых многомерных методов в качестве ключевых алгоритмов используют данные методы.
Цель данной работы - реализация алгоритма глобальной оптимизации с применением машинного обучения.
Основным задачами, решаемыми в ходе выполнения данной выпускной квалификационной работы, являются:
- обзор методов одномерной оптимизации;
- обзор методов оценки константы Липшица;
- реализация алгоритма с локальной настройкой константы Липшица;
- обучение метода машинного обучения;
- подстановка метода машинного обучения в алгоритм;
- проведение вычислительных экспериментов.
В процессе данной работы были рассмотрены следующие алгоритмы:
1) алгоритм решения задач с недифференцируемой целевой функцией и априорно заданной оценкой константы Липшица;
2) алгоритм информационно-статистического метода решения задач с недифференцируемой целевой функцией с адаптивным оцениванием глобальной константы Липшиц;
3) алгоритм решения задач геометрическим методом с недифференцируемой целевой функцией и адаптивным оцениванием локальных констант Липшица.
Реализован информационно-статистический метод решения задач с недифференцируемой целевой функцией и адаптивным оцениванием глобальной константы Липшица с интегрированной в него нейронной сетью.
Проведены вычислительные результаты с использованием алгоритма.