Выпускная квалификационная работа посвящена актуальной проблеме исследования и реализации алгоритмов оптимизации.
По мере развития алгоритмических и вычислительных методов оптимизация стала применяться к широкому спектру задач, включая финансовое планирование, производство, управление цепочками поставок, смягчение последствий изменения климата и контроль загрязнения.
В этой связи исследование и реализация алгоритмов оптимизации представляют актуальность и научно-практический интерес.
Для достижения данной цели в процессе работы над бакалаврской работой решены следующие задачи:
• выполнена постановка задачи исследования и проанализированы методы моделирования оптимизации. Детерминированная оптимизация или математическое программирование - это классический способ оптимизации с помощью математических моделей. Рассмотрены некоторые метолы оптимизации. Метод градиентного спуска представляет собой приближенный итеративный метод математической оптимизации. Его можно использовать для приближения к минимуму любой дифференцируемой функции. Методы стохастической аппроксимации - это семейство итерационных алгоритмов, обычно используемых для поиска корней или задач оптимизации. Метод Ньютона — самый классический и известный алгоритм детерминированной оптимизации, итерационный численный метод решения оптимизационных задач;
• проанализированы алгоритмы оптимизации. АСГС отличается от обычного градиентного спуска тем, что градиент оптимизируемой функции считается на каждом шаге не как сумма градиентов от каждого элемента выборки, а как градиент от одного, случайно выбранного элемента. Целью стохастических алгоритмов является нахождение экстремумов функций, которые неизвестны, но где доступны только зашумленные наблюдения. Алгоритм имитации отжига основан на аналогии с процессом кристаллизации вещества, например, при отжиге металла. Как и в случае с методами, эффективность того или иного алгоритма оптимизации сильно зависит от условий конкретной задачи оптимизации.;
• выбран язык программирования Python и выполнена реализация АСГС. Язык Python широко применяется для реализации алгоритмов обработки больших данных и в машинном обучении. Для проведения вычислительного эксперимента использованы тестовые данные, которые графически представляют собой наборы черных и красных точек. Исследование фактических значений потерь в конце 100-й эпохи показали, что потери, полученные с помощью АСГС, почти на два порядка ниже, чем при классическом градиентном спуске (0,006 против 0,447 соответственно). Эта разница связана с несколькими обновлениями весов за эпоху, что дает представленной модели больше шансов учиться на обновлениях, внесенных в матрицу весов.
Результаты бакалаврской работы представляют научно-практический интерес и могут быть рекомендованы для исследования методов и алгоритмов оптимизации.

Купить