Изучив теоретические основы нейросетевого моделирования, я пришёл к следующим выводам:
Развитие искусственных нейронных сетей началось в первой половине двадцатого века. Основоположниками считаются - У.Питтс и У.Маккалок. Они создали первый прототип искусственного нейрона. В данный момент понятие искусственные нейронные сети используются во многих науках и сферах жизни, поэтому однозначного определения данное понятие не имеет. В общем смысле под искусственной нейронной сетью можно понимать математическую модель, которая имеет некоторую аппаратную или программную реализацию, и она основана на принципах работы биологических нейронных сетей.
Искусственные нейронные сети состоят из искусственных нейронов. Принципы работы искусственного нейрона основаны на биологическом аналоге и копируют его основные черты. Искусственный нейрон состоит из входов, у каждого входа есть свой собственный параметр, называемый весом, сигналы, поступающие на входы в искусственный нейрон, умножаются на соответствующий вес, а затем они передаются в блок суммирования, который просто складывает все полученные сигналы и этот полученный сигнал передаётся в функцию активации, которая преобразует это значение и передаёт этот сигнал на выход. Функций активации много. Её выбор зависит от значений, с которыми работает нейронная сеть.
Искусственные нейроны располагаются по-разному и выбор их расположения зависит от задачи, которую необходимо решить. Существует множество архитектур, но их можно разбить на три класса: сети прямого распространения, свёрточные сети и рекуррентные сети. Все эти архитектуры имеют свои достоинства и недостатки. Самая популярная архитектура в использовании - сети прямого распространения. Особенностью данной архитектуры является то, что сигналы распространяются строго от входного слоя к выходному. Если появляется наличие обратной связи, то есть выход нейрона передаётся ему же на вход, то такую сеть можно назвать рекуррентной. Свёрточные нейронные сети состоят из свёрточного слоя, слоёв субдискретизации и полносвязных слоёв.
Самым главным свойством искусственных нейронных сетей является способность к обучению. В обучении нейронных сетей имеется три основные парадигмы: обучение с учителем, обучение без учителя и смешанное обучение. При обучении с учителем через сеть прогоняют обучающую выборку, получают результат и сверяют фактический результат с желаемым, если ошибка, то есть разница между желаемым результатом и фактическим, большая, то применяются специальные алгоритмы, с помощью которых изменяются синаптические веса. Специальных алгоритмов, которые позволяют пересчитать синаптические веса, большое количество. Их выбор также зависит от сети, которую необходимо обучить. Обучение с учителем всегда предполагает, что учитель должен знать правильные ответы. Обучение без учителя такой вид обучения, когда нет правильных ответов. В смешанном обучении перемешивается обучение с учителем и обучение без учителя.
Для построения и реализации искусственных нейронных сетей имеется множество программных решений. Наиболее популярные решения: Neural Network Toolbox, STATISTICA Automated Neural Networks и TensorFlow.
Проведя исследование генеративно-состязательных сетей, можно сделать следующие выводы:
Генеративно-состязательная сеть состоит из двух сетей: генератора и дискриминатора.
Перед генератором стоит задача подбора определённого образа к какой-то заданной категории, а затем создание объекта на основании подобранного образа.
Работа дискриминационных алгоритмов состоит в классификации входных изображений с учётом тех особенностей откуда они получены (или из генератора, или из набора данных)
В качестве архитектуры для дискриминатора чаще всего выбирают свёрточную нейронную сеть, а для генератора транспонированную свёрточную нейронную сеть.
Для обучения генеративно-состязательных сетей используется парадигма обучения без учителя и метод обратного распространения ошибки. Для обучения таких сетей требуется гораздо больше эпох, чем при обучении одной нейронной сети.
Основная проблема генеративно-состязательных сетей заключается в том, что необходимо сразу обучать две модели вместо одной, а также следить, чтобы ни одна из моделей не начала сильно выигрывать другую, потому что если дискриминатор будет постоянно определять, что изображение поддельно, то генератор не сможет обучиться. Таким образом необходимо на всём этапе обучения поддерживать баланс между сетями.
Выбор архитектуры для генератора и дискриминатора играет важную роль в конечном результате. При использовании многослойных персептронов можно получить неплохие результаты, но они в основном будут зашумлёнными даже после множества эпох обучения.
При использовании свёрточной сети в качестве дискриминатора и транспонированной свёрточной сети в качестве генератора можно добиться более лучших результатов нежели от использования многослойного персептрона. В данном случае пропадает изрядная зашумлённость изображения и генерируемые объекты получаются чистыми уже после тысячной эпохи обучения.
Помимо классических задач (распознавание и прогнозирование) искусственные нейронные сети находят применение и в других задачах. В данной работе рассматривается задача колоризации изображений при помощи генеративно-состязательных нейронных сетей. Под колоризацией понимается перевод чёрно-белого изображения в цветное. В настоящий момент колоризация изображений выполняется дизайнерами вручную с использованием графических редакторов, что занимает много времени. При помощи нейронной сети данную процедуру можно осуществлять за очень короткий промежуток времени.
Целью работы является исследование и решение нестандартной задачи для машинного обучения.
Курсовая работа включает в себя три главы:
4. Описание обучающего набора данных;
5. Разработка генеративно-состязательной нейронной сети для колоризации изображений;
6. Разработка интерфейса для взаимодействия с генеративно-состязательной сетью.
Первая глава посвящена рассмотрению обучающего набора данных. Представлена информация об особенностях датасета.
Вторая глава посвящена разработке генеративно-состязательной нейронной сети. Изложена общая архитектура генеративно-состязательных сетей. Особенности при обучении. Характеристики обучения и выбранной архитектуры.
Третья глава представляет собой разработку интерфейса для взаимодействия с нейронной сетью. Разработка осуществляется на языке Python при помощи библиотеки PyQT, которая позволяет создавать десктопные приложения.


Купить