Введение 3
Глава 1. Общие концепции искусственных нейронных сетей 5
§1.1 Искусственная нейронная сеть 5
§1.2 Основные задачи, решаемые искусственными нейронными сетями 8
§1.3 Возможности повторного использования существующих сетей 8
§1.4 Основные методы проектирования сетей 9
Глава 2. Постановка задачи 11
§2.1 Постановка задачи 11
Глава 3. Разработка программной части 12
§3.1 Разработка программной части 12
§3.2 Структура искусственного нейрона 13
§3.3 Реализация сети 15
§3.4 Обучение методом обратного распространения ошибки. 16
Глава 4. Производящая сеть 19
§4.1 Структура 19
§4.2 Подготовка тестовых данных 19
Глава 5. Вторая сеть 22
§5.1 Структура 22
§5.2 Анализ зависимостей 22
§5.3 Определение оптимальных параметров 28
Выводы 31
Литература 32
Приложения 34
Люди часто в обращаются к природе в процессе поиска решения той или иной задачи. Схема строения самолета и принципы его работы были переняты у птиц. Основываясь на опыте природы людям удалось разработать современные средства передвижения без которых трудно представить путешествия. Так же произошло и с самым сложным органом человеческого организма. Мозг человека является универсальным вычислительным устройством, способным приспосабливаться и подстраиваться под окружающую обстановку. Эти качества позволяют ему решать различные по сложности задачи в совершенно не связанных областях.
В середине прошлого века исследования ученых из разных областей биологии легли в основу систем моделирования деятельности головного мозга, на базе которых была построена теория искусственных нейронных сетей. Они дали начало развитию огромному количеству технологий и научных областей [1].
Сначала была разработана модель отдельного нейрона, моделирующего работу нервной сети на низком уровне. Однако такая система могла решать лишь ограниченный спектр задач. В мозгу биологические нейроны объединяются в группы и связываются с огромными количествами себе подобных. Возможности таких систем оказались намного шире и они были приспособлены к решению задач на которые ранее требовалось много усилий. Это распознавание, кластеризация и принятие решений. Кроме того искусственные нейронные сети обладают устойчивостью к зашумлению входных данных. Это означает, что незначительные изменения входных данных приводят к незначительным отклонениям в результатах. В то время как в при применении стандартных алгоритмов, последствия могут быть непредсказуемыми [2-6].
Другой не менее удивительной особенностью нейронных сетей является их способность приспосабливаться к изменениям среды в которой они работают. При изменении входных данных они могут обучиться, подстроится, и продолжить выдавать корректный результат.
Особенно сильно интерес к ИНС проявился в последние годы. Это связано с развитием электронных вычислительных устройств, позволяющим ускорить обработку данных и сократить время необходимое для обучения сети.
Сфера применения нейронных сетей постоянно расширяется. Цифровые ассистенты в больницах помогают врачам при анализе симптомов и определении диагноза, на производстве внедряются системы способные проводить анализ качества продукции, набирают популярность автомобили оснащенные автопилотом для движения без участия водителя. Все эти примеры включают в себя применение нейронных сетей для обработки данных.
На данный момент нет других подходов к решению подобных задач, дающих столь впечатляющие результаты. Вероятнее всего развитие ИНС будет продолжаться. Постоянно появляются новые подходы к обучению и применению сетей. Все больше потребительских устройств поддерживают реализации функций необходимых для работы ИНС на аппаратном уровне, что позволяет повысить их производительность еще больше. Не говоря уже о специализированном оборудовании.
В данной работе было проведено исследование возможностей применения нейронных сетей для анализа других сетей. Разработан программный продукт, реализующий набор инструментов для построения и управления ИНС, а также позволяющий проводить анализ данных обучения и представлять их в наглядной форме. В результате:
• подтверждено наличие зависимостей между внутренними параметрами и поведением в процессе обучения.
• проанализированы полученные в результате экспериментов данные.
• определен метод поиска параметров для достижения минимума функции оптимальности.
Процесс сбора информации и выявления зависимостей удалось практически полностью автоматизировать. А вот процесс поиска оптимальных значений требует значительного участия человека.
[1] Рутковская Д., Пилиньский М., Рутковский Л. Нейронные сети, генетические алгоритмы и нечеткие системы. М.: Горячая линия - Телеком, 2006.
[2] Калацкая Л.В., Новиков В.А., Садков В.С. Организация и обучение искусственных нейронных сетей Мн.:БГУ, 2003
[3] Хайкин С. Нейронные сети полный курс. М., 2006.
[4] Под ред. В.П. Боровикова. Нейронные сети. STATISTICA Neural Networks. Методология и технология современного анализа данных. М.: Телеком.
[5] Горбань А.Н., Россиев Д.А. Нейронные сети на персональном компьютере. Новосибирск: Наука 1996.
[6] Горбань А.Н. Обучение нейронных сетей. М.: ПараГраф, 1990.
[7] Мак-Каллок У. С., Питтс В. Логическое исчисление идей, относящихся к нервной активности. Автоматы. Под ред. К. Э. Шеннона и Дж. Маккарти. — М.: Изд-во иностр. лит., 1956.
[8] Загоруйко Н.Г. Прикладные методы анализа данных и знаний. - Новосибирск. Изд. Института математики, 1999.
[9] Максимов Ю.А., Филлиповская Е.А. Алгоритмы решения задач нелинейного программирования. — М.: МИФИ, 1982.
[10] Н. Винер. Кибернетика. 2-е изд., 1961, гл. I.
[11] Коршунов Ю.М. Математические основы кибернетики. — М.: Энергоатомиздат, 1972.
[12] И.В. Заенцев. Нейронные сети: основные модели. Учебное пособие по курсу "Нейронные сети" для студентов 5 курса магистратуры к. электроники физического факультета Воронежского Государственного университета.
[13] А.Н.Горбань, В.Л.Дунин-Барковский, А.Н.Кирдин и др. Нейроинформатика. - Новосибирск: Наука. Сибирское предприятие РАН, 1998.
[14] Миркес Е.М. Учебное пособие по курсу Нейроинформатика. Красноярск - 2002.
[15] Сотник С.Л. Конспект лекций по курсу "Основы проектирования систем искусственного интеллекта".
...