Разработка метода подбора начальных весовых коэффициентов для нейронной сети WTA
|
ВВЕДЕНИЕ 5
1 Анализ существующих методов и систем диагностики неисправностей
дизелей на автоматизированных стендах испытаний ДВС 9
1.1 Анализ исследований в области диагностики силовых установок 9
1.2 Анализ методов кластеризации 10
1.2.1 Алгоритм вероятностного подхода 11
1.2.2 Алгоритм теоретико - графового подхода 12
1.2.3 Алгоритмы на основе систем искусственного интеллекта 13
1.3 Принципы функционирования нейронной сети 15
1.4 Обзор методов и средств испытаний ДВС 26
1.5 Обзор испытательных стендов 31
2 Совершенствование алгоритма подбора начальных весовых коэффициентов
нейронной сети при проведении диагностики неисправностей дизелей 34
2.1 Анализ структуры автоматизированного стенда испытания дизелей ... 34
2.2 Построение структуры нейронной сети WTA для кластеризации
неисправностей дизелей 37
2.2.1 Алгоритм модуля «Заполнение векторов x, w, d» 39
2.2.2 Алгоритм модуля «Расчет выходов всех нейронов» 41
2.2.3 Алгоритм модуля «Определение победителя» 42
2.2.4 Алгоритм модуля «Нормализация» 44
2.3 Процесс обучения нейронной сети WTA 47
2.4 Модернизированный способ подбора начальных весовых
коэффициентов 49
3 Диагностика неисправностей дизелей на основе нейронной сети WTA 56
3.1 Разработка модуля ввод входных данных в блок диагностики
неисправностей АСИ дизелей 56
3.2 Разработка модуля нормализации входных данных 59
3.3 Разработка модуля обучения нейронной сети WTA 63
3.4 Сравнение методов подбора начальных весовых коэффициентов 64
ЗАКЛЮЧЕНИЕ 70
СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ 71
ПРИЛОЖЕНИЕ А 75
1 Анализ существующих методов и систем диагностики неисправностей
дизелей на автоматизированных стендах испытаний ДВС 9
1.1 Анализ исследований в области диагностики силовых установок 9
1.2 Анализ методов кластеризации 10
1.2.1 Алгоритм вероятностного подхода 11
1.2.2 Алгоритм теоретико - графового подхода 12
1.2.3 Алгоритмы на основе систем искусственного интеллекта 13
1.3 Принципы функционирования нейронной сети 15
1.4 Обзор методов и средств испытаний ДВС 26
1.5 Обзор испытательных стендов 31
2 Совершенствование алгоритма подбора начальных весовых коэффициентов
нейронной сети при проведении диагностики неисправностей дизелей 34
2.1 Анализ структуры автоматизированного стенда испытания дизелей ... 34
2.2 Построение структуры нейронной сети WTA для кластеризации
неисправностей дизелей 37
2.2.1 Алгоритм модуля «Заполнение векторов x, w, d» 39
2.2.2 Алгоритм модуля «Расчет выходов всех нейронов» 41
2.2.3 Алгоритм модуля «Определение победителя» 42
2.2.4 Алгоритм модуля «Нормализация» 44
2.3 Процесс обучения нейронной сети WTA 47
2.4 Модернизированный способ подбора начальных весовых
коэффициентов 49
3 Диагностика неисправностей дизелей на основе нейронной сети WTA 56
3.1 Разработка модуля ввод входных данных в блок диагностики
неисправностей АСИ дизелей 56
3.2 Разработка модуля нормализации входных данных 59
3.3 Разработка модуля обучения нейронной сети WTA 63
3.4 Сравнение методов подбора начальных весовых коэффициентов 64
ЗАКЛЮЧЕНИЕ 70
СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ 71
ПРИЛОЖЕНИЕ А 75
Актуальность работы. В сфере информационных технологий нейронная сеть - сеть, состоящая из искусственных нейронов (программируемая конструкция, имитирующая свойства биологических нейронов). Использование искусственной нейронной сети (ИНС) для кластеризации способствует снижению объема хранимых данных за счет создания базы знаний весовых коэффициентов. Это позволяет проводить уточнение базы путем обучения для повышения точности кластеризации. В случае появления новых данных, их можно добавить в разрабатываемую базу путем изменения структуры сети. В силу того, что ИНС широко используются в ряде областей научных и прикладных исследований, проблема выбора оптимальной структуры сетей и алгоритмов их обучения является актуальной научной задачей.
Разработка конкурентоспособных дизелей предполагает применение перспективных методов повышения качества управления, экспериментальную доводку двигателя, сокращение сроков разработки и подготовки его серийного выпуска, а также контроль качества на всех этапах производства [1].
Заключительным процессом, как конструирования новой модели, так и производство серийных двигателей являются стендовые испытания, позволяющие производить оценку конструкции, определение ее соответствия по технологическим и общим требованиям. Если испытания прошли хорошо, и никаких отклонений не было выявлено, то, как правило, на этом процесс испытаний заканчивается. Если же во время испытаний выявились какие-то отклонения от заданных параметров, то требуется анализ результатов испытаний. Данный процесс является очень трудоемким и ответственным, от него зависит правильность диагностики неисправностей или конструктивных недостатков дизелей.
Для проведения диагностики неисправностей дизелей от эксперта требуется большое количество знаний и опыта. Однако не следует исключать и «человеческого фактора», эксперт может, что-то забыть или во время анализа не учесть некоторые важные факты. Для помощи эксперту в процессе анализа неисправностей дизелей становится актуальной задача, разработки экспертной системы диагностики неисправностей дизелей, которая работала аналогично человеческому интеллекту, но была лишена недостатков присущих человеку. Соответственно целесообразно разработать данную систему на основе искусственной нейронной сети, позволяющей кластеризовать неисправности дизелей.
Применение искусственной нейронной сети для решения данного класса задач позволяет, снизить объем хранимых данных за счет создания базы знаний весовых коэффициентов, при необходимости проводить уточнение этой базы путем обучения, позволяющего повысить точность кластеризации, а также легко изменять структуру сети в случае появления новых типов неисправностей.
Одним из важных свойств человеческого интеллекта является распознавание образов. Образы могут иметь различную природу, например, графическое написание букв или цифр, мелодия песни или тактильные ощущения. Сопоставляя получившуюся информацию с образами, имеющимися в памяти, человек принимает то или иное решение. В человеческом мозге данный процесс протекает в нервных клетках, объединенных в огромную сеть. Этот механизм был изучен физиологами и на его основе была создана упрощенная модель распознавания образов получившая название искусственная нейронная сеть.
Искусственная нейронная сеть позволяет решать большой класс задач, таких как комбинирование логических выражений, аппроксимация данных и конечно же кластеризация данных. На сегодняшний день кластеризация данных с помощью искусственной нейронной сети осуществляется тремя основными методами: нейронная сеть WTA (Winner Takes All - «Победитель получает все»), нейронного газа и сети Кохонена. Все эти методы также имеют огромное количество модификаций [2].
Цель работы. Целью выпускной квалификационной работы является разработка метода подбора начальных весовых коэффициентов для нейронной сети WTA, позволяющего уменьшить количество итераций обучения без учителя.
Задачи исследования:
- Исследование методов кластеризации неисправностей силовых установок, на основе анализа характеристик, полученных с автоматизированного стенда испытания (АСИ) двигателей;
- Построение архитектуры нейронной сети WTA в зависимости от количества измеряемых параметров и типов неисправностей;
- Получение математической модели в виде базы знаний весовых коэффициентов нейронной сети WTA путем обучения на основе правила Гроссберга;
- Разработка методики подбора начальных весовых коэффициентов позволяющее уменьшить количество итераций обучения.
На защиту выносятся наиболее значимые результаты исследования, которые составляют научную новизну работы:
- методика формирования начальных весовых коэффициентов позволяющее уменьшить количество итераций обучения нейронной сети на основе метода k-средних.
Практическая ценность. Внедрение в практику результатов работы позволит:
- на основе анализа результатов испытаний диагностировать неисправности дизелей;
- уменьшить количество итераций и увеличить точность кластеризации во время обучения искусственной нейронной сети.
Методы и объекты исследования. В работе использовано сочетание теоретических и экспериментальных методов исследования.
Теоретические методы необходимы для определения проблем и оценки собранных фактов. Они связаны с изучением литературы и применялись при анализе методов диагностики неисправностей дизелей во время проведения испытаний на АСИ.
К экспериментальным методам исследования относятся обработка результатов испытаний дизелей на АСИ. Они использовались при обучении искусственной нейронной сети WTA, а также проверки адекватности получив-шейся имитационной модели.
Объект исследования: автоматизированный стенд испытания двигателей внутреннего сгорания (ДВС).
Предмет исследования: процесс диагностирования неисправностей дизелей в составе автоматизированного стенда испытаний.
Разработка конкурентоспособных дизелей предполагает применение перспективных методов повышения качества управления, экспериментальную доводку двигателя, сокращение сроков разработки и подготовки его серийного выпуска, а также контроль качества на всех этапах производства [1].
Заключительным процессом, как конструирования новой модели, так и производство серийных двигателей являются стендовые испытания, позволяющие производить оценку конструкции, определение ее соответствия по технологическим и общим требованиям. Если испытания прошли хорошо, и никаких отклонений не было выявлено, то, как правило, на этом процесс испытаний заканчивается. Если же во время испытаний выявились какие-то отклонения от заданных параметров, то требуется анализ результатов испытаний. Данный процесс является очень трудоемким и ответственным, от него зависит правильность диагностики неисправностей или конструктивных недостатков дизелей.
Для проведения диагностики неисправностей дизелей от эксперта требуется большое количество знаний и опыта. Однако не следует исключать и «человеческого фактора», эксперт может, что-то забыть или во время анализа не учесть некоторые важные факты. Для помощи эксперту в процессе анализа неисправностей дизелей становится актуальной задача, разработки экспертной системы диагностики неисправностей дизелей, которая работала аналогично человеческому интеллекту, но была лишена недостатков присущих человеку. Соответственно целесообразно разработать данную систему на основе искусственной нейронной сети, позволяющей кластеризовать неисправности дизелей.
Применение искусственной нейронной сети для решения данного класса задач позволяет, снизить объем хранимых данных за счет создания базы знаний весовых коэффициентов, при необходимости проводить уточнение этой базы путем обучения, позволяющего повысить точность кластеризации, а также легко изменять структуру сети в случае появления новых типов неисправностей.
Одним из важных свойств человеческого интеллекта является распознавание образов. Образы могут иметь различную природу, например, графическое написание букв или цифр, мелодия песни или тактильные ощущения. Сопоставляя получившуюся информацию с образами, имеющимися в памяти, человек принимает то или иное решение. В человеческом мозге данный процесс протекает в нервных клетках, объединенных в огромную сеть. Этот механизм был изучен физиологами и на его основе была создана упрощенная модель распознавания образов получившая название искусственная нейронная сеть.
Искусственная нейронная сеть позволяет решать большой класс задач, таких как комбинирование логических выражений, аппроксимация данных и конечно же кластеризация данных. На сегодняшний день кластеризация данных с помощью искусственной нейронной сети осуществляется тремя основными методами: нейронная сеть WTA (Winner Takes All - «Победитель получает все»), нейронного газа и сети Кохонена. Все эти методы также имеют огромное количество модификаций [2].
Цель работы. Целью выпускной квалификационной работы является разработка метода подбора начальных весовых коэффициентов для нейронной сети WTA, позволяющего уменьшить количество итераций обучения без учителя.
Задачи исследования:
- Исследование методов кластеризации неисправностей силовых установок, на основе анализа характеристик, полученных с автоматизированного стенда испытания (АСИ) двигателей;
- Построение архитектуры нейронной сети WTA в зависимости от количества измеряемых параметров и типов неисправностей;
- Получение математической модели в виде базы знаний весовых коэффициентов нейронной сети WTA путем обучения на основе правила Гроссберга;
- Разработка методики подбора начальных весовых коэффициентов позволяющее уменьшить количество итераций обучения.
На защиту выносятся наиболее значимые результаты исследования, которые составляют научную новизну работы:
- методика формирования начальных весовых коэффициентов позволяющее уменьшить количество итераций обучения нейронной сети на основе метода k-средних.
Практическая ценность. Внедрение в практику результатов работы позволит:
- на основе анализа результатов испытаний диагностировать неисправности дизелей;
- уменьшить количество итераций и увеличить точность кластеризации во время обучения искусственной нейронной сети.
Методы и объекты исследования. В работе использовано сочетание теоретических и экспериментальных методов исследования.
Теоретические методы необходимы для определения проблем и оценки собранных фактов. Они связаны с изучением литературы и применялись при анализе методов диагностики неисправностей дизелей во время проведения испытаний на АСИ.
К экспериментальным методам исследования относятся обработка результатов испытаний дизелей на АСИ. Они использовались при обучении искусственной нейронной сети WTA, а также проверки адекватности получив-шейся имитационной модели.
Объект исследования: автоматизированный стенд испытания двигателей внутреннего сгорания (ДВС).
Предмет исследования: процесс диагностирования неисправностей дизелей в составе автоматизированного стенда испытаний.
В рамках данной выпускной квалификационной работы были решены следующие задачи:
- Построена структура нейронной сети WTA для кластеризации неисправностей дизелей и рассмотрен процесс ее обучения, состоящий из процессов нормализации, определения начальных весовых коэффициентов, расчет выходов сумматоров, определения победителей в конкурентной борьбе и обучения нейрона-победителя по правилу Гроссберга.
- Предложен модернизированный процесс определения начальных весовых коэффициентов нейронной сети WTA, позволяющий избавиться от проблемы «мертвых нейронов» и уменьшить количество итераций обучения за счет подбора начальных весовых коэффициентов методом к-среднего.
- Получено две базы знаний начальных весовых коэффициентов: классический метод - путем назначения случайных весов и модернизированный, в основе которого лежит назначение в качестве начальных весовых коэффициентов данные входного вектора x (под модулем) впервые встречающегося в каждой кластерной группе.
- Проведенный анализ двух методов подбора весовых коэффициентов показал, что эффективность модернизированного алгоритма подбора начальных весовых коэффициентов перед классическим заключается в уменьшении количества циклов обучения, что позволяет снизить нагрузку на вычислительные устройства. Наибольший эффект это даст при большом количестве обучающих выборок и размерности входных и выходных векторов.
- Построена структура нейронной сети WTA для кластеризации неисправностей дизелей и рассмотрен процесс ее обучения, состоящий из процессов нормализации, определения начальных весовых коэффициентов, расчет выходов сумматоров, определения победителей в конкурентной борьбе и обучения нейрона-победителя по правилу Гроссберга.
- Предложен модернизированный процесс определения начальных весовых коэффициентов нейронной сети WTA, позволяющий избавиться от проблемы «мертвых нейронов» и уменьшить количество итераций обучения за счет подбора начальных весовых коэффициентов методом к-среднего.
- Получено две базы знаний начальных весовых коэффициентов: классический метод - путем назначения случайных весов и модернизированный, в основе которого лежит назначение в качестве начальных весовых коэффициентов данные входного вектора x (под модулем) впервые встречающегося в каждой кластерной группе.
- Проведенный анализ двух методов подбора весовых коэффициентов показал, что эффективность модернизированного алгоритма подбора начальных весовых коэффициентов перед классическим заключается в уменьшении количества циклов обучения, что позволяет снизить нагрузку на вычислительные устройства. Наибольший эффект это даст при большом количестве обучающих выборок и размерности входных и выходных векторов.



