Актуальность работы. В современной науке существует значительное количество методов и инструментов интеллектуального анализа данных (ИАД). Достаточно очевидным обобщением является использование нескольких алгоритмов одновременно, т.е. применение подходов коллективного принятия решений. Это позволяет повысить качество решения задачи ИАД и значительно упрощает поиск компромисса между точностью, простотой и интерпретируемостью каждой отдельной модели.
С точки зрения теории искусственного интеллекта (ИИ) коллектив можно представить в виде набора автономных агентов, работающих над какой-то общей задачей, например, в мультиагентной системе. Можно сказать, что коллектив является интеллектуальным, если он может эффективно использовать интеллект своих членов в ходе решения задачи.
На практике задачи ИАД, имеющие различные характерные особенности (неполнота и неточность исходных данных, высокая вычислительная сложность получения результатов и их формализации, и т.п.), довольно трудно решить с помощью отдельной технологии.
Коллектив из технологий интеллектуального анализа данных представляет собой набор моделей, каждая из которых способна решить поставленную задачу, а их комбинация позволяет повысить эффективность коллектива в целом.
Простейшими методами формирования коллектива являются методы простого и взвешенного голосования. Более сложными методами являются бэггинг (Breiman, 1996), бустинг (Freund & Schapire, 1996; Quinlan, 1996; Breiman, 1996; Kearns, 1988), случайные леса (Breiman, 2001) и стэкинг (Wolpert, 1992). Известными разновидностями бустинга являются AdaBoost (Schapire, 2001) и градиентный бустинг (Friedman, 2002). Похожим на бэггинг методом является метод случайных подпространств (Skurichina, 2002).
Важным моментом при формировании коллектива является не только выбор его членов и их обучение, но также и способ объединения в коллектив. Бустинг и бэггинг являются методами, которые обучают членов коллектива независимо друг от друга, в этом смысле они не производят искусственную специализацию членов коллектива. Альтернативой является, например, перераспределение обучающих примеров между обучающими методами для членов коллектива, приводящие к специализации их на определенной части задачи. Кроме того, возможен вариант, при котором члены коллектива и способ их комбинирования настраиваются одновременно.
В то же время системы коллективного принятия решения на основе нечеткой логики (НЛС) имеют ряд преимуществ:
1. За счет специальной подсистемы (базы правил) НЛС позволяет накапливать опыт решения, дообучаться и применять правила на других задачах.
2. Модели на базе НЛС формализуются на языке, близком к экспертному, и в тех случаях, когда точность решения критична (неприемлемы потери), процедуры поддержки принятия решения, близкие к естественные языку, за счет их интерпретируемости являются более предпочтительными с точки зрения сертификации и анализа специалистами предметной области.
3. Системы с применением нечеткой логики могут в автоматическом режиме отбрасывать неудачные модели или не учитывать влияние слабых агентов при коллективном выводе.
4. Стандартные формы коллективов испытывают затруднения в случае, когда один агент очень сильный, а все остальные - слабые, и объединение в коллектив дает не улучшенное решение, а ослабление решения сильного агента, в то время как процедура на нечеткой логике может формировать решение не хуже лучшего агента.
Отличительной чертой НЛС является то, что модель строится по принципу «белого ящика». НЛС позволяют координировать и объединять опыт экспертов предметной области, а также способны моделировать нелинейные функциональные зависимости произвольной сложности. Все эти свойства дают возможность рассматривать использование НЛС в качестве метода коллективного принятия решений, что позволило бы существенно повысить качество принимаемых решений, а также их интерпретируемость.
За счет автоматизации процессов проектирования ИИТ отпадает необходимость привлечения экспертов и снижаются вычислительные затраты в ходе тестирования для определения наиболее эффективного метода. В то же время, возникающие при этом задачи выбора эффективных вариантов коллективов требуют применения мощных и универсальных оптимизационных процедур адаптивного типа. Для этого целесообразным представляется использование адаптивных стохастических алгоритмов решения задач глобальной оптимизации алгоритмически заданных функций смешанных переменных, в частности - эволюционных алгоритмов (ЭА). ЭА позволяют в автоматическом режиме выбирать конфигурацию и настраивать параметры коллективных моделей принятия решений на основе нечеткой логики.
Таким образом, разработка и исследование методов автоматизированного формирования коллективных моделей принятия решений на основе нечеткой логики с использованием эволюционных алгоритмов является актуальной научно-технической задачей.
Целью диссертационного исследования является повышение эффективности интеллектуальных технологий анализа данных путем автоматизированного формирования коллективов алгоритмов с помощью специальных систем на нечеткой логике.
Для достижения поставленной цели необходимо решить комплекс задач.
1. Провести обзор современных методов анализа данных и форм их коллективного взаимодействия.
2. Разработать и реализовать алгоритм коллективного вывода на основе нечеткой логики для решения задач классификации и регрессии.
3. Разработать и реализовать процедуру выбора алгоритмов классификации или регрессии для включения в состав коллектива.
4. Разработать и реализовать процедуру автоматизированного выбора показательных примеров в опорное множество для формирования коллективного вывода.
5. Реализовать в виде программной системы процедуры коллективного принятия решения на основе нечеткой логики.
6. Исследовать работоспособность предложенного алгоритма на тестовых и практических задачах.
Область исследования. Работа выполнена в соответствии со следующими пунктами паспорта специальности 05.13.01:
- разработка методов и алгоритмов решения задач системного анализа, оптимизации, управления, принятия решений и обработки информации;
- методы и алгоритмы интеллектуальной поддержки при принятии управленческих решений в технических, экономических, биологических, медицинских и социальных системах.
Методы исследования.
При выполнении работы использовались методы и подходы теории вероятностей, методы статистической обработки данных, эволюционных вычислений, оптимизации, нечеткой логики, системного анализа данных, выявления закономерностей в исходных данных.
Научная новизна работы.
1. Разработана новая схема формирования коллективного вывода на основе нечеткой логики, отличающаяся иерархической процедурой интеграции правил коллективного вывода.
2. Разработана новая эволюционная процедура выбора агентов для формирования эффективных коллективов, отличающаяся от известных использованием нескольких критериев эффективности.
3. Разработана новая эволюционная процедура автоматизированного формирования базы правил, отличающаяся от известных применением двух уровней эволюции и способом представления решения в бинарном пространстве поиска.
4. Разработана новая система на основе нечеткой логики для формирования коллективов моделей и алгоритмов анализа данных для решения задач классификации и регрессии, отличающаяся от известных адаптивной процедурой формирования коллективного решения.
5. Разработана комплексная процедура автоматизированного формирования системы коллективного вывода на основе нечеткой логики, отличающаяся возможностью эффективного перераспределения вычислительных ресурсов.
Значение для теории состоит в разработке комплексного подхода к решению задачи ИАД с помощью нового коллективного метода принятия решения на основе нечеткой логики, который является эффективным обобщением отдельных методов интеллектуального анализа данных. Сформированное итоговое решение, получаемое на основе коллектива моделей, эффективнее, так как коллектив всегда работает не хуже самой лучшей модели. Результаты, полученные при выполнении диссертационной работы, создают теоретическую основу для разработки новых технологий распределения ресурсов и распараллеливания процессов в ходе решения сложных трудно формализуемых задач анализа данных.
Практическая ценность.
Разработанные алгоритмические схемы, которые реализованы в виде программной системы на языке программирования Python, являются полноценной библиотекой. Программная система позволяет формировать коллективный вывод при решении задач интеллектуального анализа данных и проектирование коллективов моделей на основе нечеткой логики для задач классификации и регрессии. Программная система протестирована на задачах распознавания лиц по изображению и прогнозирования аффективного (эмоционального) поведения человека по голосу, а также на задаче моделирования технологического процесса металлургического производства.
Реализация результатов работы. В диссертационной работе была разработана программная система, которая прошла регистрацию в Роспатенте.
Диссертационная работа выполнена в рамках проектов:
1. Проект №2.1680.2017/ПЧ «Разработка теоретических основ автоматизации комплексного моделирования сложных систем методами вычислительного интеллекта», в рамках Государственного задания СибГУ на 2017-2019 гг.
2. Проект №14.574.21.0037 «Распределенные самоконфигурируемые многоагентные технологии проектирования и управления интеллектуальными информационными сетями» в рамках ФЦП «Исследования и разработки по приоритетным направлениям развития научно-технологического комплекса России на 2014 - 2020 годы».
3. Российско-словенский проект "Application of artificial intelligence methods on small field robot" ARRS-MS-BI-RU-JR-Prijava/2018/65 на 2019-2020 год.
4. Проект «Разработка системы автоматического распознавания и классификации дефектов элементов панелей солнечных батарей», Фонд содействия развитию малых форм предприятий в научно-технической сфере по программе «У.М.Н.И.К» 2015-2017гг.
5. Российско-германский проект «Advanced feature selection techniques for multimodal emotion recognition» в рамках конкурса германской службы академических обменов «Программа Эйлера» 2015-2016 гг.
Основные защищаемые положения:
1. Предложенная схема иерархической процедуры коллективного вывода на основе системы нечеткой логики позволяет повысить эффективность коллективного вывода в сравнении одноуровневым принятием решения.
2. Разработанная процедура эволюционного выбора агентов для формирования эффективных коллективов моделей позволяет повысить точность работы коллектива.
3. Разработанная процедура автоматизированного формирования базы правил с применением двух уровней эволюции и предложенным способом представления решения в бинарном пространстве поиска позволяет формировать эффективные базы правил с минимальным количеством правил и высоким уровнем обобщения самих правил без потери точности.
4. Разработанная интегрированная процедура автоматизированного формирования системы коллективного вывода на основе нечеткой логики позволяет в автоматизированном режиме управлять вычислительными ресурсами при обучении коллектива и получать коллективы с высокой точностью решения задач классификации и регрессии.
Апробация работы. Основные положения и результаты работы прошли всестороннюю апробацию на Всероссийских и Международных конференциях: «8th International Congress on Advanced Applied Informatics - "7th International Conference on Smart Computing and Artificial Intelligence" SCAI 2019» (2019 г., Toyama, Japan), «The International Workshop "Advanced Technologies in Material Science, Mechanical and Automation Engineering"» (2019 г., г. Красноярск), «The International Workshop on Mathematical Models and their Applications (IWMMA)» (2014, 2016 г., г. Красноярск), «Международная научно-практическая конференция "Решетневские чтения"» (2012-2016 гг., г. Красноярск), «Международная научно-практическая конференция "Актуальные проблемы авиации и космонавтики"» (2011-2016 гг., г. Красноярск), «Всероссийская научно-практическая конференция "Информационно-телекоммуникационные системы и технологии" ИТСиТ-2014» (2014 г., г. Кемерово), «Всероссийская научно-техническая конференция "Приоритетные направления развития науки и технологий"», (2013 г., г. Тула).
Публикации. По теме диссертации опубликовано 19 печатных работ, из них три статьи в журналах перечня ВАК РФ и три в изданиях, индексируемых в международных базах цитирования Web of Science и/или Scopus. Получено одно свидетельство о регистрации программной системы в Роспатенте.
Структура и объем работы. Диссертация содержит 150 страниц текста и состоит из введения, четырех глав, заключения, списка литературы из 138 наименований.

Купить