Введение 4
Глава 1. Теоретические основы обработки естественного языка и создания виртуальных собеседников 7
1.1. Обработка естественного языка 7
1.2. База лингвистических знаний и система управления 9
1.3. Структура диалоговой ИС и её компоненты 9
1.4. Векторное представление слов 11
1.5. Нейронные сети 13
1.5. Рекуррентные нейронные сети 16
1.6. Нейронные сети с долгой краткосрочной памятью 18
1.7. Функция Softmax 19
1.8. Модели представления знаний 20
1.9. Семантические сети 21
Глава 2. Проектирование виртуального собеседника 23
2.1. Определение возможностей разрабатываемой библиотеки классов
2.2. Принцип работы виртуального собеседника 24
2.3. Используемые средства для разработки проекта 26
2.3.1. Microsoft Visual Studio 2015 Community Edition 26
2.3.2. MyStem 3.0 27
2.3.3. LTSM-Language-Model 28
2.3.4. Word2Vec.Net 28
2.4. Интерпретация архитектуры диалоговой системы для разрабатываемой модели 29
Глава 3. Реализация виртуального собеседника 32
3.1. Структура разрабатываемой библиотеки 32
3.2. Класс Bot 34
3.3. Класс Lemmatisation 35
3.4. Класс SemanticNets 36
3.5. Класс Vectorization 38
Заключение 39
Список литературы 40
Приложения должны быть в работе, но в данный момент отсутствуют
Актуальность. Возможность общения человека с компьютером на естественном языке предполагалась задолго до существования современных технологий [1]. В наши дни решению данной задачи способствует множество факторов, таких как: быстрый доступ к информации, возможность её хранения в больших объемах, большая вычислительная мощность даже на портативных устройствах [2].
Сегодня всё больше появляются приложений и решений без использования графического пользовательского интерфейса, взамен стандартного решения приходит текстовый интерфейс [3]. Вследствие этого выросло и количество платформ, способствующих быстрому и лёгкому созданию, так называемых, ботов для социальных сетей и мессенджеров [4]. Причём пользование данными сервисами растёт не только среди пользователей, создающих такие приложения ради развлечения, но и среди коммерческих организаций, для быстрой и лёгкой коммуникации с клиентами [5].
Чаще всего такие приложения являются командными строками, где пользователям необходимо либо запоминать определённый набор команд, либо ограничиваться их малым количеством. Поэтому людям привычнее использовать естественный язык.
Также с развитием технологий распознавания речевых конструкций, широкое распространение получили голосовые помощники. Например, сегодня SpeechKit от компании Яндекс правильно распознаёт 95% адресов и географических объектов, максимально приблизившись к человеку, который понимает 96-98% услышанных слов. Полнота распознавания новой модели для диктовки различных текстов сейчас составляет 82% [6]. С таким уровнем существует возможность создать полноценное решение, распознающее естественный язык, для конечных пользователей.
На примере голосового помощника Siri от компании Apple, изображённого на Рисунке 1, создаваемого на протяжении многих лет и имеющего большую базу знаний для обучения [7], можно убедиться, что данная проблема ещё не решена в полной мере и команды имеющие похожую семантику, однозначно понятные для человека, воспринимаются как разные информационной системой.
Цели работы:
1. Изучение современных методов обработки естественного языка.
2. Исследование методов применения искусственных нейронных сетей для обработки текста.
3. Освоение различных способов представления знаний.
4. Создание универсальной библиотеки для программ, разрабатываемых на платформе .NET Framework, способных обучаться на предоставленной им информации, отличать команды пользователя на естественном языке, имеющие схожий смысл, и отвечать на них, выбирая один из вариантов ответа предоставленных создателем программы.
Задачи работы:
1. Освоить весь необходимый теоретический материал в сфере искусственного интеллекта, необходимый для непосредственного создания требуемой информационной системы.
2. Создать библиотеку классов на языке программирования C#, с необходимым количеством классов, методов и свойств, для полного функционирования конечной программы, способной обрабатывать естественный язык.
В данной работе была создана библиотека классов для .NET Framework, выполняющая весь функционал виртуального собеседника и изучены различные способы пригодные для обработки естественного языка. Все поставленные цели были достигнуты, а задачи были успешно выполнены. Были изучены современные методы обработки текстов на естественном языке в области компьютерной лингвистики и искусственного интеллекта, возможности применения и способы создания искусственных нейронных сетей.
При условии дальнейшего развития данной работы возможно создание графического пользовательского интерфейса, то есть конечной программы, причём возможен как веб-интерфейс, так и боты под существующие социальные сети.
Так же существуют и другие перспективы развития проекта, такие как:
• Добавление новых отношений для семантических сетей.
• Дополнительное тестирование системы на других параметрах нейронных сетей, таких как количество скрытых слоев, для минимизации ошибок.
• Добавление речевых технологий, таких как распознавание
голосовых команд и генерация звуковых ответов.
• Создание блока графематического анализа в программе для нахождения устойчивых словосочетаний и других словесных конструкций, например, ФИО, электронной почты и т.д.
