Автоматическое выделение информативных тем документов с использованием латентного размещения Дирихле

Введение ........................................................................................................ 3
Постановка задачи ....................................................................................... 4
Глава 1. Вероятностные тематические модели ......................................... 5
1.1. Предварительная обработка данных ............................................. 5
1.2. Вероятностное моделирование ...................................................... 6
1.3. Классическая PLSA модель ........................................................... 8
1.4. ЕМ-алгоритм ................................................................................... 8
1.5. Классическая LDA модель ............................................................. 9
1.6. Иерархическая LDA модель ........................................................ 10
1.7. Подход ARTM ............................................................................... 12
1.8. LDA в ARTM ................................................................................. 13
1.9. Оценка качества модели ............................................................... 13
Глава 2. Прогнозирование ......................................................................... 15
2.1. Дивергенция Йенсена-Шеннона .................................................. 15
2.3. Модель ARIMA ............................................................................. 16
Глава 3. Эксперимент ................................................................................ 18
Заключение ................................................................................................. 28
Список литературы .................................................................................... 29
Купить

Ежедневно собираются огромные объемы данных, при постоянном
пополнении которых обработка и выделение требуемой информации
становится нетривиальной задачей. С этой целью создаются специальные
инструменты, предназначенные для организации, поиска и понимания
огромного количества информации.
Тематическое моделирование предоставляет нам методы для
организации, понимания и обобщения больших коллекций текстовой
информации. И таким образом, помогает в обнаружении скрытых
тематических характеристик коллекции. Тематическое моделирование может
быть описано как метод поиска групп слов (тем) из набора документов,
которые наилучшим образом представляют информацию в коллекции. Его
также можно рассматривать как форму интеллектуального анализа текста –
способ получения повторяющихся паттернов слов в текстовом материале.
Существует множество методов, которые используются для получения
тематических моделей. Большинство из них принадлежат классу
вероятностного тематического моделирования. Вероятностная тематическая
модель представляет темы как дискретные распределения на множестве слов,
а документы – как дискретное распределение на множестве тем. При
построении тематической модели ставится задача восстановить эти
распределения по данной коллекции документов. Поскольку документ может
относиться сразу к нескольким темам, говорят, что тематическое
моделирование осуществляет “нечеткую кластеризацию” [1].
Задача извлечения скрытых тематических характеристик текстовой
коллекции тесно связана со многими другими прикладными задачами, в
частности, задачами информационного поиска [2]. Это может быть анализ
данных социальных сетей, классификация и кластеризация документов, для
рекомендательных систем [3], и др.
На сегодняшний день разработано уже достаточно методов для
построения тематических моделей, однако в основном они применимы лишь
для извлечения тем, и слабо пригодны для реальных прикладных задач.
Например, необходимо исследовать, как изменялись темы коллекции с
течением времени. При условии наличия информации о времени создания
документов коллекции можно анализировать информацию о перетекании
одной темы в другую, возникновении абсолютно новых тем, либо
исчезновении старых. К этой задаче можно добавить другую: выявление
трендов определенных тем [4]. Цель данной работы – предложить подход для
решения задачи, описанной выше, а именно задачи прогнозирования трендов
скрытых тематик коллекции.
Купить