Тема: СРАВНИТЕЛЬНЫЙ АНАЛИЗ АЛГОРИТМОВ ТЕМАТИЧЕСКОГО МОДЕЛИРОВАНИЯ ДЛЯ КЛАСТЕРИЗАЦИИ ВЫСКАЗЫВАНИЙ ПОЛЬЗОВАТЕЛЕЙ В СОЦИАЛЬНЫХ МЕДИА

В современном мире накопление и появление новой информации происходит с огромной скоростью. Специалисты в области информатики и компьютерных наук постоянно развивают методы хранения данных, работы с ними, передачу данных и их защиту. Помимо этого, происходит расширение возможностей по обработке и анализу информации. Сейчас с помощью компьютерных технологий мы можем работать с различными видами информации: числа, изображения, звуковые записи, а также текстовой информацией. Но до сих пор одним из основных способов обмена информацией в сети это текстовые сообщения, которые являются неструктурированной информацией. Люди в интернете ежедневно обмениваются новостями, публикуют собственные мысли, а также проводят дискуссии по поводу того или иного высказывания.
По этим причинам на сегодняшний день набирает популярность направление NLP, Natural Language Processing, или же Обработка Естественных языков. Все больше специалистов в области обработки данных и специалисты смежных областей, понимают важность этого направления. При достижении новых результатов в данной области, будут продвигаться и исследования в областях, к которым были приложены новые методы. Особенно это касается сферы социальных, психологических и лингвистических исследований, так как получение информации из неструктурированных текстов очень актуально для данных областей.
Из-за роста информации внутри социальных медиа трудно уследить за изменением трендов в той или иной сфере. Данную проблему можно попробовать решить с помощью методов из области NLP.
Одно из наиболее узких направлений в NLP - это тематическое моделирование, оно может позволить из большого количества текстовой информации выделить кластеры тем, которые описываются ключевыми словами.
Но в современной области тематического моделирования существует большая проблема в оценке и сравнении моделей, исследователи описывают и применяют разные методы. На данный момент нет общего подхода в сравнении результатов работы алгоритмов тематического моделирования.
Исходя из данных проблем, мы ставим своей целью обучить модели с помощью алгоритмов тематического моделирования на наборе социальных высказываний. В нашем случае собраны высказывания по теме “Изменение климата”. Затем подобрать набор критериев и оценок, чтобы сравнить полученные результаты.
При подготовке к данной работе мы изучили множество научных источников и ознакомились с различными подходами к оценке тематических моделей. В своих работах исследователи используют разные подходы, внутренние и внешние оценки, но от работы к работе меняется набор этих оценок.
Также был проведен небольшой социальный опрос среди участников тематического форума, которые занимаются тематическим моделированием. По результатам опроса было установлено, что большинство специалистов склоняются к использованию только субъективной экспертной оценке.
Из-за разнообразия подходов к оценке трудно определить, какой набор оценок оптимальный, но в работе [7], автор описывает множество критериев качества тематических моделей. Эта работа дала понимание полной картины подходов в оценке. На основе описанных в работе критериев, составлялся собственный подход к сравнению результатов работы алгоритмов.

Купить

В результате работы было изучено множество литературных источников, которые описывают область тематического моделирования и оценку тематических моделей, а также проведен социальный опрос специалистов, занимающихся тематическим моделированием. После анализа полученных сведений был сделан вывод, о том, что в данной области не существует “золотого стандарта” которого бы, придерживались специалисты при оценке результатов своих работ. Поэтому был подобран собственный набор оценок, по которому мы провели сравнительный анализ полученных нами моделей. Сравниваемые модели обучались на собранном наборе данных, который содержит социальные высказывания на тему “Изменение климата”.
При изучении итоговых результатов было установлено, что для обработки собранного набора, наиболее подходящим вариантом является обучение модели с помощью алгоритма LDA на корпусе текстов обработанного с помощью TF-IDF. Также мы установили, что наиболее релевантной оценкой является словесная интрузия, так как, по нашему мнению, она наиболее правдоподобно отражает интерпретируемость результатов тематической модели.
А также, при изучении результатов работы моделей, полученных тем, было установлено, что проведенная обработка данных и очищение их от информационного шума оказалась недостаточной, так как не все полученные темы является интерпретируемыми и в некоторых из них появляются неинформативные ключевые слова.
Для развития данной работы необходимо улучшить качество обработки социальных высказываний, возможно с помощью добавления новых методов обработки текста к тем, что использовались нами. Чтобы убедиться в корректности использования такого набора оценок необходимо провести подобное исследование с другим набором моделей и с другим набором данных, а для того, чтобы учесть важность той или ной оценки в наборе необходимо подобрать вес для каждой из оценок, для того чтобы вклад наиболее релевантного критерия был выше.
Таким образом, в рамках данной дипломной работы был проведен литературный обзор, собраны и обротаны социальные высказывания, подобран набор критериев и оценок для проведения сравнительного анализа тематических моделей, с помощью выбранных алгоритмов обучены несколько тематических моделей и проведен сравнительный анализ по подобранной методике.
Результаты работы были представлены на Международной молодежной научной конференции «Математическое и программное обеспечение информационных, технических и экономических систем» 26 - 28 мая 2022 г.

Купить