Тип работы:
Предмет:
Язык работы:


Автоматический анализ отзывов в рекомендательных системах

Работа №67431

Тип работы

Магистерская диссертация

Предмет

лингвистика

Объем работы80
Год сдачи2017
Стоимость4935 руб.
ПУБЛИКУЕТСЯ ВПЕРВЫЕ
Просмотрено
268
Не подходит работа?

Узнай цену на написание


Введение 4
Глава 1. Основные проблемы рекомендательных систем 8
Глава 2. Таксономия рекомендательных систем 12
2.1. Сфера 12
2.2. Цель 14
2.3. Контекст рекомендации 15
2.4. Чьи мнения ложатся в основу рекомендации 16
2.5. Уровень персонализации 17
2.6. Личная информация и степень доверия к системе 18
2.7. Интерфейс 21
2.7.1. Тип выходных данных 21
2.7.2. Тип входных данных 24
2.8. Алгоритмы 25
2.8.1. Алгоритмы рекомендаций в не персонализированных
рекомендательных системах 25
2.8.1.1. Метод обобщённого мнения 25
2.8.1.2. Метод ассоциации продуктов 25
2.8.2. Алгоритмы рекомендаций в персонализированных
рекомендательных системах 27
2.8.2.1. Контентный метод или фильтр информации, основанный
на содержании 27
2.8.2.2. Метод, основанный на знаниях 29
2.8.2.3. Метод коллаборативной фильтрации 30
2.8.2.4. Мультиатрибутивные рекомендательные системы 34
2.8.2.5. Рекомендательные системы, основанные на
пользовательских отзывах 35
2.8.3. Гибридные рекомендательные системы 37
Глава 3. Анализ созданного механизма рекомендаций на основе вышеизложенной таксономии 39
Глава 4. Исследование 42
4.1. Сбор отзывов с сайта 42
4.2. Составление словарей для инструмента анализа отзывов с помощью “Sketch Engine”
4.2.1. Извлечение ключевых слов и словосочетаний из корпуса.
Функция “Keywords/terms”45
4.2.2. Составление тезаурусов для каждого параметра. Функция “Thesaurus”
4.2.3. Извлечение слов, которые часто встречаются вместе с исследуемыми словами. Функции “Word Sketch” и “Sketch diff”
4.2.4. Проверка релевантности элементов словаря с помощью конкорданса. Функция “Concordance”
4.2.5. Использование вышеперечисленных функций на материале корпуса «Недостатки»
4.3. Разработка программы анализа отзывов 59
4.4. Оценка результатов. Правильность, точность, полнота 63
Заключение 67
Библиография 68
Приложение 1. Словари 75
Приложение 2. Фрагменты программы 77


В последние несколько лет рекомендательные системы активно набирают популярность в сети Интернет. Впервые эта технология была опробована в области электронной коммерции, однако впоследствии стала применяться в различных сферах, среди которых - системы электронного образования (Глибовец, Сидоренко, 2012), новостные сайты, социальные сети. В первую очередь это связано с рядом преимуществ, включающих повышение эффективности поиска информации. В условиях увеличения роли Интернета в повседневной жизни, обучении, исследованиях, а также увеличения количества информации, доступной в сети, рекомендательные системы начинают играть всё большую роль. Чем больше данных имеется в нашем распоряжении, тем сложнее их обрабатывать и тем сложнее вычленить из этого потока информации те данные, которые действительно нужны. В связи с этим, в ситуации растущего информационного потока необходимость существования механизма, способного фильтровать данные из Интернета и увеличивать скорость обработки информации, становится неоспоримой.
Первые разработки рекомендательных систем относятся к началу 90-х годов (Adomavicius, Tuzhilin, 2005), однако тому, что их создание вышло на новый уровень, послужил конкурс Netflix Prize (Bennett, Lanning, 2007), организованный в 2006 году компанией Netflix (Глибовец, Сидоренко, 2012).
В своём «Руководстве по рекомендательным системам» Риччи, Рока и Шапира определяют рекомендательные системы (РС) как «инструменты и методы программного обеспечения, которые составляют предположения о том, какие объекты могут быть полезны пользователю. Эти предположения относятся к различным ситуациям, в которых нужно принять решение, например, какой товар купить, какую музыку послушать, какие онлайн- новости почитать.
«Объект» - это общий термин, который используется для обозначения того, что система рекомендует пользователям. Обычно РС фокусируется на определённом типе объекта (например, компактные диски или новости) и в соответствии с этим подбираются дизайн объекта, пользовательский интерфейс и основной метод рекомендации, чтобы в результате обеспечить пользователя полезными и эффективными предположениями об этом типе объекта» (Ricci, Rokach and Shapira, 2015).
Рекомендательные системы позволяют решить проблему избытка информации путём предоставления персонализированных предположений, основанных на истории лайков и дислайков пользователя (Melville, Mooney and Nagarajan, 2002).
Одним из видов ресурсов, где наиболее часто используются рекомендательные системы, является онлайн-торговля. В своей статье «Рекомендательные приложения в электронной торговле» Шафер, Констан и Ридл говорят о том, что развитие электронной торговли и появление онлайн- магазинов позволило их владельцам предоставить пользователям более широкий выбор. Расширение выбора в свою очередь привело к увеличению количества информации, которую покупатель должен обработать, прежде чем выбрать то, что соответствует его нуждам. Чтобы справиться с этим избытком информации, в онлайн-магазинах применяют принципы массовой кастомизации не к продуктам, а к тому, как они представлены в онлайн- магазине. Одним из способов достижения массовой кастомизации является использование рекомендательных систем (Shafer, Konstan, Riedl, 2001).
Таким образом, предполагается, что использование РС выгодно как для пользователей, так и для владельцев (и разработчиков) сайтов. Однако не всегда система может обеспечить пользователя хорошей рекомендацией, что может привести к тому, что пользователь перестанет верить системе или видеть в ней пользу и в конечном счёте компания может потерять клиента или получить негативные отзывы.
Целью данной работы является разработка механизма анализа отзывов, направленного на увеличение качества предоставляемых системой рекомендаций, а также на увеличение уровня доверия пользователей к системе.
Для достижения этой цели требуется решить следующие задачи:
1. Проанализировать наиболее важные проблемы, возникающие при работе рекомендательных систем, и понять, как можно использовать инструмент анализа отзывов для их решения.
2. Сравнить основные типы рекомендательных систем, рассмотреть их преимущества и недостатки. Выбрать самые оптимальные алгоритмы.
3. Разработать методику анализа отзывов.
4. Разработать программу для автоматического анализа отзывов.
5. Проанализировать собранные отзывы с помощью разработанного инструмента.
6. Провести оценку полученных результатов.
Новизна данной работы заключается в следующем:
1. Совмещение метода, основанного на анализе нескольких атрибутов, и метода, основанного на анализе отзывов, при создании рекомендательной системы.
2. Анализ отзывов производится на основании упоминания определённого параметра в определённом блоке, а не на основании анализа тональности.
3. Система формирует рекомендации в виде подробного описания анализируемого продукта, выставляя ему оценки по каждому параметру. Система ориентирована на построение профиля продукта.
4. Словари, на основании которых производится анализ отзывов, были составлены с помощью инструмента “Sketch Engine” (https://the.sketchengine.co.uk).
Это исследование представляет практическую значимость, так как разработанная программа не имеет аналогов и при этом показывает достаточно хорошие результаты. Следовательно, использование разработанной технологии может способствовать увеличению качества работы рекомендательных систем, решению возникающих проблем и развитию сферы рекомендательных систем в целом. Результаты, полученные в ходе проведённого исследования, можно использовать для составления рекомендаций других типов, отличных от приведённых в этой работе.


Возникли сложности?

Нужна помощь преподавателя?

Помощь студентам в написании работ!


В ходе данного исследования были выполнены следующие задачи:
1. Проведён анализ проблем, возникающих при работе рекомендательных систем, предложены пути их решения с помощью использования инструмента автоматического анализа отзывов.
2. Проведён сравнительный анализ существующих алгоритмов рекомендаций, изучены основные преимущества и недостатки существующих РС.
3. На основании рассмотренной таксономии разработана методика алгоритма рекомендаций, основанного на пользовательских отзывах.
4. С учётом разработанной методики составлены словари, необходимые для автоматического анализа отзывов.
5. Разработана программа автоматического анализа отзывов.
6. Проведён анализ собранных отзывов с помощью разработанного инструмента.
7. Произведена оценка полученных результатов. Предложены пути решения возникших в ходе работы осложнений.
8. Рассмотрены возможности дальнейшего усовершенствования алгоритма.
В результате данного исследования была разработана программа для автоматического анализа отзывов в рекомендательных системах. Проанализировав результаты работы программы, мы пришли к выводу, что данный инструмент отличается очень хорошими показателями (на основании мер, расчитанных в разделе 4.4.) и предоставляет рекомендации, максимально приближенные к реальным предпочтениям пользователей. Отметим также, что система составляет рекомендации на о сновании отзывов других пользователей, за счёт чего может обеспечить увеличение уровня доверия к ресурсу и к предоставляемым рекомендациям.



1. Глибовец Н.Н., Сидоренко М.О. “Создание рекомендационной системы учебного типа с использованием фреймворка Windows Communication Foundation” // Problems of Computer Intellectualization, с. 176-181, 2012.
2. Гомзин А.Г., Коршунов А.В. “Системы рекомендаций: обзор современных подходов” // Труды Института системного программирования РАН, т. 22, с. 401-417, 2012.
3. Дьяконов А.Г “Алгоритмы для рекомендательной системы: технология LENKOR” // Бизнес-Информатика, Т. 1, № 19. - С. 32-39, 2012.
4. Нефедова Ю. С.. “Архитектура гибридной рекомендательной системы GEFEST (Generation-Expansion-Filtering-Sorting-Truncation)”, Системы и средства ин-форм., 2012, том 22, выпуск 2, с. 176-196, 2012.
5. Пятикоп Е.Е. “Использование сингулярного разложения матриц в коллаборативной фильтрации” // Проблеми шформатизацп та управлшня, 4(44), с. 76-81, Национальный авиационный университет, Киев, 2013.
6. Пятикоп Е.Е. “Исследование метода коллаборативной фильтрации на основе сходства элементов” // Науков! пращ Донецького нацюнального техшчного ушверситету сер!я: Информатика, кибернетика та обчислювальна техшка", №2, с. 109-114, 2013.
7. Ролгин Р.И. “ Метрики оценки качества работы систем коллаборативной фильтрации”. Материалы Международной конференции и молодёжной школы «Информационные технологии и нанотехнологии», с. 1092-1095, Издательство СГАУ, 2016.
8. Савкова Е.О., Привалов М.В., Чепикова Е.Д. “Исследование алгоритмов рекомендательных систем” // Информатика и кибернетика 2 (4), с. 57-60, 2016.
9. Федоровский А. Н., Логачева В. К. “Архитектура рекомендательной системы, работающей на основе неявных пользовательских оценок” // Электронные библиотеки: перспективные методы и технологии, электронные коллекции // Труды XIII Всероссийской научной конференции RCDL’2011. — Воронеж: Воронежский госуниверситет, с. 76-82, 2011.
10. Adomavicius G. and Kwon Y. “New recommendation techniques for multicriteria rating systems” in IEEE Intelligent Systems, 22, p. 48-55, May 2007.
11. Adomavicius G. and Tuzhilin A. “Context-aware recommender systems” in F. Ricci, L. Rokach, B. Shapira, and P B. Kantor (Eds), “Recommender Systems Handbook”, Springer, pp. 217-253, 2011.
12. Adomavicius G., Tuzhilin A. “Toward the next generation of recommender systems: A survey of the state-of-the-art and possible extensions”. In: IEEE Transactions of Knowledge and Data Engineering, 2005.
13. Aggarwal C.C. “Recommender Systems: The Textbook”, 498 pages, p.168, Springer, March 2016.
14. Agrawal R. and Srikant R. “Fast algorithms for mining association rule” in Proceedings of the 20th International Conference on Very Large Databases, pp. 487-499, 1994.
15. Bendakir N. and Aimeur E. “Using association rules for course recommendation” in Proceedings of the AAAI Workshop on Educational Data Mining, pp. 31-40, July 2006.
16. Bennett J., Lanning S. “The Netflix Prize”. In Proc. of KDD Cup Workshop at SIGKDD-07, 13th ACMInt. Conf, on Knowledge Discovery and Data Mining, 2007.
17. Burke R. “Hybrid Recommender Systems: Survey and Experiments” in UMUAI 12 (4), pp. 331- 370, 2002.
18. Chen L., Chen G. and Wang F. “Recommender systems based on user reviews: the state of the art”. User Modeling and User-Adapted Interaction, Volume 25, Issue 2, pp. 99-154, June 2015.
19. Dehuri S. “Intelligent Techniques in Recommendation Systems: Contextual Advancements and New Methods”, IGI Global, 2012, p. 51.
20. Desrosiers C., Karypis G. “A comprehensive survey of neighborhood-based recommendation methods” in: F. Ricci, L. Rokach, B. Shapira, P.B. Kantor (Eds.), “Recommender Systems Handbook”, Springer, pp. 107-144, 2011.
21. He X., Chen T., Kan M.-Y., and Chen X. “Tri-rank: Review-aware explainable recommendation by modeling aspects” in Proceedings of the 24th ACM Conference on Information and Knowledge Management, CIKM ’15, Melbourne, Australia, 2015.
22. Hooda R., Singh K. and Dhawan S. “A Study of Recommender Systems on Social Networks and Content-based Web Systems” in International Journal of Computer Applications 97(4), pp. 23-28, July 2014.
23. Hu Y., Koren Y. and Volinsky C. “Collaborative Filtering for Implicit Feedback Datasets”. Data Mining, ICDM'08. Eighth IEEE International Conference on, pp. 263-272, 2008.
24. Jain A., Jain V. and Kapoor N. “A literature survey on recommendation systems based on sentimental analysis” in Advanced Computational Intelligence: An International Journal (ACII), Vol.3, No.1, pp. 25-36, January 2016.
25. Jakob N., Weber S. H., Muller M. C., and Gurevych I. “Beyond the stars: exploiting free-text user reviews to improve the accuracy of movie recommendations” in Proc. TSA ’09, pages 57-64, New York, NY, USA, ACM, 2009.
26. Khokhlova M. and Zakharov V. “Studying Word Sketches for Russian” in Proceedings of the Seventh International Conference on Language Resources and Evaluation (LREC’12) Malta, pp. 3491-3494, 2010.
27. Khusro S., Ali Z., Ullah I. “Recommender Systems: Issues, Challenges, and Research Opportunities” in Information Science and Applications (ICISA), LNEE 376, pp. 1179-1189, 2016.
28. Kilgarriff A., Baisa V., Busta J., Jakubicek M., Kovar V., Michelfeit J., Rychly P., Suchomel V. “The Sketch Engine: ten years on” in Lexicography 1(1), pp. 7-36, 2014. DOI: 10.1007/s40607-014-0009-9. ISSN 2197-4292
29. Kilgarriff A. and Kosem I. “Corpus Tools for Lexicographers” in Electronic Lexicography. S. Granger & M. Paquot (eds). Oxford University Press, 2012.
30. Kilgarriff A., Rychly P., Kovar V. and Baisa V. “Finding Multiwords of More Than Two Words” in Proceedings of the 15th EURALEX International Congress, Norway, pp. 693-700, 2012.
31. Kilgarriff A. “Simple maths for keywords” in Proceedings of Corpus Linguistics Conference CL2009, Mahlberg, M., Gonzalez-Diaz, V. & Smith, C. (eds.), University of Liverpool, UK, July 2009.
32. Kulkarni K., Wagh K., Badgujar S., Patil J. “A Study Of Recommender Systems With Hybrid Collaborative Filtering” in International Research Journal of Engineering and Technology (IRJET), Volume: 03 Issue: 04, April 2016.
33. Lei K., Qin D., Zhang K. “A Trust-based Recommendation Model Constructed from Improved Page Rank Algorithm in a P2P Social Network”, CNSCE 2014, Shenzhen, P.R. China, pp. 335-340, Feb 2014.
34. Lenzini G., van Houten Y., Huijsen W., Melenhorst M. “Shall I trust a recommendation? Towards an evaluation of the trustworthiness of recommender sites” in Proceedings of the 13th East European conference on Advances in Databases and Information Systems, pp. 121-128, September 07-10, Riga, Latvia, 2009.
35. Levinas C.A. “An Analysis of Memory Based Collaborative Filtering Recommender Systems with Improvement Proposals”, Master of Science Thesis, 2014.
36. Liu C. L., Hsaio W. H., Lee C. H., Lu G. C. and Jou E. "Movie Rating and Review Summarization in Mobile Environment" in IEEE Transactions on Systems, Man, and Cybernetics, Part C (Applications and Reviews), vol. 42, no. 3, pp. 397-407, May 2012.
37. Marinho L.B., Nanopoulos A., Schmidt-Thieme L., Jaschke R., Hotho A., Stumme G., Symeonidis P. “Social tagging recommender systems” in: Ricci, F., Rokach, L., Shapira, B., Kantor, P.B. (eds.) “Recommender Systems Handbook”, pp. 615-644. Springer, Ljubljana, 2011.
38. Melville P., Mooney R. J., and Nagarajan R. “Content-boosted collaborative filtering for improved recommendations”. Proceedings of the Eighteenth National Conference on Artificial Intelligence (AAAI- 02), pp. 187-192, Edmonton, Alberta, 2002.
39. Neumann A.W. “Recommender Systems for Information Providers: Designing Customer Centric Paths to Information”. Physica-Verlag, Heidelberg, p. 24, 2009.
40. Pathak D., Matharia S. and Murthy C. N. S. "ORBIT: Hybrid movie recommendation engine," Emerging Trends in Computing, Communication and Nanotechnology (ICE-CCN), pp. 19-24, International Conference on, Tirunelveli, pp. 19-24, 2013.
41. Pereira N. and Varma S.K. “Survey on Content Based Recommendation System” in International Journal of Computer Science and Information Technologies (IJCSIT), Vol. 7 (1), pp. 281-284, 2016.
42. Poirier D., Tellier I., Fessant R., and Schluth J. “Towards text-based recommendations” in Proc. RIAO ’10, pp. 136-137, Paris, France, France, 2010.
43. Poriya A., Bhagat T, Patel N. and Sharma R. “Non-Personalized Recommender Systems and User-based Collaborative Recommender Systems” in International Journal of Applied Information Systems 6(9), pp. 22-27, March 2014.
44. Ricci F., Rokach L., Shapir B.. “Recommender Systems Handbook; Second Edition”. Springer, 2015.
45. Rychly P and Kilgarriff A. “An efficient algorithm for building a distributional thesaurus (and other Sketch Engine developments)” in Proceedings of the 45th Annual Meeting of the ACL on Interactive Poster and Demonstration Sessions. Czech Republic, pp. 41-44, June 2007.
46. Schafer B., Konstan J. and Riedl J., "Recommender systems in e-commerce". Proceedings of the 1st ACM conference on Electronic commerce, New York City, pp. 158-166, 1999.
47. Shih Y. and Liu D. “Hybrid recommendation approaches: collaborative filtering via valuable content information” in 38th Hawaii International Conference on System Sciences (HICSS05), page 217b, Hawaii, USA, 1999.
48. Soni K., Goyal R., Vadera B. and More S. “A Three Way Hybrid Movie Recommendation System” in International Journal of Computer Applications (0975 - 8887), Volume 160 - No 9, February 2017.
49. Su X. and Khoshgoftaar T.M., “A Survey of Collaborative Filtering Techniques” in Advances in Artificial Intelligence, vol. 2009, Article ID 421425, 19 pages, 2009.
50. Wang F. and Chen L. “Recommendation based on mining product reviews’ preference similarity network” in The 6th Workshop on Social Network Mining and Analysis, 2012 ACM SIGKDD Conference on Knowledge Discovery and Data Mining, SNAKDD 2012, 2012.
51. Zhang B., Wang N., Jin H. “Privacy concerns in online recommender systems: Influences of control and user data input” in Symposium on Usable Privacy and Security (SOUPS), pp. 159-173, Menlo Park, CA, July 9-11, 2014.
52. Zhang W., Ding G., Chen L., Li C., and Zhang C. “Generating virtual ratings from Chinese reviews to fuse into collaborating filtering algorithms”. ACM TIST, 2012.
53. Zhang XL, Lee TMD, Pitsilis G. “Securing recommender systems against shilling attacks using social-based clustering” in JOURNAL OF COMPUTER SCIENCE AND TECHNOLOGY 28(4), pp. 616-624, July 2013.
54. Zhao S., Du N., Nauerz A., Zhang X., Yuan Q., Fu R. “Improved recommendation based on collaborative tagging behaviors” in Proceedings of the 13th International Conference on Intelligent User Interfaces, Gran Canaria, Canary Islands, Spain, ACM, IUI’08, pp. 413-416, 2008.
Словари
1. Петров Ю. А., Петрова Г. И. «Терминологический словарь-справочник: экономика, маркетинг, менеджмент. А - М», Издательские решения, 2016.
URL: https://books.google.ru/books?id=4Xz-
DAAAQBAJ&pg=PT389&lpg=PT389&dq=%D0%BC%D0%B0%D 1%81%D 1%81%D0%BE%D0%B2%D0%B0%D 1%8F+
%D0%BA%D0%B0%D 1%81%D 1%82%D0%BE%D0%BC%D0%B8%D0%B7%
D0%B0%D 1%86%D0%B8%D 1%8F+
%D 1%81%D0%BB%D0%BE%D0%B2%D0%B0%D 1%80%D 1%8C&source=bl&ots=6fTi3A76il&sig=w7Eycx846NVGK nF2kzev8bKTtU&hl=ru&sa=X&ved=0ahUKEwiGq-Kq49HSAhXHWiwKHXdnDJUQ6AEIPDAG#v=onepage&q&f=falseЭлектронные ресурсы
1. Konstan J.A. and Ekstrand M.D., (2013). “Recommender systems”. Available at: https://ru.coursera.org/specializations/recommender-systems [Accessed 26 Oct. 2015].
2. Sketch Engine [Электронный ресурс] / Электрон. дан. — Режим доступа: http://www.sketchengine.co.uk/, требуется регистрация.


Работу высылаем на протяжении 30 минут после оплаты.



Подобные работы


©2024 Cервис помощи студентам в выполнении работ