ОПРЕДЕЛЕНИЯ, ОБОЗНАЧЕНИЯ, СОКРАЩЕНИЯ 4
ВВЕДЕНИЕ 6
1. ОБЗОР СУЩЕСТВУЮЩИХ СИСТЕМ И МЕТОДОВ РАСПОЗНАВАНИЯ ЭМОЦИЙ 9
1.1. Существующие системы распознавания эмоций 9
1.1.1. Affectiva SDK&API 9
1.1.2. FaceReader Noldus Information T echnology 10
1.1.3. Microsoft Cognitive Services Emotion API 11
1.2. Существующие методы распознавания эмоций 12
1.2.1. Статические методы распознавания 13
1.2.1.1. Метод главных компонент (PCA) 13
1.2.1.2. Линейный дискриминантный анализ (LDA). Лица Фишера 14
1.2.2. Скрытые Марковские модели 15
1.2.3. Сверточные нейронные сети 16
2. ОЦЕНКА ЭФФЕКТИВНОСТИ МЕТОДОВ РАСПОЗНАВАНИЯ ЭМОЦИЙ 18
2.1. Численные метрики качества 18
2.1.1. Доля правильных ответов 19
2.1.2. Точность и полнота 19
2.1.3. F-мера 20
2.2. Cравнение моделей распознавания эмоций с помощью численных метрик качества 20
3. РЕАЛИЗАЦИЯ СИСТЕМЫ РАСПОЗНАВАНИЯ ЭМОЦИЙ 22
3.1. Используемые технологии 22
3.2. Описание системы 23
3.3. Сущности системы 24
3.4. Добавление видеоматериалов для распознавания эмоций 26
3.5. Реализация модуля обнаружения лиц 27
3.6. Реализация модуля распознавания эмоций 28
3.7. Реализация модуля обработки результатов распознавания 31
4. АПРОБАЦИЯ СИСТЕМЫ РАСПОЗНАВАНИЯ ЭМОЦИЙ 34
4.1. Определение точности распознавания эмоций 34
4.2. Апробация работы системы на реальных данных 36
ЗАКЛЮЧЕНИЕ 39
СПИСОК ИСПОЛЬЗУЕМОЙ ЛИТЕРАТУРЫ 40
ПРИЛОЖЕНИЕ А 43
ПРИЛОЖЕНИЕ Б 45
ПРИЛОЖЕНИЕ В 46
ПРИЛОЖЕНИЕ Г 47
ПРИЛОЖЕНИЕ Д 48
Человек выражает свое отношение к внешнему, окружающему его миру через эмоции. Эмоции описывают чувства людей в различных ситуациях. Исследования показали, что человек может с помощью мимических выражений невербально проявлять 7 базовых эмоций: радость, грусть, страх, удивление, отвращение, стыд, гнев (Модель базовых эмоций П. Экмана) [1]. Человеческое лицо является выдающимся и спонтанным каналом общения человека и человека: он хмурит брови, когда рассержен, закрывает глаза, когда испуган, и улыбается, когда испытывает радость. В процессе общения человек интуитивно по мимике определяет, какие эмоции испытывает его собеседник на данный момент. Но возможно ли научить компьютер определять, какие эмоции испытывает человек при взаимодействии с ним?
Эффективные вычисления получили огромный исследовательский интерес в области развития взаимодействия компьютера и человека за последние десятилетия. Распознавая эмоции, интеллектуальная компьютерная система может обеспечить более дружественные и эффективные средства общения с пользователями в различных областях: медицине, образовании, маркетинге, интеллектуальных автомобильных системах, интерактивных развлечениях и пр.
На сегодняшний день разработано множество алгоритмов и систем для распознавания эмоций по лицам на изображениях и видеофайлах, которые, как правило, основаны на известных методах машинного обучения. Каждая эмоция соответствует уникальному выражению лица, характеристики которого служат входом в систему классификации, а выход дает воспринимаемое машиной состояние эмоций. Системы распознавания активно используются в прикладных задачах, однако многие проблемы все еще остаются. Окклюзия и световые искажения, а также условия освещения могут изменить общий вид лица, тем самым алгоритмы не могут определить выражения лиц.
Распознавание эмоций широко применимо и в сфере образования. В настоящее время не существует действенных способов определения отношения студентов к образовательному процессу. На лекциях, семинарах и конференциях с большим количеством слушателей (более 50 человек) преподавателю невозможно самостоятельно определить вовлеченность участников в процесс обучения. Чаще всего преподаватель оценивает реакцию только тех студентов, с которыми он находит зрительный контакт. Как правило, это студенты, сидящие в первых рядах аудитории. Таким образом, преподавателю невозможно составить объективную эмоциональную картину, ориентируясь только на свои наблюдения, и, следовательно, невозможно определить эффективность излагаемого им материала. Тем самым имеется необходимость автоматизировать возможность определять эмоциональное состояние студентов во время академических и научно-популярных занятий.
Целью работы является разработка системы, позволяющей распознавать 7 базовых эмоций студентов с целью мониторинга их эмоционального отношения к преподаваемому материалу для повышения качества и эффективности занятий, а также своевременного реагирования в случаях выявления неблагоприятной эмоциональной обстановки.
Для достижения обозначенной цели служат следующие задачи:
1. Проведение анализа существующих методов и систем распознавания эмоций;
2. Обоснование максимально эффективного метода и алгоритма распознавания эмоций;
3. Выбор программных компонентов для реализации системы;
4. Разработка системы распознавания эмоций по видеоданным;
5. Апробация системы на собранных данных.
Первая глава данной работы содержит обзор наиболее известных на сегодняшний день существующих систем распознавания эмоций. Кроме того, в данной главе описаны существующие методы распознавания эмоций. В
качестве основы для изучения способов определения эмоций послужили научные труды и публикации известных отечественных и зарубежных экспертов в данной области.
Во второй главе выпускной квалификационной работы рассмотрены численные метрики качества методов распознавания эмоций, произведен сравнительный анализ описанных в первой главе методов и выбран наиболее эффективный алгоритм.
Третья глава содержит информацию об архитектуре, технологиях разработки и технической реализации системы.
В четвертой главе представлены результаты апробации разработанной системы определения эмоций на собранных данных и сформулированы выводы по работе системы.
В ходе выполнения данной работы был произведен анализ существующих систем и методов распознавания эмоций, в результате которого был выбран наиболее эффективный метод распознавания.
На основе выбранного метода была разработана система распознавания эмоций, позволяющая распознавать 7 базовых эмоций студентов с целью мониторинга их эмоционального отношения к преподаваемому материалу для повышения качества и эффективности занятий, а также своевременного реагирования в случаях выявления неблагоприятной эмоциональной обстановки.
В будущем разработанную систему возможно применять не только в сфере образования, но и адаптировать ее для использования в других сферах деятельности (медицина, маркетинг, интеллектуальные транспортные сети, робототехника, интерактивные развлечения и пр.) для обеспечения более качественных и эффективных связей при взаимодействии интеллектуальных компьютерных систем с человеком.
1. П. Экман, Психология эмоций // Пер. с англ. В. Кузин. — СПб.: Питер. - 2010. — 336 с.
2. Affectiva SDK&API [Электронный ресурс]/ Режим доступа: https://www.affectiva.com/product/emotion-sdk/, свободный
3. FaceReader Noldus Information Technology [Электронный ресурс]/ Режим
доступа: https: //www.noldus .com/human-behavior-
research/products/facereader, свободный
4. Microsoft Cognitive Services Emotion API [Электронный ресурс] / Режим
доступа: https://azure.microsoft.com/ru-m/services/cognitive-
services/emotion/, свободный
5. A. Konar, A. Chakraborty, Emotion recognition. A Pattern Analysis Approach // Wiley, 2014. - p. 583
6. P. Maben, N. Meher, S. Sagarika, Face recognition and facial expression identification using PCA //Advance Computing Conference, 2014. -pp.10931098.
7. H. Salih, L. Kulkarni, Study of video based facial expression and emotions recognition methods // I-SMAC, 2017. - pp. 84 - 92.
8. M.S. Batlett, J.C. Haget, P. Ekman, T.J. Sejniwskie, Measuring facial expressions by computer image analysis // Cambridge University Press. publc., 2000. - pp. 254-265.
9. K.M. Aswin, K. Vasudev, K. Shanty, HERS: Human emotion recognition system // Information Science (ICIS), 2016. - pp. 73 - 105.
10. Md. Uddin, A. Almogren, G. Fortino, J. Torresen, A facial expression recognition system using robust face features from depth videos and deep learnin // Computers & Electrical Engineering, 2017. - pp. 114 - 125.
11. A.V. Nefian, M.H. Hayes, Hiddden Markov Models For Face Recognition // Computer Engineering Georgia Institute of Technology. -2009.
12. S.Duffner, Face Image Analysis With Convolutional Neural Networks //University of Freiburg. -2007. - 191 p.
13. R. W. Picard, Affective computing // MIT Press, 2000. - p. 292.
14. G. Chetty, M. Wagner, A multilevel fusion approach for audiovisual emotion recognition // AVSP, 2008. - pp. 123 - 130.
15. M. Mansouri, M. Teshnehlab, Face recognition using Convolutional Neural Network // Conference on Soft Computing in Industrial Applications, 2012. - pp. 64 - 74.
16. «Методы оценки ошибок классификации» [Электронный ресурс] / Режим доступа: https://poisk-ru.ru/s11757t5.html, свободный
17. Е. Соколов, «Выбор моделей и критерии качества» [Электронный
ресурс] / Режим доступа:
http: //www.machinelearning.ru/wiki/images/1/1 c/Sem06_metrics.pdf, свободный
18. Е.С. Мищенкова, Сравнительный анализ алгоритмов распознавания лиц //Вестник Волгоградского государственного университета. Серия 9: Исследования молодых ученых. 2015. - № 11. - c. 75-78.
19. «Python Software Foundation» [Электронный ресурс] / Режим доступа: https://www.python.org/, свободный
20. «Официальный сайт фреймворка Djnago» [Электронный ресурс] / Режим доступа: https://www.djangoproject.com/, свободный
21. М. Лутц, Программирование на Python // Пер. с англ. - 4-е изд. - Спб.: СимволПлюс. - 2011. - 992 с.
22. «SQLite» [Электронный ресурс] / Режим доступа: http://www. sqlite.org/index.html, свободный
23. «OpenCV library» [Электронный ресурс] / Режим доступа: https://opencv.org/, свободный
24. L.A. Prieto, Z. Kominkova-Oplatkova, A performance comparison of two emotion-recognition implementations using OpenCV and Cognitive Services API // CSSS, 2017. - pp. 125 - 131.
25. А.С. Полякова, В.И. Кобер, О применении библиотеки OpenCV в задаче распознавания лиц по их изображению //Актуальные проблемы авиации и космонавтики. 2017. - Т. 1. № 12. - с. 559- 590.
26. «Cohn-Kanade (CK and CK+) database download site» [Электронный
ресурс] / Режим доступа: http://www.consortium.ri.cmu.edu/ckagree/,
свободный
27. А. Мавлетова, «Машинное обучение с учителем» [Электронный ресурс] /
Режим доступа:
https: //www.hse.ru/data/2016/09/24/1123730671/Mavletova_2016_Krysht_Co nf.pdf, свободный