Тип работы:
Предмет:
Язык работы:


ИССЛЕДОВАНИЕ СТРАТЕГИЙ В КОМПЬЮТЕРНЫХ ИГРАХ С ПРИМЕНЕНИЕМ МЕТОДОВ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Работа №163260

Тип работы

Магистерская диссертация

Предмет

информатика

Объем работы86
Год сдачи2022
Стоимость4945 руб.
ПУБЛИКУЕТСЯ ВПЕРВЫЕ
Просмотрено
16
Не подходит работа?

Узнай цену на написание


ВВЕДЕНИЕ 5
1 Анализ предметной области 7
1.1 Общая характеристика игрового искусственного интеллекта 7
1.2 Методы реализации игрового искусственного интеллекта 8
1.3 Обучение с подкреплением. Обучение без знания модели 12
1.4 Общая характеристика нейронный сетей. Нейронный сети в обучении
с подкреплением 17
1.5 Выбор средств для создания окружения 20
1.6 Выбор набора инструментов для написания внутренней логики и
обучения агента 22
1.7 Выводы 24
2 Разработка приложения 25
2.1 Проектирование и создание окружения 25
2.2 Подготовка агента к обучению 31
2.3 Описание алгоритмов обучения агента 40
2.4 Анализ обучения агента 44
2.5 Описание приложения 56
2.6 Тестирование 58
2.7 Выводы 60
ЗАКЛЮЧЕНИЕ 61
СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ 63
ПРИЛОЖЕНИЕ А Листинг программы 66
ПРИЛОЖЕНИЕ Б Презентация

На сегодняшний день искусственный интеллект используется во многих областях и затрагивает множество сфер человеческого общества, начиная от развлечений и проходя через медицину, образование, экономику и другие сферы. Если изначально ИИ отдалённо затрагивал эти области, то уже сейчас он всё глубже проникает в нашу реальность и становится одной из наиболее актуальных проблем. Благодаря развитию области искусственного интеллекта уже сейчас возможно создание уникальных систем, которые направлены на решение задач, не всегда посильных для человек.
Область компьютерных игр является одной из возможных сфер реализации искусственного интеллекта. Изначально игры использовались только как программы для развлечения и отдыха, но это уже давно не так, игры могут использоваться и в образовательных целях, и, с активным развитием ИИ, всё чаще используются для моделирования реальных процессов с последующим переносом обученных агентов. В области игр искусственный интеллект может проявляться в различных вариантах, как для улучшения графики и определения поведения неигровых персонажей, так и для затронутого выше моделирования реальных процессов, которые легче и эффективнее реализовать сначала в игровых ситуациях. Сфера компьютерных игр является наиболее доступной и восприимчивой к новым технологическим решениям в области обучения с подкреплением, так как позволяет удешевить, ускорить и полнее контролировать обучение модели, проверяя тем самым многие задумки до материального воплощения.
В данной работе будет рассматриваться обучение с подкреплением для создания игрового искусственного интеллекта у агента, помещённого в специально разработанную среду и выполняющего определённую задачу. Описанная выше модель позволит улучшить игровой опыт игроков, благодаря внедрению нейронной сети, а также может быть ориентирована на последующее внедрение в сферы реального мира.
В магистерской диссертации объектом исследования выступает игровой искусственный интеллект. Предметом исследования является глубокое обучение с подкреплением и компьютерные игры.
Целью магистерской диссертации является создание игры с внедрённым в неё ИИИ, рассмотрение и анализ различных алгоритмов ИИ и архитектур нейронной сети, формирование рекомендации для непосредственной реализации искусственного интеллекта в компьютерных играх.


Возникли сложности?

Нужна помощь преподавателя?

Помощь в написании работ!


Во время исследования и анализа предметной области были рассмотрены различные варианты реализации ИИИ, в том числе обучение с подкреплением и нейронный сети, были подробно рассмотрены алгоритмы глубокого обучения, такие как Proximal policy optimization и Soft Actor-Critic. Для создания игры с реализацией ИИИ были проанализированы различные варианты, которые позволяют эффективно, с необходимым контролем и гибкостью разработать спроектированную систему.
В рамках данной выпускной квалификационной работы была разработана игра с внедрением игрового искусственного интеллекта для обеспечения поведения персонажа. В качестве игрового движка использовался Unity, а в основу ИИИ легко глубокое обучение с подкреплением, для реализации которого использовался пакет ML-Agents. Помимо разработанного приложения были исследованы варианты обучения агента с их анализом, с выделением у них достоинств и недостатков, были описаны рекомендации для их использования, а также были составлены базовые настройки для обучения агента, которые могут быть использованы для обучения в совершенно разных средах, как полностью готовый вариант, так и как baseline, то есть первоначальная настройка, относительно которой будут подбираться гиперпараметры для более эффективного обучения.
Полученные результаты обладают научной ценностью, которая заключается в перспективе дальнейших исследований в области обучения с подкреплением, развитие которой позволит внедрять агентов во все области человеческой жизнедеятельности.
Сама игра, независимо от описанных выше исследований, может использоваться как готовый продукт, для неё уже разработано несколько режимов, позволяющих играть одному, против агента или против друга. Разработанная игра имеет большой потенциал для дальнейшего развития, которое может включать, например, внедрение игры по сети, разработку уровней с прогрессом, в том числе случайно генерируемых, так же возможность добавления новых режимов, позволяющих играть командами, для чего также могут использоваться агенты и много других направлений развития.



1. Боровская, Е. В. Основы искусственного интеллекта / Е. В. Боровская, Н. А. Давыдова. - 4-е изд. - М.: Лаборатория знаний, 2020. - 130 c.
2. Джоши, Патрик Искусственный интеллект с примерами на Python / Патрик Джоши. - СПб.: ООО "Диалектика", 2019. - 448 c.
3. Казиев, А. Б. Прикладное применение средств искусственного интеллекта в разработке компьютерных игр / А. Б. Казиев, С. Ю. Прокопюк // Международный студенческий научный вестник. - 2015. - № 3 (часть 2). - С. 228-230.
4. Игровой искусственный интеллект / Кушнир, В. Н, Кушнир [и др.] // Научные труды КубГТУ. - 2016. - № 2. - С. 149-158.
5. Буковшин, В. А. Интеллектуальные системы в компьютерных играх. Перспективы развития искусственного интеллекта в игровой индустрии / В. А. Буковшин, С. Г. Воскобойников // Современные материалы, техника и технологии. - 2017. - № 3 (11). - С. 21-36.
6. Паласиос, Х. Unity 5.х. Программирование искусственного интеллекта в играх / Х. Паласиос. - М.: ДМК Пресс, 2017. - 272 с.
7. Моделирование поведения агентов для реализации игрового искусственного интеллекта / А. О. Анохин, Н. П. Садовникова, А. В. Катаев, Д. С. Парыгин // Прикаспийский журнал: управление и высокие технологии. - 2020. - № 2 (50). - С. 85-99.
8. Рассел, С. Искусственный интеллект: современный подход / С. Рассел, П. Норвиг. - 2-е изд. - М.: Издательский дом "Вильямс", 2007. - 1408 c.
9. Хайкин, Саймон Нейронные сети: полный курс / Саймон Хайкин. - 2-е изд. - М.: Издательский дом "Вильямс", 2006. - 1104 c.
10. Шампандар, Алекс Дж. Искусственный интеллект в компьютерных играх: как обучить виртуальные персонажи реагировать на внешние воздействия / Алекс Дж. Шампандар. - М.: ООО "И.Д. Вильямс", 2007. - 768 c.
11. Саттон Р. С., Барто Э. Дж. Обучение с подкреплением: Введение. - 2-е изд. - М.: ДМК Пресс, 2020. - 552 с.
12. Welcome to Spinning Up in Deep RL! // OpenAI. Spinning Up URL: https://spinningup.openai.com/en/latest(дата обращения: 10.04.2024).
13. Deep Reinforcement Learning: Pong from Pixels // Andrej Karpathy blog URL: https://karpathy.github.io/2016/05/31/rl/(дата обращения: 13.04.2024).
14. Тимошкин М.О., Романова Е.Г. Применение метода глубокого Q- обучения для обучения агентов в логических играх // Математическое и компьютерное моделирование естественно-научных и социальных проблем. - Пенза: Пензенский государственный университет, 2022. - С. 199-206.
15. Mnih V., Kavukcuoglu K., Silver D., Graves A., Antonoglou I., Wierstra D., Riedmiller M. Playing Atari with Deep Reinforcement Learning, 2013.
16. Крон, Джон Глубокое обучение в картинках. Визуальный гид по искусственному интеллекту / Джон Крон, Грант Бейлевельд, Бассенс Аглаэ. - СПб.: Питер, 2020. - 400 c.
17. Ведяхин, А. Сильный искусственный интеллект: на подступах к сверхразуму / А. Ведяхин [и др.]. - М.: Интеллектуальная Литература, 2021. - 323 c.
18. Пискарёв Д.И., Разинков К.Ю. Искусственная нейронная сеть. Области применения и принцип работы // EUROPEAN RESEARCH. Сборник статей XV Международной научно-практической конференции: в 2 ч. Том. Часть 1. - Пенза: Наука и Просвещение (ИП Гуляев Г.Ю.), 2018. - С. 33-36.
19. Соснин А.С., Суслова И.А. Функции активации нейросети: сигмоида, линейная, ступенчатая, ReLU, tahn // Наука. Информатизация. Технологии. Образование. Материалы XII международной научно¬практической конференции. - Екатеринбург: Российский государственный профессионально-педагогический университет, 2019. - С. 237-246.
20. Иванько А.Ф., Иванько М.Ф., Сизова Ю.А. Нейронные сети: общие технологические характеристики // Научное обозрение. Технические науки. - 2019. - №2. - С. 17-23.
21. Щегольков М.В., Зинкин С.А. Свёрточная нейронная сеть в обучении с учителем для определения поведения игрового агента // Студенческий вестник. - 2023. - №16-12 (255). - С. 68-69.
22. Богатырева А.А., Виноградова А.Р., Тихомирова С.А. Исследование способности к Transfer learning сверточных нейронных сетей, обученных на Imagenet // Международный журнал прикладных и фундаментальных исследований. - 2019. - №7. - С. 106-111.
23. Gym Documentation URL: https://www.gymlibrary.dev(дата обращения: 15.05.2024).
24. Unity Documentation URL: https://docs.unity3d.com(дата обращения: 05.05.2024).
25. ML-Agents // Github URL: https://github.com/Unity-Technologies/ml- agents(дата обращения: 15.05.2024).
26. Anaconda URL: https://www.anaconda.com(дата обращения: 15.05.2024).
27. Unity Asset Store URL: https://assetstore.unity.com(дата обращения: 20.04.2024).
28. Training Configuration File // Unity ML-Agents Toolkit URL: https://unity-technologies.github.io/ml-agents/Training-Configuration-File/(дата обращения: 07.05.24).
29. Proximal Policy Optimization // OpenAI. Spinning UP URL: https://spinningup.openai.com/en/latest/algorithms/ppo.html(дата обращения: 06.05.24).
30. Schulman J., Wolski F., Dhariwal P., Radford A., Klimov O. Proximal Policy Optimization Algorithms, 2017
31. Soft Actor-Critic // OpenAI. Spinning UP URL: https://spinningup.openai.com/en/latest/algorithms/sac.html(дата обращения: 06.05.24).
32. Haarnoja T., Pong V., Hartikainen K., Zhou A., Dalal M., Levine S. Soft Actor Critic—Deep Reinforcement Learning with Real-World Robots, 2018


Работу высылаем на протяжении 30 минут после оплаты.



Подобные работы


©2025 Cервис помощи студентам в выполнении работ