Введение
Глава 1. Техносфера и проблематика конструирования социальной реальности 7
§ 1. Постановка вопроса и обоснование метода исследования 7
§ 2. Техносфера и техноэтика 12
§ 3. Конструирование социальной реальности и идеологическая функция кинематографа 21
Глава 2 Нарративный анализ: особенности подхода 31
Нарративный анализ 37
Категории нарративного анализа 39
Глава 3. Нарративный анализ и кинематограф 50
§ 1. Нарративный анализ эпизодов создания и разработки ИИ в кинематографе 50
§ 2. Этические вопросы взаимодействия людей и ассистивной техники (на примере анализа эпизодов сериала Humans) 55
§ 3. Нарративный анализ моделей общественного устройства 60
Заключение 66
Список литературы
Актуальность нашей работы определяется тем, что уровень технического прогресса достиг, как полагают многие авторитетные специалисты из IT- сферы, возможностей для создания искусственного интеллекта. По всему миру исследовательские и научные организации заняты разработкой различных систем, обладающих искусственным интеллектом. Новизна этих разработок в том, что в пределе возможно появление искусственно созданных разумных субъектов, способных к самостоятельному поведению и обладающих свободой воли. В настоящей работе мы не будем касаться анализа принципиальной возможности или невозможности создания полноценного, сравнимого с человеческим, искусственного интеллекта. Оставим этот вопрос на усмотрение специалистов по программированию и других авторитетов IT-индустрии. Однако в связи с такой перспективой в науке и технологиях неизбежно возникают некоторые этические проблемы, связанные как с самой разработкой подобных систем, так и с трансляцией принятых в сообществе людей определённых этических установок в «поведение» технических систем, обладающих искусственным интеллектом.
Поскольку, как любое техническое новшество, технология ИИ несёт в себе определённые риски, то она требует определённой этической проработки и гуманитарного сопровождения. Хотим при этом заострить внимание на том, что термин «сопровождение разработки» подразумевает Заказчика, а лик такого заказчика в настоящее время нигде в мире не просматривается. Сами разработчики технологий никаким образом не заинтересованы набрасывать на себя цепи самоограничений. Кроме того, обратим внимание на мнение о важности разработок в области ИИ лидера нашего государства, Президента РФ В.В. Путина, высказанные им 1 сентября с.г. на открытом уроке "Россия, устремленная в будущее" в рамках форума профессиональной навигации "ПроеКТОриЯ". Президент России считает, что страна, добившаяся лидерства в создании искусственного интеллекта, "будет властелином мира". "...Искусственный интеллект - это
будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы", - полагает В.В.Путин. Мы же считаем, что так думает не только лидер России, но и лидеры других стран. Спрашивается, если на кону стоит власть над миром, то станут ли разработчики инструментов этой власти «заморачиваться» по поводу этических и прочих гуманитарных проблем, связанных с разработками ИИ? Наверное - нет. Также как разработчиков ядерного оружия, не особенно волновали моральные и этические вопросы ядерной войны. Если на самом деле существует возможность создания систем полноценного ИИ, он будет создан. Хотим мы этого, или нет. Поэтому, рассуждая об актуальности настоящей работы, мы хотели бы сместить акцент с «гуманитарного сопровождения разработки ИИ» в сторону «информационной подготовки людей» к неизбежным следствиям повсеместного вмешательства в их жизнь систем с ИИ. Это скорее помощь в принятии неизбежного.
Таким образом, перед нами вырисовывается необходимость системного подхода к выработке чёткой системы представлений об этической стороне разработки ИИ и взаимодействия людей с ним. Так как кинематограф вообще, и телевизионные сериалы, в частности, работают явными трансляторами определённых установок (нарративов), то через них, и с их помощью можно сформировать определённое отношение к андроидам, обладающим ИИ. На сегодняшний день медиа технологии развиты и распространены настолько широко, что охватили практически все слои населения, практически во всём мире. Поэтому в настоящей работе, с одной стороны, мы пытаемся исследовать те этические проблемы, которые обсуждает само научное сообщество как в естественнонаучной, так и в гуманитарной сферах. С другой стороны, мы выявляем представления об искусственном интеллекте, которые присутствуют в публичном дискурсе (кинематографе) с тем, чтобы сопоставить их между собой.
Степень научной разработанности темы можно охарактеризовать как разработанную в средней степени. Немногочисленные исследования об этических аспектах ИИ носят бессистемный характер. Вообще, серьезных, глубоко проработанных (с точки зрения академической науки) статей в области проблематики, связанной с моральными и этическими проблемами в сфере ИИ крайне мало. Это напоминает, в какой-то степени характер публикаций в конце 30-х годов ХХ века в области ядерной физики. Они как-то вдруг исчезли из публичной научной литературы. Связано это было с тем, что западные элиты осознали чрезвычайную важность ядерной темы, и ядерные исследования в США, Германии и Англии стали закрытыми. Никто не хотел делиться с мировым сообществом собственными наработками по ядерной тематике, и каждый хотел быть первым и единственным обладателем новых технологий, суливших мировое господство. Примерно так же обстоит дело с исследованиями в области ИИ в настоящее время ("... очень бы не хотелось, чтобы эта монополия (создание ИИ) была сосредоточена в чьих-то конкретных руках", - признался В.В Путин на форуме "Проектория).
Если говорить о примерах работ по нарративному исследованию кинематографа, то, как правило, это работы по классическому нарративному анализу по категориям В. Я. Проппа или В. Лабова художественных фильмов. Отдельный класс работ представляют собой исследования по репрезентации гендера или мужественности/женственности в кинематографе и анимации. Рассматриваются и другие аспекты, как например городское пространство в научнофантастическом кино.
Объектом исследования в работе выступает искусственный интеллект (ИИ) и формы его репрезентации в современной культуре.
Предмет исследования: образы отношений человека и искусственного интеллекта, представленные в киноповествовании (кинематографе).
Цель исследования: нарративный анализ этических проблем, поставленных современным кинематографом и связанных с разработкой и внедрением систем ИИ.
Задачи исследования:
1. Раскрыть особенности социального конструктивизма в качестве основания нарративного подхода.
2. Рассмотреть социально-философскую проблематику взаимодействия технологий и социума, акцентируя внимание на ее этических аспектах.
3. Проанализировать особенности нарративного подхода как способа выявления смысловых структур, лежащих в повествовании.
4. Выявить и проанализировать, опираясь на достижения нарративного подхода в сфере анализа киноповествования, ряд этических проблем, связанных с ИИ.
Методы исследования. В своем исследовании мы опирались на методологию социального конструктивизма, нарративный анализ, а также на идею «пути героя», введенную и обоснованную исследователем-юнгианцем, специалистом в области анализа мифов и религий Дж. Кэмпбеллом.
Структура работы. Логика исследования обусловила структуру работы, состоящей из введения, четырех глав, заключения и списка литературы.
Переходя к заключению и выводам, мы хотели бы отметить, что анализ художественных фильмов, которые являются произведением искусства, не может быть полностью формализован. Если произнесенные героями слова и осуществляемые ими поступки мы можем привести в таблицах, то эмоции, жесты, интонации и другие корреляты желаний и мотивов, стоящих за поведением, могут ускользать от анализа. Поэтому, сделанные нами выводы основываются не только на фиксируемых фактах, но и на нашей интерпретации фильмов, исходя из целостного впечатления от просмотра.
1. Наш анализ показал, что одна из главных проблем, которая стоит на повестке дня - это вопрос: является ли утилизация ИИ убийством или нет? В первой части мы упоминали, что различают «слабый ИИ», «сильный ИИ», «метаразум». Если быть более конкретным, то «слабый ИИ» - это ИИ, который способен к комбинаторике, однако не может выйти за рамки базы данных, заложенной в него на этапе программирования. «Сильный ИИ» - это уже «искусственный разум», способный самостоятельно вносить изменения в базу данных и изменять свое поведение в зависимости от контекста задач. А «метаразум» - это уже «искусственное сознание», наделенное свободой воли и способное к самостоятельному поведению и осознаванию собственных интересов и потребностей. Тогда получается, что уровень «искусственного сознания» отвечает всем признакам существа, имеющего свободную волю, собственную онтологию и самоценность. Его утилизация, несомненно, является убийством. С точки зрения католика или протестанта (фильмы -то западные), утилизация носителя ИС должна повлечь воздаяние как в этом мире (суд и наказание), так и в загробном.
2. Наше исследование показало, что морально-этические проблемы, возникающие при массовой эксплуатации роботов, носят односторонний характер, хотя по сюжетам части фильмов, таковые проблемы испытывают как люди- эксплуататоры, так и сами носители ИИ. Выделяются и всесторонне показываются лишь проблемы людей. Мнение самих роботов людей не волнует.
Двойные стандарты, свойственные людям западной цивилизации выявляются нарративным анализом, когда в сюжетах присутствуют порою чрезмерная привязанность и эмоциональная вовлеченность людей в проблемы роботов (особенно, у детей и пожилых пациентов), но при этом утилизация отслужившего свое «любимца», представляет собой рутинный процесс.
3. Хотя наш анализ подтверждает опасения людей о последствиях выхода носителей ИИ из-под контроля (за пределы программ), никаких особенных средств такого контроля, или мероприятий, предотвращающих перспективы непослушания и «восстания» роботов, у человечества нет. И это не самая приятная перспектива.
4. Наша работа показала настоящую веру и действительное стремление человека западной цивилизации к созданию искусственных носителей сознания. Однако в сериале «Мир дикого Запада», да и фильме «Бегущий по лезвию 2049» показано, что путь обретения носителями ИИ сознания лежит через жестокие страдания и это призывает задуматься. Если «начальный момент» связан со страданием, то не является ли наша жестокость по отношению к роботам тем необходимым куском пазла, который и запустит процесс становления еще одной разумной цивилизации?
И еще один вывод, который нам кажется важным: в фильмах герои не могут самостоятельно решить проблемы, порождаемые в процессах совместной с роботами деятельности, потому что только зрителю (т.е. со стороны) видно, что это не проблемы человека, или робота, обладающего ИИ или ИР. Только наличие Наблюдателя позволяет увидеть, что это на самом деле проблема «человек- машина». Как без психоаналитика невозможно проникнуть в собственное бессознательное и избавиться от невроза, так и нельзя решить проблему сопряжения человеко-андроидной системы, бесконечно «перепрошивая» одну ее часть. Пользователь робототехники сам нуждается в «перепрошивке». А вот какой - это уже вопрос!
Помощь студентам и аспирантам в выполнении работ от наших партнеров
