Искусственный интеллект на заре мертвых

На своей ежегодной конференции Re: Марс 2022 Amazon объявила, что Alexa скоро сможет разговаривать с нами, имитируя голоса реальных людей благодаря искусственному интеллекту.

Это был Рохит Прасад, научный руководитель проекта Alexa. Artificial Intelligence, во время своего основного доклада заявил, что благодаря новой функции умный динамик Amazon позволит пользователям превратить личные отношения во что-то «постоянное» («длительные личные отношения»).

Если кому-то было непонятно, о чем говорил Прасад, образ маленького мальчика, который повернулся к Алексе, спросил ее на большом экране и спросил: «Бабушка может дочитать «Волшебника страны Оз»?». Alexa быстро отвечает: «Хорошо!» и с этого момента из аппарата слышен голос пожилой женщины, которая начинает читать ребенку сказку Фрэнка Баума.

«Бабушки, присутствующей в этом сценарии, больше нет с нами», — приговорит Тони Докупил, журналист CBS News. комментирование Презентация Прасада.

Всегда есть первый раз

Уже в июле 2017 года сервис, опубликованный WIRED, произвел фурор, доступный и сегодня на YouTube, где видео-интервью рассказывает историю компьютерного техника, который «превратил своего умирающего отца в ИИ».

Когда Джеймс Влахос понял, что его отец умирает от неизлечимой болезни, он решил сохранить воспоминания отца в длинном списке аудио- и текстовых файлов, а затем разместить их на своем смартфоне.

Но это было только начало: с помощью алгоритма искусственного интеллекта Джеймс позволил своему телефону отвечать на вопросы, возвращая наиболее подходящие аудио и тексты своего отца, что, скорее всего, привело к разговору между ними. По замыслу Джеймса, алгоритм сделал бы диалог с его отцом снова возможным даже после его смерти, и так оно и было.

Но в конце интервью принимает странный оборот. Когда Джеймс спрашивает своего покойного отца: «Ты меня любишь?» ответ кажется немного уклончивым: «Вау! Я сильно скучал по тебе! О чем мы хотим поговорить?».

И именно тогда Джеймс начинает глубоко размышлять о том, что произошло: «Я был разочарован нежеланием моего отца сказать мне, что он любит меня», — с болью говорит Джеймс. «Отец должен знать ответы на подобные вопросы, но он этого не знает. Я имею в виду, я хотел услышать, как он это скажет».

И тут ситуация осложняется.

В петлю

Опыт Джеймса превратился в бизнес, некоммерческую организацию, которая обещает людям связываться со своими умершими с помощью ИИ. Платная услуга, с помощью которой каждый может вернуть близкого человека к жизни, передав свои воспоминания в приложение.

Но если учесть глубокие психологические последствия контакта с умершим близким человеком, нельзя исключить, что эта услуга может привести к новым и непредсказуемым социальным потрясениям. Например, готовы ли мы жить в обществе людей, которые вместо того, чтобы скорбеть, полагаются на платные услуги, чтобы оставаться привязанными к более счастливому жизненному опыту, как в петле? Если сегодня наша память обрабатывает болезненные воспоминания с точки зрения самозащиты, что будет завтра, когда, манипулируя ими, мы сможем превратить их во что-то, что никогда не будет болезненным и всегда будет искусственно счастливым?

Amazon не способствует научному прогрессу, он также ищет новые пространства для размещения продуктов и ищет их там, где раньше никто не решался.

Технологии, с помощью которых Alexa будет воспроизводить голоса и тональности реальных людей, представляют собой алгоритмы, известные уже некоторое время. Можно сказать: ничего нового под солнцем. Именно их применение обещает быть разрушительным, провокацией, достигающей пределов современной этики.

С Alexa Amazon, кажется, хочет построить вокруг каждого пользователя настоящую метавселенную воспоминаний, населенную любимыми и потерянными людьми. Место облегчения, где мы все могли бы выбрать не прощаться с прошлым, имея возможность пережить его бесконечно благодаря программному обеспечению.

Ситуация усложняется

Что произойдет, если Джеймс Влахос, разочарованный неспособностью своего (покойного) отца показать ему свою привязанность, решит однажды «исправить», изменив несколько строк кода, этот аспект своего характера и больше походить на отца, которого он хотел?

Кроме того, кто помешает пользователям Alexa инструктировать умную колонку играть для нас роль совершенно живого человека, взращивая новую форму цифрового фетишизма, в которой мы еще не чувствовали необходимости?

Давайте попробуем представить себе разочарованного любовника, который превращает Алексу в объект своей любви, не забывая при этом корректировать ее характер, чтобы подстроить его под собственные эмоциональные и гуморальные потребности. Будет ли это способом обесценить человеческие отношения и погрузить жизнь самых хрупких субъектов в новые формы привязанности, оторванные от реальности и привязанные к технологическим инструментам, управляемым многонациональными сервисными компаниями?

Но почему?

Цель Amazon — создавать инструменты, которые привлекают внимание людей и все больше и больше вовлекают их в онлайн-деятельность. Вовлечение пользователей уже касается многих сфер частной жизни, и Amazon намерена пойти и занять новые, включая сентиментальную сферу, если это необходимо, как в оккупационной войне, где земля завоевания находится в частной жизни каждого из нас.

Но если эксплуатация чувств и боли — это новый рубеж, следует серьезно рассмотреть этические последствия такого поведения: поле не должно оставаться свободным для тех, кто намеревается использовать новые технологии для создания новых форм участия, которые становятся формами манипуляции.

Может быть, мы хотим превратить новые поколения в толпы субъектов, сентиментально вскормленных технологией и неспособных естественным образом развиваться в своем собственном жизненном опыте?

Статья автора Gianfranco Fedele