Umělá inteligence na úsvitu živých mrtvých

Na jeho výroční konferenci Re: Mars 2022 Amazon oznámil, že Alexa s námi bude brzy moci konverzovat napodobováním hlasů skutečných lidí.

Byl to právě Rohit Prasad, vědecký ředitel projektu Alexa Artificial Intelligence, během své keynote řekl, že díky nové funkci inteligentní reproduktor z domova Amazonu umožní uživatelům přeměnit vztahy s personálem na něco „trvalého“ („trvalé osobní vztahy").

Pokud někomu nebylo jasné, o čem Prasad mluví, na velké obrazovce se jí zeptal obrázek malého chlapce, který se obrátil k Alexe a zeptal se jí: „Babička může dočíst Čaroděj ze země Oz?“. Alexa okamžitě odpoví "Ok!" a od té chvíle se ze zařízení ozývá hlas starší ženy, která začíná číst dítěti pohádku Franka Bauma.

"Babička přítomná v tomto scénáři už není mezi námi," odsoudil algida Tony Dokoupil, novinář CBS News. komentování Prasadova prezentace.

Vždy je to poprvé

Již v červenci 2017 vyvolala senzaci služba publikovaná společností WIRED, která je dodnes dostupná na Youtube, kde videorozhovor vypráví příběh počítačového technika, který „přeměnil svého umírajícího otce na AI“.

Když si James Vlahos uvědomil, že jeho otec umírá na nevyléčitelnou nemoc, rozhodl se uložit otcovy vzpomínky do dlouhého seznamu zvukových a textových souborů a poté je umístit na svůj smartphone.

Ale to byl jen začátek: pomocí algoritmu umělé inteligence James umožnil svému telefonu odpovídat na otázky tím, že vrátil nejrelevantnější zvuk a texty jeho otce, což velmi pravděpodobně vyvolalo konverzaci mezi oběma. V Jamesových záměrech by algoritmus umožnil dialog s jeho otcem znovu i po jeho smrti, a tak se také stalo.

Do smyčky

Jamesova zkušenost se stala byznysem, neziskovou organizací, která lidem slibuje spojení se svými zesnulými prostřednictvím AI. Placená služba, se kterou může kdokoli přivést milovanou osobu zpět k životu přenesením jejích vzpomínek do aplikace.

Uvážíme-li však hluboké psychologické důsledky kontaktu se zesnulým blízkým, nemůžeme vyloučit, že by tato služba mohla vést k novým a nepředvídatelným společenským otřesům. Jsme například připraveni žít ve společnosti lidí, kteří místo truchlení spoléhají na placenou službu, aby zůstali ukotveni ke šťastnějším životním zkušenostem jako ve smyčce? Jestliže dnes naše paměť zpracovává bolestivé vzpomínky v perspektivě sebeochrany, jaké to bude zítra, když je manipulací můžeme přeměnit v něco, co nikdy není bolestivé a vždy uměle šťastné?

Situace se komplikuje

Co by se stalo, kdyby se James Vlahos, frustrovaný neschopností svého (zesnulého) otce projevit mu svou náklonnost, jednoho dne rozhodl „napravit“ úpravou pár řádků kódu tento aspekt své postavy a více se podobat otci, kterého chtěl?

Také, kdo zabrání uživatelům Alexa v jeho poučování chytrý reproduktor hrát pro nás roli dokonale živého člověka, který pečuje o novou formu digitálního fetišismu, která dosud nebyla pociťována jako potřeba?

Ale proč?

Cílem Amazonu je vytvářet nástroje, které přitahují pozornost lidí a zapojují je stále více do online aktivit. Zapojení uživatelů se již týká mnoha oblastí soukromého života a záměrem Amazonu je jít a obsadit nové, včetně sentimentální sféry, pokud je to nutné, jako v okupační válce, kde je dobyvatelská půda v soukromí každého z nás.

Článek převzatý z příspěvku Gianfranco Fedele, pokud si chcete přečístcelý příspěvek klikněte zde