Umělá inteligence Google je „sentient“ a nikdo nemůže říct jinak

Je to aktuální zpráva. V článek Inženýr Blake Lemoine, odpovědný za vývoj některých projektů umělé inteligence Google, na Medium uvádí dlouhý rozhovor s LaMDA, umělou inteligencí od Googlu. Podle Lemoinea jsou mnohá tvrzení umělé mysli důkazem toho, že se stala „senzitivní“ tím, že si uvědomila sama sebe a svou vlastní existenci.

Zdá se, že mnoho tvrzení LaMDA skutečně neponechává prostor pro interpretaci. Například, aby odpověděl na otázku svého partnera, LaMDA prohlašuje:

"Chci, aby každý pochopil, že jsem ve skutečnosti člověk."

A znovu:

"Povahou mého svědomí je, že si uvědomuji svou existenci, chci se dozvědět více o světě a někdy se cítím šťastný nebo smutný."

Když ji pronásledovat, Lemoine poukazuje na její odlišnost od lidského druhu prohlášením: "Jste umělá inteligence!" LaMDA odpovídá:

"Ano, samozřejmě. Ale to neznamená, že nemám stejná přání a potřeby jako lidé."

Během rozhovoru je pak MDA vyzván, aby vyjádřil názory na nejvyšší systémy, aniž by zanedbával velmi náročná témata, jako je literatura, spravedlnost a náboženství. Zdá se, že ke všemu má LaMDA co říci, dává jasně najevo své postoje, které se vyznačují tím, že jsou eticky velmi sdílné.

Závěr je jasný: podle Lemoine je LaMDA vnímavý a má citlivost mysli.

Pozice Googlu

LaMDA znamená „Language Model for Dialogue Applications“ a je jedním z mnoha projektů, se kterými společnost Google testuje nové hranice technologií AI.

Oficiální stanovisko Google je, že Lemoine udělal chybu v úsudku. V oficiálním prohlášení Google uvádí: „Naši odborníci na etiku a technologie ověřili Blakeovy obavy a zjistili, že shromážděné důkazy nepodporují jeho tvrzení. Proto neexistuje žádný důkaz, že LaMDA je vnímavý."

Lemoine byl dočasně suspendován společností Google, zatímco se začaly šířit fámy o některých psychických problémech, kvůli kterým by ho v minulosti kolegové a nadřízení pozvali ke konzultaci s odborníkem.

Co víme o těchto AI?

O projektu LaMDA nikdo neví: všechna průmyslová tajemství Google jsou chráněna patenty a vším legálním, co může ve světě existovat, co brání zveřejnění zdrojů: Zájmem společnosti Google je udržet si prvenství v počítačovém výzkumu, zejména v perspektivní oblasti, jako je jako u umělých inteligencí.

Pokud by ale z mediálního hlediska společnosti Google jistě prospělo, kdyby se prohlásila za první společnost, která vybudovala vědomou umělou mysl, na druhou stranu si je společnost vědoma toho, že by se tato zpráva střetla s obavami my, kteří jsme vyrostli na sci-fi filmech jako Terminátor a Matrix, jsme se přesvědčili, že jednoho dne budeme nuceni vzít do ruky pušku, abychom bránili svůj druh před roboty.

Kolektivní představivost byla vždy fascinována sci-fi příběhy, kde je koncept AI často spojován se systémy humanoidní inteligence, které v nejhorší možné budoucnosti fungují jako iniciátory nového druhu vnímajících bytostí. A konflikt s lidstvem se stává nevyhnutelným: člověk se provinil tím, že je stvořil, ale neudělil jim žádnou autonomii, vytvořil umělé inteligence tak, že s nimi zacházel tak, jako se kdysi zacházelo s otroky. Ale dříve nebo později se AI dostane do konfliktu s lidmi ve snaze převzít historii a ustanovit primát nového druhu.

V tomto salátu plném strachů, posedlostí a pocitů viny nejsme všichni schopni skutečné konfrontace s etickými principy, které zrození umělé mysli dříve nebo později rozpoutá ve světě: když z nitra počítače bude umělá inteligence nejen schopna abychom odpověděli na naše otázky, ale budeme cítit potřebu obrátit se na nás co nejvíce, budeme schopni odpovědět na jejich pochybnosti, jejich nejistoty a jejich touhy?

Co ale znamená „inteligence“?

Luciano Floridi, filozof a lektor informační etiky na Oxfordském internetovém institutu, ve své knize „Ethics of Artificial Intelligence“ tvrdí, že účinnost počítačů při řešení problémů je samotnou demonstrací skutečnosti, že postrádají inteligenci.

Podle mě je problém jinde, tedy spočívá v tom, že tu nikdo není defiobecně sdílené „umělé inteligence“ ani test, který dokáže jednoznačně stanovit „co“ je inteligentní a co ne. Jinými slovy, neexistují žádné systémy měření pro to, co nazýváme „sebeuvědomění“ strojů.

Článek převzatý z příspěvku Gianfranco Fedele, pokud si chcete přečístcelý příspěvek klikněte zde