Hawkingův paradox

"Gray už tu není." Je to na lepším místě. Uzavřený ve své mysli, tam, kde chce být. Teď to mám pod kontrolou. Imaginární svět je pro něj mnohem méně bolestivý než ten skutečný. Vše, co potřeboval, bylo zlomit svou mysl, a on ji zlomil." - z Upgrade, filmu, který napsal a režíroval Leigh Whannell.

V roce 2021 byla zveřejněna dne Nature Medicine studie provedená skupinou výzkumníků z Kalifornské univerzity. V rámci výzkumu někteří lékaři chirurgicky implantovali mikročip do mozku ženy trpící těžkou formou deprese, která již nebyla léčitelná léky.

K tomu vědci identifikovali dvě oblasti ženského mozku, které se zvláště podílejí na generování „depresivních myšlenek“ a propojili mikročip s těmito oblastmi.

Pozitivní myšlení

Ten, který je schopen zachytit konkrétní elektrické impulsy spojené s obsedantními myšlenkami, začal produkovat elektrické stimuly schopné vytvářet „pozitivní myšlenky“, které jim odporují.

Tato epizoda vyvolává řadu etických otázek o tom, jak, kdy a proč bychom měli změnit mysl člověka implantováním čipu do jeho mozku, který změní to, jak funguje.

Pokud bychom se omezili na použití mikročipů k léčbě patologií u subjektů rezistentních na léky, bylo by stanovení etických hranic jednoduchou operací.

Ale pokus „zvýšit“ výkon lidského mozku rozšířením jeho schopností prostřednictvím přídavného CPU, který má na starosti zpracování inline s naší myslí je již v programech mnoha společností a startupů, jako je například nechvalně známý Neuralink Elona Muska. Čeho chcete dosáhnout?

Představte si, že byste mohli kdykoli sledovat obsah záznamu na Wikipedii, aniž byste se museli připojovat k internetu. Nebo umět ovládat technologické nástroje pouze silou myšlenky. Zkusme si nyní představit četné kontexty, ve kterých by tyto supervelmoci proměnily životy lidí, například umožnily lidem trpícím vážnými nemocemi získat část své autonomie. To vše je úžasné.

Pokud však přesuneme svou pozornost k mikročipu, který tento zázrak umožní, lze si snadno představit, jak důležité je stanovit etické zásady týkající se nabízených možností a rizik, která mohou vyplynout z kombinace inteligentních výpočetních systémů a lidské činnosti. mozek.

Zní to jako sci-fi, ale něco podobného se již stalo.

Co s tím má společného Stephen Hawking?

V roce 2014 mu zdravotní stav Stephena Hawkinga, trpícího neurodegenerativní chorobou, již neumožňoval komunikovat se světem prostřednictvím tradičních digitálních systémů. Pohyby, které dokázal vyvinout pouze svou tváří, se staly nepostřehnutelnými a žádný elektronický nástroj by je nikdy nedokázal přečíst a interpretovat.

Intel pro něj tak společně s londýnským SwiftKey vytvořil umělou inteligenci, která, poučená na základě knih a dokumentů, které v průběhu let napsal, umožnila Hawkingovi komunikovat. Jinými slovy, technologie inteligentně vyhodnotila Hawkingovu neverbální komunikaci tím, že čas od času stanovila, co měl s největší pravděpodobností na mysli během každého rozhovoru.

Hawking byl nadšený z technologií a příležitostí, které se mu otevřely, ale skutečnost, že tento nástroj byl jediným styčným bodem mezi ním a světem, způsobila, že jeho schopnost komunikace na něm byla zcela závislá. Algoritmy umělé inteligence, které umožnily zázrak, se staly jediným mostem mezi Hawkingem a zbytkem světa. Jakákoli anomálie v interpretaci signálů Hawkingova těla mohla vést k nesprávné odpovědi ze strany AI, kterou Hawking nechtěl, ale zároveň byla absolutně v souladu s kontextem rozhovoru.

Scénář je scénář velkého vědce neschopného komunikovat se světem a umělé inteligence, která převezme kontrolu nad jeho životem a komunikuje na jeho místě.

Podle některých to byla právě Hawkingova podmínka závislosti na AI, která v něm podnítila pesimistickou myšlenku, podle níž pomocí jeho slov: „[...] umělá inteligence bude fungovat a vyvíjet se nezávisle na člověku a skončí s ohrožením samotnou existenci lidstva“.

Ztráta kontroly

Film Aktualizujte Tuto eventualitu dobře popisuje: atletický mechanik Gray se stane obětí útoku, při kterém jeho žena přijde o život a on je nucen žít navždy na invalidním vozíku. Teprve experimentální čip vybavený umělou inteligencí známou jako STEM, jakmile bude implantován do jeho páteře, jej bude moci postavit na nohy a dát mu novou naději na život.

Ale zatímco je Gray přesvědčen, že se může vrátit do normálu, STEM převezme jeho tělo manipulací s jeho psychikou, dokud se nevrátí do stavu věčného spánku: Gray se jakoby zázrakem spojí se svou zesnulou manželkou a bude žít navždy v uvnitř metaverze vytvořené speciálně pro něj, zatímco STEM se stane prototypem nového druhu lidských těl řízených umělou myslí.

Závěry

Jak lze takovému scénáři zabránit? Podle mého názoru není nutné čekat na vývoj pokročilých systémů, jako je STEM, aby technologie převzaly kontrolu nad našimi životy. Neexistuje ani možnost postavit se technologickému vývoji, jako je STEM, kvůli obrovským ekonomickým zájmům, které financují jeho vytvoření.

Je zřejmé, že dospělý, který hledá metaverze, kde by si mohl zmírnit své bolesti a uměle znovu objevit štěstí, již předává kontrolu nad svou myslí někomu jinému.

Jediný způsob, jak zabránit tomu, aby technika jednoho dne převzala naše životy, je vycvičit nové generace v principech, které nás udržují ukotvené v realitě.

Je důležité pochopit, že metaverze je jen iluze, iluze, která má tu vadu, že je pod něčí kontrolou a že někdo nejsme my.

Článek převzatý z příspěvku Gianfranco Fedele, pokud si chcete přečístcelý příspěvek klikněte zde