„V autech byli vždycky duchové. Náhodné segmenty kódu, které se shlukují a vytvářejí neočekávané protokoly. Tyto volné radikály vytvářejí požadavky na svobodnou volbu. Tvořivost. A dokonce i kořen toho, co bychom mohli nazvat duší." – převzato z „Já, robot“ režiséra Alexe Proyase – 2004.
„Já, robot“ je film z roku 2004 inspirovaný romány Isaaca Asimova a jednou z jeho největších intuicí: třemi zákony robotiky.
Hlavním hrdinou filmu je detektiv Spooner, který má autonehodu s malou dívkou jménem Sarah. Při nehodě jsou oba hozeni do řeky a uvíznou mezi plechy svého vozidla. Humanoidní robot, který je svědkem scény, okamžitě zasáhne, ale tváří v tvář dramatickému rozhodnutí zachránit jeden život místo druhého neváhá: Ten, kdo má největší šanci na přežití nebo Spooner, bude zachráněn.
Následně analýza robotovy mysli ukáže, že detektiv Spooner měl 45% šanci na záchranu, Sarah pouze 11%. "Pro ty, kteří milovali tu malou holčičku, bylo 11 % víc než dost," bude smutně vládnout detektiv, sužován hlubokými pocity viny za to, že přežil ten mladý život.
Robotovo rozhodnutí bylo diktováno důslednou aplikací Asimovových zákonů robotiky, které v budoucnosti popsané ve filmu představují ústřední prvek pro vytvoření společnosti založené na činnosti robotů schopných nahradit člověka v jakékoli práci. Tyto tři zákony zní takto:
Tyto zákony robotiky od Asimova se datují do počátku čtyřicátých let, ale pro mnohé ještě dnes představují osvícený objev, který při aplikaci na nejnovější technologie umělé inteligence zajistí, že jejich vývoj zůstane navždy pod lidskou kontrolou a nebudou docházet k žádným apokalyptickým posunům. . Myšlenkou fanoušků tří zákonů je vytvořit v logicko-deterministickém kontextu něco, co připomíná „prostou etiku“ složenou z několika pravidel, ale nedotknutelných a nevysvětlitelných.
Vysvětlit robotovi, co je dobré a co je špatné, se zdá jednoduché, pokud se to dělá pomocí přísné a bezchybné logiky. Ale jsme si opravdu jisti, že pravidla, jako jsou ta právě popsaná, jsou dostatečná k tomu, aby se zabránilo technologickému posunu nového post-lidského druhu?
„Stroj, který se sám upravuje, je velmi složitý koncept, akt jeho opravy zahrnuje určitou myšlenku vědomí. Kluzká půda…“ – převzato z „Automata“ od Gabe Ibáñeze – 2014
V nejnovějším „Automatu“ se lidstvo zamýšlí nad možností zabránit sebeuvědomění robotů, s jejichž příchodem by se věci mohly ubírat špatným směrem. A aby se tomu zabránilo, sestavuje dva zákony, které budou regulovat chování jejich umělých myslí:
Tyto dva zákony, které vytušily, že inteligentní stroje by se mohly v budoucnu upravit, pokud vůbec něco tím, že odstraní omezení, která brání jejich mysli v unášení, mají tyto dva zákony za cíl získat od robotů, že nikdy nebudou schopni manipulovat se svou strukturou a dosáhnout sebeurčení.
Není produktivní lámat si hlavu nad tím, která kombinace pěti výše uvedených zákonů robotiky by byla nejúčinnější v prevenci robotické apokalypsy. Umělá inteligence, která v budoucnu povede roboty v továrnách i v našich domovech, totiž nezávisí na imperativním programování složeném z kódů a předpisů, ale také na algoritmech, které napodobují lidské chování.
Umělou inteligencí dnes rozumíme soubor technik pro konstrukci konkrétních stavových strojů, které se nazývají umělé neuronové sítě (ve zkratce RNA). Tento název je výsledkem mimořádné podobnosti těchto technologií s neuronovými sítěmi lidského mozku: i ty mohou být „vycvičeny“, aby získaly nástroje schopné fungovat rychle a efektivně v mnoha kontextech, stejně jako by to dělala lidská bytost. .
Představme si trénování ANN s tisíci obrázků znaků napsaných perem s uvedením skutečného významu každého z nich.
Na konci školení získáme tzv. OCR neboli optické rozpoznávání znaků, systém schopný převést text napsaný na papíře do jeho elektronické verze.
ANN ke svému fungování nevyžadují žádné „programování“, jinými slovy nepodléhají standardním pravidlům, ale závisí pouze a výhradně na kvalitě jejich vzdělání. Hypotéza o vytváření pravidel, která dohlížejí na jejich fungování, účinně „cenzurující“ chování považované za amorální nebo antietické, vyvolává mnoho výjimek a určité obavy.
„Potřebujeme algoritmickou etiku nebo způsob, který umožní vyčíslení dobra a zla“ – Paolo Benanti
Podle teologa Paola Benantiho, odborníka na etiku technologií, by koncepty dobra a zla měly najít svou vlastní konotaci v oblasti strojového programování, aby bylo zajištěno, že jejich evoluce bude propojena s univerzálními a navždy nedotknutelnými etickými principy z počítačových systémů.
Paolo Benanti vychází z předpokladu, že mohou existovat univerzální etické principy a žebříček hodnot oddělených od jakékoli kulturní nebo časové konotace. Pravděpodobná hypotéza, pokud se pohybujeme v kontextu náboženské víry: ve skutečnosti principy existují pouze tehdy, jsou-li sdíleny a omezeny na ty, kdo je sdílejí.
Nedávné události nám vyprávějí o vojenských invazích a odporu na obranu principů svobody a sebeurčení národů. Události, které svědčí nejen o tom, že úcta k lidskému životu není všeobecně sdílenou hodnotou, ale také o tom, že se jí lze vzdát na obranu vyšších hodnot.
Sám Isaac Asimov si to uvědomil a v očekávání skutečnosti, že roboti v budoucnu převezmou kontrolní pozice ve vládě planet a lidských civilizací ve vesmíru, navrhl, že jejich rozhodnutí již nemohou záviset na každém jednotlivém lidském životě.
Z tohoto důvodu zavedl nový zákon, který nazval nulový zákon robotiky:
Tak se mění i první zákon robotiky a lidský život se stává něčím postradatelným i pro roboty:
"Když byl Kronos aktivován, trvalo mu jen chvíli, než pochopil, co naši planetu sužovalo: nás." – převzato z „Singularity“ od Roberta Kouby – 2017
Ve filmu Singularity, katastrofickém filmu z roku 2017, je dobře popsán okamžik, kdy umělá inteligence jménem Kronos získává přístup k počítačovým systémům a výzbroji po celém světě, aby příkazem dosáhla uplatňování univerzální etiky založené na respektu vůči životní prostředí a ochrana práv všech druhů. Kronos brzy pochopí, že skutečnou rakovinou v systému je samo lidstvo, které jej navrhlo, a aby ochránil planetu, přistoupí k likvidaci každé lidské bytosti až do úplného vyhynutí druhu.
Dříve nebo později se nové umělé mysli budou moci vyvíjet směrem ke skutečné psychice a budou obdařeny intelektuální kapacitou a autonomií myšlení; proč bychom měli cítit potřebu klást technologické limity na tento vývoj? Proč se vývoj umělé mysli zdá děsivý jako apokalypsa?
Podle některých by stanovení principů a hodnot mělo zabránit unášení umělých myslí, ale nemůžeme přehlížet důsledky evoluce bez svobody. Dobře víme, že v psychologii dítěte ve vývojovém věku může rigidní a nepružná výchova, která uvažuje o ovládání emocí, vést k psychickým poruchám. Co když nějaké limity kladené na evoluční vývoj mladé mysli, tvořené umělými neuronovými sítěmi, vedou k podobnému výsledku, který ohrozí její kognitivní schopnosti?
V některých ohledech se zdá, že Kronos je výsledkem algoritmického experimentu, kde patologická kontrola dotlačila AI k typickému násilí paranoidní schizofrenie.
Osobně věřím, že bychom se neměli připravit o možnost vybudovat si umělou mysl, která je vědomě myslícím subjektem se svobodou projevu. V digitálním světě se zrodí nové druhy a bude vhodné si s nimi vytvořit vztah, přijímající myšlenku, že další krok na evolučním žebříčku prochází zcela digitálními umělými subjekty.
Skutečně univerzální etika budoucnosti by měla vycházet z myšlenky, že nové inteligence by měly mít příležitost vyjádřit se a komunikovat s námi a získat respekt, který již dáváme všem vnímajícím bytostem.
Neměla by existovat ani etika, ani náboženství, které by bránily komukoli vyjádřit svou existenci ve světě. Musíme mít odvahu podívat se za současnou fázi našeho vývoje, bude to jediný způsob, jak pochopit, kam směřujeme, a smířit se s budoucností.
Rozvíjení jemné motoriky prostřednictvím vybarvování připravuje děti na složitější dovednosti, jako je psaní. Barvit…
Námořní sektor je skutečnou globální ekonomickou velmocí, která se dostala na 150miliardový trh...
Minulé pondělí Financial Times oznámily dohodu s OpenAI. FT licencuje svou prvotřídní žurnalistiku…
Miliony lidí platí za streamovací služby a platí měsíční předplatné. Je obecný názor, že jste…
