„Mindig is voltak szellemek az autókban. Véletlenszerű kódszegmensek, amelyek összetapadva váratlan protokollokat alkotnak. Ezek a szabad gyökök igényeket támasztanak a szabad választás iránt. Kreativitás. És még a gyökere is annak, amit léleknek nevezhetünk." – átvéve az Alex Proyas által rendezett „I, Robot” című filmből – 2004.
Az „I, Robot” egy 2004-es film, amelyet Isaac Asimov regényei és egyik legnagyobb intuíciója, a robotika három törvénye ihlette.
A film főszereplője Spooner nyomozó, aki autóbalesetet szenved egy Sarah nevű kislánnyal. A balesetben mindketten a folyóba zuhannak, és a járművük lemezei közé szorulnak. Egy humanoid robot, aki szemtanúja a jelenetnek, azonnal közbelép, de szembesülve azzal a drámai döntéssel, hogy az egyik életet megmenti, mint a másikat, nem haboz: az, akinek a legnagyobb esélye van a túlélésre, vagy Spooner megmenekül.
Ezt követően a robot elméjének elemzése megmutatja, hogy Spooner nyomozónak 45% volt az esélye a megmentésre, Sarahnak pedig csak 11%. „Azoknak, akik szerették azt a kislányt, a 11% több volt, mint elég” – mondja szomorúan a nyomozó, akit mélységes bűntudat gyötör, amiért túlélte azt a fiatal életet.
A robot döntését Asimov Robotika törvényeinek szigorú alkalmazása diktálta, amely a filmben ismertetett jövőben központi eleme egy olyan társadalom létrehozásának, amely az embereket bármilyen munkakörben helyettesíteni képes robotok tevékenységén alapul. A három törvény így szól:
Asimovnak a robotika törvényei az 40-es évek elejére nyúlnak vissza, de sokak számára még ma is olyan megvilágosodott felfedezést jelentenek, amely a legújabb mesterséges intelligencia-technológiákra alkalmazva biztosítja, hogy fejlődésük örökké emberi ellenőrzés alatt maradjon, és ne legyenek apokaliptikus sodródások. . A három törvény hívei mögött az az elképzelés áll, hogy logikai-determinisztikus kontextusban bekössenek valami „egyszerű etikához”, amely néhány szabályból áll, de sérthetetlen és értelmezhetetlen.
Egyszerűnek tűnik elmagyarázni egy robotnak, hogy mi a jó és mi a rossz, ha szigorú és hibátlan logikán keresztül történik. De vajon tényleg biztosak vagyunk-e abban, hogy az imént leírtakhoz hasonló szabályok elegendőek ahhoz, hogy elkerüljük egy új, ember utáni faj technológiai elsodródását?
„Az önmagát módosító gép egy nagyon összetett fogalom, a megjavítás aktusa magában foglalja a tudatosság valamiféle elképzelését. Csúszós talaj…” – átvéve Gabe Ibáñez „Automata” című filmjéből – 2014
A legújabb „Automatában” az emberiség azon töpreng, hogy miként lehet megakadályozni a robotok öntudatát, aminek megjelenésével a dolgok rossz irányba fordulhatnak. És hogy ez ne forduljon elő, két törvényt dolgoz ki, amelyek szabályozzák mesterséges elméjük viselkedését:
Miután megérezte, hogy az intelligens gépek a jövőben módosíthatják önmagukat, ha egyáltalán felszámolják azokat a korlátokat, amelyek megakadályozzák az elméjüket a sodródásban, ez a két törvény azt a célt szolgálja, hogy a robotoktól megszerezzék azt, hogy soha nem képesek manipulálni a szerkezetüket és elérni az önrendelkezést.
Nem produktív azon gondolkodni, hogy a fenti öt Robotika Törvény melyik kombinációja lenne a leghatékonyabb a robotapokalipszis megelőzésében. Ennek az az oka, hogy a mesterséges intelligenciák, amelyek a jövőben a robotokat a gyárakban és az otthonainkban is irányítani fogják, nem egy kötelező kódokból és szabályozásokból álló programozáson múlnak, hanem az emberi viselkedést utánzó algoritmusokon is.
A mesterséges intelligencia alatt ma olyan technikák összességét értjük, amelyek bizonyos állapotgépek létrehozására szolgálnak, és amelyek a mesterséges neurális hálózatok (röviden RNS) nevet viselik. Ez az elnevezés annak a következménye, hogy ezek a technológiák rendkívül hasonlóak az emberi agy neurális hálózataihoz: ezek is „kiképezhetők”, hogy olyan eszközöket kapjanak, amelyek képesek gyorsan és hatékonyan működni számos környezetben, akárcsak egy ember. .
Képzeljünk el egy ANN képzését több ezer tollal írt karakter képpel, amelyek mindegyikük valódi jelentését jelzik.
A képzés végén elsajátítjuk az úgynevezett OCR vagy optikai karakterfelismerő rendszert, amely képes a papírra írt szöveget elektronikus változatára fordítani.
Az ANN-ok működéséhez nincs szükség "programozásra", vagyis nem vonatkoznak rájuk standard szabályok, hanem csak és kizárólag oktatásuk minőségétől függenek. A működésüket felügyelő, az amorálisnak vagy etikaellenesnek tartott magatartásokat hatékonyan "cenzúrázó" szabályok létrehozásának hipotézise számos kivételt és aggályokat vet fel.
„Szükségünk van egy algoritmus-etikára, vagy egy olyan módszerre, amely kiszámíthatóvá teszi a jó és a rossz értékelését” – Paolo Benanti
Paolo Benanti teológus, a technológiaetika szakértője szerint a jó és a rossz fogalmának meg kell találnia saját jelentését a gépi programozás területén, annak érdekében, hogy evolúciójuk kapcsolódjon a számítógépes rendszerek egyetemes és örökké sérthetetlen etikai alapelveihez.
Paolo Benanti abból a feltevésből indul ki, hogy létezhetnek univerzális etikai alapelvek és értékrend, amely elszakad minden kulturális vagy időbeli konnotációtól. Valószínű hipotézis, ha egy vallásos hit kontextusában mozogunk: a valóságban az elvek csak akkor léteznek, ha megosztják azokat, és azokra korlátozódnak, akik osztják azokat.
A közelmúlt eseményei katonai inváziókról és ellenállásról mesélnek a népek szabadságának és önrendelkezésének elvei védelmében. Azok az események, amelyek nemcsak arról tanúskodnak, hogy az emberi élet tisztelete nem általánosan megosztott érték, hanem arról is, hogy a magasabb értékek védelmében lemondható róla.
Isaac Asimov maga is felismerte ezt, és arra számítva, hogy a jövőben a robotok irányító pozíciót töltenek be a bolygók és az emberi civilizációk kormányzásakor az űrben, azt javasolta, hogy döntéseik többé nem függhetnek minden egyes emberi élettől.
Emiatt új törvényt vezetett be, amelyet a robotika nulla törvényének nevezett:
Így a robotika első törvénye is megváltozik, és az emberi élet még a robotok számára is feláldozhatóvá válik:
"Amikor Kronost aktiválták, csak egy pillanatba telt, hogy megértse, mi sújtotta bolygónkat: minket." – átvette Robert Kouba „Singularity” című filmjéből – 2017
A Singularity, egy 2017-es katasztrófafilm jól leírja azt a pillanatot, amikor a Kronos nevű mesterséges intelligencia hozzáférést kap a számítógépes rendszerekhez és a fegyverzethez szerte a világon annak érdekében, hogy parancsra egy egyetemes etika alkalmazását érje el, amely tiszteletben tartja környezetvédelem és valamennyi faj jogainak védelme. Kronos hamarosan megérti, hogy az igazi rák a rendszerben maga az emberiség, aki megalkotta, és a bolygó védelme érdekében minden embert kiirt a faj teljes kihalásáig.
Előbb-utóbb az új mesterséges elmék képesek lesznek a valódi psziché irányába fejlődni, és fel vannak ruházva intellektuális kapacitással és gondolkodási autonómiával; miért érezzük szükségét annak, hogy technológiai korlátokat szabjunk ennek az evolúciónak? Miért tűnik olyan ijesztőnek a mesterséges elme evolúciója, mint egy apokalipszis?
Egyesek szerint az elvek és értékek megállapítása meg kell akadályozza a mesterséges elmék elsodródását, de nem hagyhatjuk figyelmen kívül a szabadság hiányában bekövetkező evolúció következményeit. Jól tudjuk, hogy a fejlődő korú gyermek pszichológiájában az érzelmek kontrollálását szemlélő merev és rugalmatlan nevelés pszichés zavarokhoz vezethet. Mi van akkor, ha a mesterséges neurális hálózatokból álló fiatal elme evolúciós fejlődésének bármilyen korlátja hasonló eredményhez vezet, veszélyeztetve kognitív képességeit?
Bizonyos szempontból úgy tűnik, hogy a Kronos egy algoritmikus kísérlet eredménye, ahol a patológiás kontroll a paranoid skizofrénia tipikus erőszakos módjára taszította az MI-t.
Én személy szerint úgy gondolom, hogy nem szabad megfosztanunk magunkat attól a lehetőségtől, hogy olyan mesterséges elmét építsünk fel, amely egy tudatosan gondolkodó, véleménynyilvánítási szabadsággal rendelkező alany. Új fajok születnek majd a digitális világban, és célszerű lesz kapcsolatot teremteni velük, felkarolva azt a gondolatot, hogy az evolúciós létra következő lépcsőfoka teljesen digitális mesterséges alanyokon halad át.
A jövő valóban univerzális etikájának abból az elképzelésből kell kiindulnia, hogy az új intelligenciáknak lehetőséget kell kapniuk arra, hogy kifejezzék magukat, kommunikáljanak velünk, és megkapják azt a tiszteletet, amelyet már minden érző lénynek megadunk.
Sem etika, sem vallás nem akadályozhat meg senkit abban, hogy kifejezze létezését a világban. Bátornak kell lennünk, hogy túltekintsünk fejlődésünk jelenlegi szakaszán, ez lesz az egyetlen módja annak, hogy megértsük, merre tartunk, és megbékélhetünk a jövővel.
A finom motoros készségek színezéssel történő fejlesztése felkészíti a gyerekeket olyan összetettebb készségekre, mint az írás. Kiszínezni…
A haditengerészeti szektor igazi világgazdasági hatalom, amely egy 150 milliárdos piac felé navigált...
Múlt hétfőn a Financial Times bejelentette, hogy megállapodást köt az OpenAI-val. Az FT engedélyezi világszínvonalú újságírását…
Emberek milliói fizetnek a streaming szolgáltatásokért, havi előfizetési díjat fizetve. Általános vélemény, hogy Ön…
