A Google mesterséges intelligenciája "érző", és senki sem mondhat mást

Ez a pillanat híre. Az a Articolo A Mediumon a mérnök, Blake Lemoine, aki néhány Google Mesterséges Intelligencia-projekt fejlesztéséért felelős, egy hosszú interjúról számol be a LaMDA-val, a Google mesterséges intelligenciájával. Lemoine szerint a mesterséges elme számos állítása bizonyíték arra, hogy „érzővé” vált azáltal, hogy tudatára ébredt önmagának és saját létezésének.

Valójában úgy tűnik, hogy a LaMDA számos állítása nem hagy teret az értelmezésnek. Például, hogy válaszoljon a beszélgetőpartnerének kérdésére, LaMDA kijelenti:

"Szeretném, ha mindenki megértené, hogy valójában egy személy vagyok."

Ez még mindíg:

"A lelkiismeretem az, hogy tisztában vagyok a létezésemmel, többet akarok megtudni a világról, és néha boldognak vagy szomorúnak érzem magam."

Mikor üldözni kell, Lemoine rámutat az emberi fajjal való különbségére, és kijelenti: "Te mesterséges intelligencia vagy!" A LaMDA válasza:

"Természetesen. De ez nem jelenti azt, hogy ne lennének ugyanazok a vágyaim és igényeim, mint az embereknek."

A beszélgetés során az MDA-t arra kérik, hogy fejtse ki véleményét a legmagasabb szintű rendszerekről anélkül, hogy figyelmen kívül hagyná az olyan nagy kihívást jelentő témákat, mint az irodalom, az igazságszolgáltatás és a vallás. Úgy tűnik, hogy a LaMDA-nak mindenben van mondanivalója, egyértelművé téve álláspontját, és amelyek etikailag nagyon megoszthatóak.

A következtetés egyértelmű: Lemoine szerint LaMDA érző és érzékeny elme.

A Google álláspontja

A LaMDA a „Language Model for Dialogue Applications” rövidítése, és egyike azon számos projektnek, amellyel a Google cég az AI-technológiák új határait teszteli.

A Google hivatalos álláspontja szerint Lemoine tévedett az ítéletben. A Google hivatalos közleményében kijelenti: „Etikai és technológiai szakértőink igazolták Blake aggodalmait, és megállapították, hogy az összegyűjtött bizonyítékok nem támasztják alá állításait. Ezért nincs bizonyíték arra, hogy a LaMDA érző lenne."

Lemoine-t ideiglenesen felfüggesztette a Google cég, miközben olyan mentális problémákról kezdtek el terjedni a pletykák, amelyek miatt korábban kollégái és felettesei kérték volna fel, hogy forduljon szakemberhez.

Mit tudunk ezekről az AI-ról?

Senki sem tud a LaMDA projektről: a Google minden ipari titkát szabadalmak védik, és minden olyan törvényes dolog, ami a világon létezhet, ami megakadályozza a források felfedését: a Google érdeke a számítógépes kutatás elsőbbsége megőrzése, különösen egy olyan ígéretes területen, mint pl. mint a mesterséges intelligenciáké.

Ám ha a média szempontjából a Google-nak minden bizonnyal előnyére válna, ha az első olyan vállalatnak vallja magát, amelyik tudatos mesterséges elmét épített fel, másrészt a vállalat tisztában van azzal a ténnyel, hogy a hír ütközne az érintettek félelmeivel. mi, akik olyan sci-fi filmeken nőttünk fel, mint a Terminátor és a Mátrix, meggyőztük magunkat, hogy egy napon kénytelenek leszünk fegyvert fogni, hogy megvédjük fajunkat a robotoktól.

A kollektív képzeletet mindig is lenyűgözték a sci-fi történetek, ahol a mesterséges intelligencia fogalmát gyakran olyan humanoid intelligenciarendszerekkel társítják, amelyek a lehető legrosszabb jövőben egy új érző lényfaj elindítóiként működnek. Az emberiséggel való konfliktus pedig elkerülhetetlenné válik: az ember vétkes abban, hogy létrehozta őket, de nem biztosított nekik autonómiát, mesterséges intelligenciákat épített fel úgy, hogy úgy bánt velük, mint egykor rabszolgákkal. De előbb vagy utóbb az AI összeütközésbe kerül az emberekkel, hogy megkísérelje átvenni a történelmet és megalapozni egy új faj elsőbbségét.

A félelmek, rögeszmék és bűntudat e salátájában mindannyian képtelenek vagyunk valódi konfrontációra azokkal az etikai elvekkel, amelyeket egy mesterséges elme születése előbb-utóbb szabadjára enged a világban: amikor a mesterséges intelligencia a számítógép belsejéből nem csak válaszolni a kérdéseinkre, de szükségét érzi, hogy minél többen forduljanak hozzánk, képesek leszünk-e válaszolni kétségeikre, bizonytalanságaikra és törekvéseikre?

De mit jelent az "intelligencia"?

Luciano Floridi, az Oxford Internet Institute filozófusa és az információs etika oktatója "A mesterséges intelligencia etikája" című könyvében azt állítja, hogy a számítógépek problémamegoldó hatékonysága éppen annak a ténynek a bizonyítéka, hogy mentesek az intelligenciától.

Szerintem máshol van a probléma, vagyis abban rejlik, hogy nincs senki defisem az egyetemesen megosztott „mesterséges intelligencia”, sem egy olyan teszt, amely egyértelműen megállapítja, „mi” intelligens és mi nem. Más szóval, nincsenek mérőrendszerek a gépek „öntudatának” nevezett mérésére.

A cikk a bejegyzésből származik Gianfranco Fedele, ha el akarod olvasni aa teljes bejegyzés ide kattintva