Adimen artifiziala hilen egunsentian

Bere urteko kongresuan re: 2022ko martxoa Amazonek iragarri du Alexa laster gurekin hitz egin ahal izango duela benetako pertsonen ahotsak imitatuz, adimen artifizialari esker.

Rohit Prasad zen, Alexa proiektuko zuzendari zientifikoa Adimen artifiziala, bere hitzaldian adierazi zuen ezaugarri berri bati esker, Amazon bozgorailu adimendunak erabiltzaileei harreman pertsonalak "iraunkorrak" ("harreman pertsonal iraunkorrak") zerbait bihurtzeko aukera emango diela.

Norbaitek argi ez bazuen zertaz ari zen Prasadek, Alexarengana jo zuen mutiko baten irudi batek galdetu zion pantaila handian eta galdetu zion: "Amonak 'Oz-eko morroia' irakurtzen amai dezake?". Alexa-k berehala erantzuten du "Ok!" eta une horretatik aurrera gailutik adineko emakume baten ahotsa entzuten da Frank Baum-en ipuina haurrari irakurtzen hasten denean.

"Eszenatoki honetan dagoen amona jada ez dago gurekin", Tony Dokoupil CBS News-eko kazetariak algid zigortuko du. iruzkintzen Prasaden aurkezpena.

Beti dago lehen aldia

Dagoeneko 2017ko uztailean WIREDek argitaratutako zerbitzu batek sentsazioa eragin zuen, gaur egun oraindik eskuragarri YouTube, non bideo-elkarrizketa batek "hilzorian zegoen bere aita AI bihurtu zuen" informatika teknikariaren istorioa kontatzen du.

James Vlahosek bere aita sendaezina den gaixotasun baten ondorioz hiltzen ari zela konturatu zenean, bere aitaren oroitzapenak audio- eta testu-fitxategien zerrenda luze batean gordetzea erabaki zuen, eta gero bere telefonoan jartzea.

Baina hau hasiera baino ez zen izan: adimen artifizialaren algoritmo baten bidez, James-ek bere telefonoak galderei erantzuteko aukera eman zion bere aitaren audio eta testurik garrantzitsuenak itzuliz, eta litekeena da bien arteko elkarrizketa bat sortuz. Jamesen asmoetan, algoritmoak bere aitarekin elkarrizketa posible egingo zuen hil ondoren ere, eta hala izan zen.

Baina elkarrizketak buelta arraroa hartzen du amaieran. Jamesek bere aita zenduari galdetzen dionean "Maite al nauzu?" erantzunak iheskorra dirudi: “Aupa! Asko faltan bota zaitut! Zertaz hitz egin nahi dugu?".

Eta orduantxe abiatzen da James gertatutakoaren inguruko hausnarketa sakon batean: «Aitak maite nauela esateko nahigabeak etsita ninduen», dio Jamesek minez. «Aita batek jakin behar omen ditu horrelako galderen erantzunak, baina ez daki. Esan nahi dut, hura esaten entzun nahi nuela».

Eta hor korapilatzen da egoera.

Begizta sartu

Jamesen esperientzia negozio bat bihurtu da, irabazi asmorik gabeko bat, jendeari hildakoarekin AI bidez konektatuko dela agintzen duena. Ordainpeko zerbitzu bat, zeinaren bidez edonork bere oroitzapenak aplikazio batera transferitzen dituen pertsona maite bat biziaraztea.

Baina hildako pertsona maite batekin harremanetan jartzeak dituen inplikazio psikologiko sakonak kontuan hartzen baditugu, ezin dugu baztertu zerbitzu honek gizarte istilu berriak eta ezustekoak ekar ditzakeela. Esaterako, prest al gaude, dolua baino, ordaindutako zerbitzu batean oinarritzen den jendearen gizarte batean bizitzeko, bizitza-esperientzia zoriontsuenetan ainguratuta jarraitzeko, begizta batean bezala? Gaur egun gure memoriak oroitzapen mingarriak auto-babesaren ikuspegian prozesatzen baditu, nolakoa izango da bihar horiek manipulatuz inoiz mingarria eta beti artifizialki zoriontsua den zerbait bihurtu ahal izango ditugunean?

Amazonek ez du aurrerapen zientifikorik sustatzen, produktuak jartzeko gune berriak ere bilatzen ditu eta lehen inor ausartu ez zen tokian bilatzen ditu.

Alexak benetako pertsonen ahotsak eta tonuak erreproduzituko dituen teknologiak aspalditik ezagutzen diren algoritmoak dira. Esan genezake: ezer berririk eguzkipean. Haien aplikazioa da suntsitzailea izango dela agintzen duena, etika garaikidearen mugetara iristen den probokazioa.

Alexa-rekin, badirudi Amazonek erabiltzaile bakoitzaren inguruan eraiki nahi duela pertsona maite eta galduek betetako oroitzapenen benetako metabertsoa. Erliebe lekua non denok iraganari agur ez esatea aukera genezakeen, software bati esker infinituki berpizteko aukera izan genezakeen.

Egoera konplikatu egiten da

Zer gertatuko litzateke James Vlahosek, bere (hildako) aitaren maitasuna erakusteko ezintasunak zapuztuta, egunen batean "zuzentzea" erabakiko balu, kode lerro batzuk aldatuz, bere izaeraren alderdi hori eta nahi zuen aitaren antzera?

Gainera, nork eragotziko die Alexa erabiltzaileei bozgorailu adimendunari guretzat guztiz bizirik dagoen pertsona baten papera bete dezan agintzea, oraindik beharrik ez genuen fetitxismo digitalaren forma berri bat elikatuz?

Saia gaitezen Alexa bere maitasunaren objektu bihurtzen duen etsita dagoen maitale bat imajinatzen, bere izaera zuzentzea ahaztu gabe, bere behar emozional eta umoretsuetara okertzeko. Giza-harremanak gutxiesteko eta subjektu hauskorrenen bizitzak afektu-modu berrietan murgiltzeko modu bat izango al litzateke hori, errealitatetik aldenduta eta zerbitzu-enpresa multinazionalek zuzendutako tresna teknologikoetan ainguratuta?

Baina zergatik?

Amazonen helburua da jendearen arreta erakartzen duten tresnak sortzea eta sareko jardueretan gero eta gehiago parte hartzea. Erabiltzaileen inplikazioa bizitza pribatuko arlo askori dagokio jada eta Amazonen asmoa da beste batzuk okupatzera joatea, esparru sentimentala inplikatuz, behar izanez gero, konkistaren eremua gutako bakoitzaren intimitatean dagoen okupazio gerra batean bezala.

Baina sentimenduak eta mina ustiatzea muga berria bada, jokabide horren ondorio etikoak serio kontuan hartu behar dira: eremua ez da aske utzi behar teknologia berriak ustiatzeko asmoa dutenentzat, manipulazio modu bihurtzen diren inplikazio-modu berriak sortzeko.

Belaunaldi berriak teknologiaz sentimenduz elikatzen diren eta beren bizi-esperientzian modu naturalean eboluzionatu ezin duten subjektu multzo bihurtu nahi ditugu agian?

artikulua Gianfranco Fedele