Identifikazioa ez da printzipio etiko bat, trikimailu zikin bat baizik!

Proiektuan lanean hasi nintzenetik Laila, enpresei eskainitako elkarrizketa-agente bati laguntzeko Adimen Artifizialaren ekosistema, ikasi dut AI garapenerako eta berrikuntzarako aukera izugarriak eskaintzen dituela, baina erabiltzen dutela dioten enpresa gehienak, zoritxarrez, marketin estrategia hutsa praktikan jartzen ari dira.

Google Duplex bideo birikoa

Munduari aurkeztu bezain laster, Google Duplex-ek berehala bereganatu zuen sarearen arreta. urtean aurkeztua Google IO 2018, Adimen Artifizialean oinarritutako teknologia honek gizaki bat suplantatzea lortzen du, bere erabiltzailearen izenean, ile-apaindegian saio bat eta jatetxe batean mahai bat erreserbatzeko asmoarekin, bi enpresekin telefono-elkarrizketa nahiko arina mantenduz.

Bideo demoa benetakoa dirudi, baina askorentzat faltsu bat da. Zalantzarik gabe, elkarrizketak, nahiko konplexuak diruditenak, asmatu ez badira, saiakera askoren eta zorte apur baten ondorio dira, zalantzarik gabe: bi telefono-dei arrakastatsuetatik ez dakigu Google Duplex-eko beste zenbat dei huts egin izan duten. .

Aurkezpenak sortutako efektuak Amazonek 2013an, Youtuben bideo batekin, munduari aurkeztu zuenean egin zuen hitzaldi bikaina gogorarazten dit. Amazon Prime Air, droneetan oinarritutako entrega sistema berritzailea; sistema iraultzaile hau, urte geroago, oraindik fase esperimentalean dago eta hilkor soilak ohitu egin gara zientzia-fikziozko asmakizun hauek "guztiak" azken finean bideo biralak egiteko modu berri bat besterik ez direla.

Google Duplex-ek deigarria egin ninduena bideoa argitaratu eta ordu gutxira jadanik planteatu eta sareko egunkari garrantzitsuenek berehala martxan jarritako ustezko arazo etiko baten inguruan jarritako antzoki txikia da. Laburbilduz, batzuen ustez: giza jokabidea simulatzen duten AIek arazo etiko bat sortzen dute beren izaera mozorrotzen badute eta gizakia itxuratzen badute.

Snapshot Google-ren erantzuna: "Duplexa berehala identifikatuko da zure solaskidearentzat".

Eman dezagun pauso bat atzera

Googlek beti ohitu gaitu bere teknologiak erabiltzera, inoiz nola egiten diren eta nola funtzionatzen duten agerian utziz. Bere bilatzailea filosofia horren adierazgarria da: haren azpian dagoen algoritmoa balio ezinezkoa den sekretu industriala da, inork ez du bere burua bere sekretuak agerian uzteko gai ikusten. Eta, hain zuzen, bere izaera ulergaitzagatik, ohitu egin gara bere eraginkortasuna ez zalantzan jartzera, benetakoa edo ustezkoa izan. Besterik gabe erabiltzen dugu.

Gutxi axola du bilaketa baten orrialde batetik bestera joanez gero emaitza kopurua aldatzen bada; edo gure ikerketetatik inoiz gure asmoarekin lotzea pentsatuko ez genukeen zerbait ateratzen bada.

Hala ere, hutsegite txiki hauek akats soil gisa agertzen zaizkigu gure begietara, hain sofistikatua den sistema baten akats txikiak, non batzuetan Google-k zuzena ote zen eta oker geunden galdetzen dugun.

Har dezagun adibidez Google Search Suggest, idazten ari garen bitartean Google-k zer bilatu iradokitzen duen automatikoki osatzeko sistema. Nire ustez Google Duplex baino askoz arazo etiko gehiago sortzen dituen sistema hau erabilgarria eta adimentsua dirudi, baina bere eraginkortasunaren atzean hackerren benetako trikimailu bat ezkutatzen da: Google bilatzaileak "gako-hitzetan" lan egiten du, bere bilaketa-asmoa adierazten duten hitz-multzoetan. erabiltzaileak. Gako-hitz berri bakoitza behar baten adierazpena da eta prozesamendu zehatza behar du, Google-k behar bezala erantzuteko gai izan dezan. Google-k konputazio-ahalmen izugarri handia du, baina orain arte ezinezkoa da bere motorraren emaitzak "hitzen konbinazio posibleen" arabera antolatzea imajinatzea.

Google Search Suggest-ek Google Duplexek baino askoz arazo etiko gehiago sortzen ditu.

Hori dela eta, Google-k behar hedatu bat sortzeko behar adina aldiz adierazi diren gako-hitzei bakarrik jartzen die arreta. Gainerako guztiarentzat, inprobisatu: antzeko hitzak, beste gako-hitz batzuekiko analogiak, ausazko testuen identifikazioa dira bestela aterabiderik ez duten egoera horietara iristeko aplikatzen diren sistemak.

Emaitza-kopurua, orrialdeena bezala, bilatzaile-orria aurrera eramanez aldatzen da eta ezin da inoiz emaitzak ikuskatu orri jakin batetik haratago: kontutan izan, 30. orrialdean dauden emaitzek ez diote ezertarako balio, baina zergatik. Mantendu hori "inprimatutako zurtoinak" gako-hitzak 160 emaitza ditu 300 baino gutxiago ikus daitezkeen?

Google Search Suggest Google-k gu "aurreikusten" saiatzeko duen modua da: dagoeneko ezagutzen dituen bilaketa-asmoak iradokiz, Google-k trikimailurik gabe erantzuteko gai den bilaketa batera gidatzen saiatzen da: erabiltzailea bilaketa-gako bat erabiltzeko konbentzituz. bere sabelean dituen horien artean bilatu, Google-k emaitza erabilgarria itzultzeaz gain, bere konputazio-ahalmenaren zati bat gastatu beharko duen gako-hitz berri bat gehitu beharrik salbatzen du.

Induljentzia operatibo-funtzionala

Google Duplexera itzuliz, 2022an gaude eta aspaldian ez da horretaz hitz egin, baina esperientzia honetatik jakin dugu gure burua elkarrizketa-sistema artifizial gisa identifikatzea ez dela arazo etiko baten erantzuna, hacker baten trikimailua baizik. : Duplexekin hitz egiten duenak sistema automatizatu batekin hitz egiten ari dela jakitun bada, badaki ere egoki mugitu behar duela, elkarrizketan lagunduz eta haren edukia ulertzen lagunduz.

Google Duplexentzat, sistema artifizial gisa identifikatzea ez da arazo etiko baten erantzuna, hacker baten trikimailua baizik.

Cortana, Alexa, Sirirekin komunikatzen garenean automatikoki beti erabiltzen ditugu esamolde berdinak, formula berdinak, hori ezinbestekoa baita gure sistemek ez ulertzea saihestu nahi badugu.

Zeure burua identifikatzea Google Duplex-entzat jendeak bere mugak "uler ditzan" erakartzeko modu bat da, gizaki guztiok ikasi dugun teknologia horren aurrean, ahaleginak eginez, dena itzultzen ez dion induljentzia operatibo-funtzionala. bere sortzaileek agintzen dute.

artikulua Gianfranco Fedele