Identifikācija nav ētisks princips, bet gan netīrs triks!

Kopš sāku strādāt pie projekta Laila, mākslīgā intelekta ekosistēmu, lai atbalstītu sarunu aģentu, kas veltīts uzņēmumiem, es uzzināju, ka AI piedāvā milzīgas attīstības un inovācijas iespējas, taču lielākā daļa uzņēmumu, kas apgalvo, ka to izmanto, diemžēl īsteno tikai mārketinga stratēģiju .

Google Duplex vīrusu video

Tiklīdz tas tika prezentēts pasaulei, Google Duplex nekavējoties piesaistīja tīmekļa uzmanību. Prezentēts laikā Google IO 2018, šī tehnoloģija, kuras pamatā ir mākslīgais intelekts, spēj uzdoties par cilvēku, kas tās lietotāja vārdā plāno rezervēt friziera sesiju un galdiņu restorānā, uzturot diezgan plūstošu telefona sarunu ar abiem uzņēmumiem.

Tomēr daudziem video demonstrācija šķiet īsta tas ir viltojums. Protams, sarunas, kas šķiet diezgan sarežģītas, ja tās nav mākslinieciski saliktas, noteikti ir daudzu mēģinājumu un nelielas veiksmes rezultāts: no diviem veiksmīgiem telefona zvaniem mēs nezinām, cik daudz citu Google Duplex zvanu tas varētu būt nožēlojami izgāzies. .

Prezentācijas radītais efekts man atgādina lielisko runu, ko Amazon runāja, kad 2013. gadā ar videoklipu vietnē Youtube prezentēja pasauli pasaulei. Amazon Prime Air, novatoriskā uz dronu balstīta piegādes sistēma; Pēc gadiem šī revolucionārā sistēma joprojām atrodas eksperimentālā fāzē, un mēs, vienkāršie mirstīgie, esam pieraduši pie domas, ka "visi" šie zinātniskās fantastikas izgudrojumi galu galā ir tikai jauns veids, kā veidot vīrusu videoklipus.

Tas, kas mani pārsteidza saistībā ar Google Duplex, ir mazais teātris, kas tika izveidots saistībā ar it kā ētisku problēmu, kas jau tika izvirzīta dažas stundas pēc videoklipa publicēšanas un kuru nekavējoties atsāka svarīgākie tiešsaistes laikraksti. Īsāk sakot, saskaņā ar dažiem vārdiem: AI, kas simulē cilvēka uzvedību, rada ētisku problēmu, ja tie maskē savu dabu un izliekas par cilvēkiem.

Google atbildes momentuzņēmums: “Duplex būs nekavējoties identificējams jūsu sarunu biedram".

Atkāpsimies soli atpakaļ

Google vienmēr ir pieradinājusi mūs izmantot tās tehnoloģijas, nekad neatklājot, kā tās ir izgatavotas un kā tās darbojas. Tā meklētājprogramma reprezentē šo filozofiju: algoritms, kas ir tā pamatā, ir nenovērtējami vērtīgs rūpnieciskais noslēpums, un neviens neuzskata sevi par spējīgu atklāt tā noslēpumus. Un tieši tā neaptveramā rakstura dēļ mēs esam pieraduši neapšaubīt tā efektivitāti neatkarīgi no tā, vai tā ir patiesa vai šķietama. Mēs to vienkārši izmantojam.

Nav nozīmes tam, vai, pārejot no vienas meklēšanas lapas uz otru, mainās rezultātu skaits; vai ja mūsu pētījumos atklājas kaut kas tāds, ko mēs nekad nebūtu domājuši saistīt ar savu nodomu.

Tomēr šīs mazās kļūmes mūsu acīs šķiet vienkāršas nepilnības, mazi trūkumi sistēmā, kas ir tik izsmalcināta, ka dažreiz mēs domājam, vai Google bija taisnība, bet mēs kļūdījāmies.

Ņemsim, piemēram, Google Search Suggest — automātiskās pabeigšanas sistēmu, ar kuru Google iesaka, ko meklēt, kamēr mēs rakstām. Šī sistēma, kas, manuprāt, rada daudz vairāk ētisku problēmu nekā Google Duplex, šķiet noderīga un inteliģenta, tomēr aiz tās efektivitātes slēpjas īsts hakeru triks: Google meklētājprogramma strādā ar "atslēgvārdiem", vārdu grupām, kas atspoguļo tās meklēšanas nolūku. lietotājiem. Katrs jauns atslēgvārds ir vajadzību izpausme, un tam ir nepieciešama īpaša apstrāde, lai Google spētu adekvāti reaģēt. Google ir ārkārtīgi liela skaitļošanas jauda, ​​taču līdz šim ir nepraktiski iztēloties sava dzinēja rezultātu organizēšanu atbilstoši "jebkurai iespējamai vārdu kombinācijai".

Google Search Suggest rada daudz vairāk ētisku problēmu nekā Google Duplex.

Šī iemesla dēļ Google pievērš uzmanību tikai tiem atslēgvārdiem, kas ir izteikti pietiekami daudz, lai radītu plašu vajadzību. Visam pārējam improvizējiet: līdzīgi vārdi, analoģijas ar citiem atslēgvārdiem, nejaušu tekstu identificēšana ir sistēmas, ko izmanto, lai nonāktu pie tām situācijām, kurām citādi šķiet, ka nav izejas.

Rezultātu skaits, tāpat kā lapu skaits, mainās, virzot meklēšanas lapu uz priekšu, un nekad nav iespējams pārbaudīt rezultātus ārpus noteiktas lapas: ņemiet vērā, ka rezultāti, kas atrodas 30. lapā, nevienam nav noderīgi, bet kāpēc apgalvo, ka Vai atslēgvārdam “drukāti kāti” ir 160 300 rezultātu, ja var apskatīt mazāk par XNUMX?

Google Search Suggest ir Google veids, kā mēģināt mūs "paredzēt": ierosinot tam jau zināmus meklēšanas nolūkus, Google mēģina mūs virzīt uz meklēšanu, uz kuru tā spēj reaģēt bez trikiem: pārliecinot lietotāju izmantot meklēšanas taustiņu. Meklējot starp tiem, kas tam ir vēderā, Google ne tikai atgriež noderīgu rezultātu, bet arī pasargā sevi no jauna atslēgvārda pievienošanas to atslēgvārdu sarakstam, kuriem tai būs jāpatērē daļa savas skaitļošanas jaudas.

Operatīvi funkcionālā indulgence

Atgriežoties pie Google Duplex, mēs esam 2022. gadā, un par to jau kādu laiku nav runāts, taču no šīs pieredzes esam iemācījušies, ka identificēt sevi kā mākslīgu sarunu sistēmu nav atbilde uz ētisku problēmu, bet gan hakeru triks. : ja tie, kas runā ar Duplex, apzinās, ka viņš runā ar automatizētu sistēmu, viņš arī zina, ka viņam ir adekvāti jākustas, atbalstot viņu sarunā un palīdzot izprast tās saturu.

Uzņēmumam Google Duplex sevis identificēšana kā mākslīga sistēma nav atbilde uz ētisku problēmu, bet gan hakeru triks.

Sazinoties ar Cortana, Alexa, Siri, mēs automātiski vienmēr izmantojam tās pašas izteiksmes, tās pašas formulas, jo tas ir būtiski, ja vēlamies izvairīties no tā, ka mūsu sistēmas mūs nesaprot.

Google Duplex sevis identificēšana ir veids, kā likt cilvēkiem "saprast" savus ierobežojumus. Tas ir veids, kā mēs visi, cilvēki, esam iemācījušies izmantot tehnoloģiju, kas, pieliekot pūles, neatdod visu. tās radītājiem viņi sola.

Raksts no Gianfranco Fedele