Kujitambulisha si kanuni ya kimaadili bali ni mbinu chafu!

Tangu nianze kufanya kazi kwenye mradi huo Laila, mfumo wa ikolojia wa Akili Bandia ili kusaidia wakala wa mazungumzo aliyejitolea kwa biashara, nilijifunza kwamba AI inatoa fursa nyingi sana za maendeleo na uvumbuzi, lakini kampuni nyingi zinazodai kuutumia kwa bahati mbaya zinaweka katika vitendo mkakati wa uuzaji tu .

Video ya virusi ya Google Duplex

Mara tu ilipotambulishwa ulimwenguni, Google Duplex ilivutia umakini wa wavuti mara moja. Iliyotolewa wakati wa Google IO 2018, teknolojia hii kulingana na Akili Bandia huweza kuiga dhamira ya mwanadamu, kwa niaba ya mtumiaji wake, kuweka nafasi ya kikao kwenye mfanyakazi wa nywele na meza katika mgahawa, kuendeleza mazungumzo ya simu na biashara zote mbili.

Onyesho la video linaonekana halisi hata kama kwa wengi ni bandia. Hakika mazungumzo, ambayo yanaonekana kuwa magumu sana, ikiwa hayajakusanywa kwa ustadi hakika ni matokeo ya majaribio mengi na bahati kidogo: kwenye simu mbili zilizofanikiwa hatujui ni Google Duplexes ngapi zinaweza kushindwa vibaya.

Athari ya uwasilishaji inanikumbusha mazungumzo mazuri ambayo Amazon ilifanya wakati mnamo 2013, na video kwenye Youtube, iliwasilishwa kwa ulimwengu. Hewa Kuu ya Amazon, mfumo wa kibunifu wa uwasilishaji kulingana na drones; mfumo huu wa mapinduzi, baada ya miaka mingi, bado uko katika hatua ya majaribio na sisi wanadamu tu tumezoea wazo kwamba "wote" hadithi hizi za kisayansi zinazopatikana ni njia mpya tu ya kutengeneza video za virusi.

Kilichonishangaza kuhusu Google Duplex ni jumba dogo la maonyesho lililokusanywa karibu na swali linalodaiwa kuwa la kimaadili ambalo tayari liliulizwa saa chache baada ya video kuchapishwa na kuzinduliwa mara moja na magazeti muhimu zaidi mtandaoni. Kwa kifupi, kulingana na baadhi ya: AI zinazoiga tabia ya binadamu huleta tatizo la kimaadili ikiwa zitaficha asili yao na kujifanya kuwa binadamu.

Muhtasari wa jibu la Google: "Duplex itatambulika mara moja kwa mpatanishi wako".

Hebu tupige hatua nyuma

Google imetuzoeza kila mara kutumia teknolojia zake kwa kutofichua kamwe jinsi zinavyotengenezwa na jinsi zinavyofanya kazi. Injini yake ya utafutaji ni mwakilishi wa falsafa hii: algorithm ya msingi ni siri ya viwanda ya thamani isiyoweza kukadiriwa, hakuna mtu anayejiona kuwa na uwezo wa kufichua siri zake. Na haswa kwa sababu ya asili yake isiyoweza kueleweka, tumezoea kutotilia shaka ufanisi wake, iwe wa kweli au wa kudhaniwa. Tunaitumia tu.

Haijalishi ikiwa kupita kutoka ukurasa mmoja hadi mwingine wa utafutaji idadi ya matokeo hubadilika; au ikiwa kuna kitu kitaibuka kutoka kwa utafiti wetu ambacho hatukuwahi kufikiria kuwa tungehusisha na nia yetu.

Bado mapungufu haya madogo yanaonekana machoni mwetu kama kutokamilika tu, dosari ndogo katika mfumo wa kisasa sana kwamba wakati mwingine tunatilia shaka kuwa ni Google ambao walikuwa sahihi na tulikosea.

Chukua kwa mfano Pendekezo la Utafutaji wa Google, mfumo wa kukamilisha kiotomatiki ambao Google inapendekeza cha kutafuta tunapoandika. Mfumo huu, ambao kwangu huleta matatizo mengi zaidi ya kimaadili kuliko Google Duplex, inaonekana kuwa muhimu na yenye akili, lakini nyuma ya ufanisi wake huficha hila ya wadukuzi halisi: injini ya utafutaji ya Google inafanya kazi kwenye "maneno muhimu", makundi ya maneno ambayo yanawakilisha dhamira ya utafutaji. ya watumiaji wake. Kila neno kuu jipya ni usemi wa hitaji na linahitaji uchakataji mahususi ili Google iweze kujibu ipasavyo. Google ina uwezo mkubwa wa kompyuta, lakini leo haiwezekani kufikiria kupanga matokeo ya injini yake kulingana na "mchanganyiko wowote wa maneno".

Pendekezo la Utafutaji wa Google huibua masuala ya kimaadili zaidi kuliko Google Duplex.

Kwa sababu hii, Google huzingatia tu maneno muhimu ambayo yameonyeshwa mara za kutosha kuwa hitaji lililoenea. Kwa kila kitu kingine, yeye huboresha: maneno sawa, kufanana na maneno mengine muhimu, kitambulisho cha maandishi ya nasibu ni mifumo inayotumiwa kukabiliana na hali hizo ambazo zinaonekana bila njia yoyote.

Idadi ya matokeo, kama yale ya kurasa, hubadilika kwa kusogeza ukurasa wa utafutaji mbele na huwezi kamwe kukagua matokeo zaidi ya ukurasa fulani: tuwe wazi, matokeo yaliyo kwenye ukurasa wa 30 hayana manufaa kwa mtu yeyote, lakini kwa nini. kudai kwamba Je, neno kuu "shina zilizochapishwa" lina matokeo 160 ikiwa chini ya 300 yanaweza kutazamwa?

Pendekezo la Utafutaji wa Google ni njia ambayo Google inajaribu "kututarajia": kwa kupendekeza dhamira ya utafutaji ambayo tayari inajulikana nayo, Google inajaribu kutuongoza kuelekea utafutaji ambao inaweza kujibu bila hila: kumshawishi mtumiaji kutumia ufunguo. Google hairudishi tu matokeo muhimu lakini inajiokoa kutokana na kuongeza neno kuu mpya kwenye orodha ya yale ambayo italazimika kutumia baadhi ya nguvu zake za kompyuta.

Utoshelevu wa kiutendaji-utendaji

Kurudi kwa Google Duplex, tuko katika 2022 na hatujazungumza juu yake kwa muda mrefu, lakini kutokana na uzoefu huu tumejifunza kwamba kutambua kama mfumo wa mazungumzo ya bandia sio jibu la tatizo la maadili lakini hila ya hacker: ikiwa wale ambao kuzungumza na Duplex wanafahamu kuwa anazungumza na mfumo wa kiotomatiki, pia anajua kwamba lazima asogee vya kutosha, akimuunga mkono katika mazungumzo na kumsaidia kuelewa yaliyomo.

Kwa Google Duplex, kutambua kama mfumo bandia sio jibu la tatizo la kimaadili bali ni hila ya wadukuzi.

Tunapozungumza na Cortana, Alexa, Siri, kila mara tunatumia misemo sawa kiotomatiki, fomula zilezile kwa sababu hii ni muhimu ikiwa tunataka kuepuka kutoeleweka na mifumo yetu.

Kitambulisho ni kwa Google Duplex njia ya kupata kutoka kwa watu "uelewa" wa mipaka yao, aina ya utoshelevu wa kiutendaji ambao sisi sote wanadamu tumejifunza kuwa nao kuelekea teknolojia hiyo ambayo, wakati wa kufanya juhudi, hairudishi kila kitu chake. waumbaji wanaahidi.

Artikolo di Gianfranco Fedele