Eyniləşdirmə etik prinsip deyil, çirkin bir hiylədir!

Layihə üzərində işləməyə başladığım gündən Leyla, bizneslərə həsr olunmuş danışıq agentini dəstəkləmək üçün Süni İntellekt ekosistemi, mən öyrəndim ki, AI inkişaf və innovasiya üçün böyük imkanlar təqdim edir, lakin ondan istifadə etdiyini iddia edən şirkətlərin əksəriyyəti təəssüf ki, sadəcə marketinq strategiyasını tətbiq edir.

Google Duplex-in viral videosu

Google Duplex dünyaya təqdim edilən kimi dərhal internetin diqqətini çəkdi. zamanı təqdim olunub Google IoT 2018, Süni İntellektə əsaslanan bu texnologiya öz istifadəçisi adından bərbərdə seans və restoranda masa sifariş etmək, hər iki müəssisə ilə kifayət qədər axıcı telefon danışığını təmin etmək niyyətində olan insanı təqlid etməyi bacarır.

Video nümayişi hətta çoxları üçün real görünür bu saxtadır. Şübhəsiz ki, olduqca mürəkkəb görünən söhbətlər, əgər onlar məharətlə yığılmayıbsa, əlbəttə ki, çoxlu cəhdlərin və bir az şansın nəticəsidir: iki uğurlu telefon danışığında nə qədər başqa Google Duplex-in uğursuzluqla nəticələndiyini bilmirik.

Təqdimatın təsiri mənə Amazon-un 2013-cü ildə Youtube-da bir video ilə dünyaya təqdim etdiyi böyük söhbəti xatırladır. Amazon Prime Air, dronlara əsaslanan innovativ çatdırılma sistemi; bu inqilabi sistem, illər keçsə də, hələ də eksperimental mərhələdədir və biz sadəcə fanilər belə bir fikrə öyrəşmişik ki, tapılan "bütün" elmi fantastika sonda viral videolar hazırlamaq üçün sadəcə yeni bir üsuldur.

Google Duplex-də məni heyrətə gətirən odur ki, video yayımlandıqdan bir neçə saat sonra artıq qaldırılan və ən mühüm onlayn qəzetlər tərəfindən dərhal yenidən işə salınan iddia edilən etik sual ətrafında toplanmış kiçik teatr idi. Qısacası, bəzilərinin fikrincə: İnsan davranışını imitasiya edən süni intellektlər öz təbiətlərini ört-basdır edib özlərini insan kimi göstərsələr, etik problem yaradırlar.

Google-un cavabının şəkli: "Dupleks həmsöhbətiniz tərəfindən dərhal müəyyən ediləcək".

Gəlin bir addım geri alaq

Google bizi həmişə öz texnologiyalarından istifadə etməyə öyrədib ki, onların necə hazırlandığını və necə işlədiyini heç vaxt açıqlamayıb. Onun axtarış sistemi bu fəlsəfənin nümayəndəsidir: əsas alqoritm misilsiz dəyərə malik sənaye sirridir, heç kim özünü onun sirlərini açmağa qadir hesab etmir. Məhz onun ağlasığmaz təbiətinə görə biz onun effektivliyinə şübhə etməməyə vərdiş etmişik, istər real, istərsə də ehtimal olunur. Sadəcə istifadə edirik.

Axtarışın bir səhifəsindən digərinə keçdikdə nəticələrin sayının dəyişməsinin fərqi yoxdur; və ya tədqiqatımızdan heç vaxt niyyətimizlə əlaqələndirəcəyimizi düşünmədiyimiz bir şey ortaya çıxarsa.

Bununla belə, bu kiçik uğursuzluqlar bizim gözümüzə sadəcə qüsurlar, o qədər mürəkkəb sistemdəki kiçik qüsurlar kimi görünür ki, bəzən biz haqlı olanın Google olduğuna və səhv etdiyimizə şübhə edirik.

Məsələn, Google Axtarış Təklifini götürək, avtomatik tamamlama sistemi ilə Google biz yazarkən nə axtarmağı təklif edir. Mənim üçün Google Duplex-dən daha çox etik problemlər yaradan bu sistem faydalı və ağıllı görünür, lakin effektivliyinin arxasında əsl hakerlərin hiyləsini gizlədir: Google axtarış sistemi axtarış niyyətini təmsil edən söz qrupları olan “açar sözlər” üzərində işləyir. onun istifadəçiləri. Hər bir yeni açar söz ehtiyacın ifadəsidir və Google-un adekvat cavab verə bilməsi üçün xüsusi emal tələb edir. Google hədsiz dərəcədə böyük hesablama gücünə malikdir, lakin bu gün onun mühərrikinin nəticələrini “sözlərin hər hansı mümkün birləşməsinə” uyğun təşkil etməyi təsəvvür etmək qeyri-mümkündür.

Google Axtarış Təklifi Google Duplex-dən daha çox etik problemləri qaldırır.

Bu səbəblə, Google yalnız geniş yayılmış ehtiyac olmaq üçün kifayət qədər dəfə ifadə edilmiş açar sözlərə diqqət yetirir. Qalan hər şey üçün o, improvizə edir: oxşar sözlər, digər açar sözlərlə oxşarlıqlar, təsadüfi mətnlərin identifikasiyası başqa cür çıxış yolu olmayan vəziyyətlərin öhdəsindən gəlmək üçün tətbiq olunan sistemlərdir.

Səhifələr kimi nəticələrin sayı axtarış səhifəsini irəli apararaq dəyişir və siz heç vaxt müəyyən bir səhifədən kənara çıxan nəticələri yoxlamağa nail ola bilmirsiniz: aydın olsun ki, 30-cu səhifədəki nəticələrin heç kimə faydası yoxdur, amma niyə iddia edin ki, 160-dən az baxıla bilərsə, "çap edilmiş gövdələr" açar sözünün 300 nəticəsi varmı?

Google Axtarış Təklifi Google-un “bizi qabaqcadan görməyə” çalışdığı üsuldur: ona artıq məlum olan axtarış niyyətini təklif etməklə, Google bizi hiyləsiz cavab verə biləcəyi axtarışa doğru istiqamətləndirməyə çalışır: istifadəçini açardan istifadə etməyə inandırmaq Google nəinki faydalı nəticə qaytarır, həm də hesablama gücünün bir hissəsini sərf etməli olacağı sözlər siyahısına yeni açar söz əlavə etmək məcburiyyətindən xilas olur.

Əməliyyat-funksional indulgensiya

Google Duplex-ə qayıdaraq, biz 2022-ci ildəyik və bir müddətdir bu barədə danışmamışıq, lakin bu təcrübədən öyrəndik ki, süni danışıq sistemi kimi identifikasiya etik problemin cavabı deyil, haker hiyləsidir: əgər Duplex ilə söhbət etmək avtomatlaşdırılmış sistemlə danışdığını bilir, həmçinin adekvat hərəkət etməli olduğunu bilir, söhbətdə ona dəstək olur və onun məzmununu anlamağa kömək edir.

Google Duplex üçün süni sistem kimi müəyyən etmək etik problemin cavabı deyil, haker hiyləsidir.

Cortana, Alexa, Siri ilə danışanda biz həmişə avtomatik olaraq eyni ifadələrdən, eyni düsturlardan istifadə edirik, çünki sistemlərimiz tərəfindən başa düşülməmək istəyiriksə, bu vacibdir.

İdentifikasiya Google Duplex üçün insanlardan öz hədlərini "dərk etmək" üsuludur, biz insanların hamımızın səy göstərdiyi halda, hər şeyi geri qaytarmayan texnologiyaya sahib olmağı öyrəndiyimiz əməliyyat-funksional həvəs formasıdır. yaradıcılara söz verirlər.

məqaləsi Gianfranco Fedele