Ідэнтыфікацыя - гэта не этычны прынцып, а падвох!

Так як я пачаў працаваць над праектам Лейла, экасістэма штучнага інтэлекту для падтрымкі размоўнага агента, прысвечанага бізнесу, я даведаўся, што ІІ прапануе велізарныя магчымасці для развіцця і інавацый, але большасць кампаній, якія сцвярджаюць, што выкарыстоўваюць яго, на жаль, рэалізуюць на практыцы проста маркетынгавую стратэгію.

Google Duplex віруснае відэа

Як толькі ён быў прадстаўлены свету, Google Duplex адразу прыцягнуў увагу Інтэрнэту. Прадстаўлены падчас ст Google IO 2018, гэтая тэхналогія, заснаваная на штучным інтэлекце, умее выдаваць сябе за чалавека, які мае намер ад імя свайго карыстальніка забраніраваць сеанс у цырульні і столік у рэстаране, падтрымліваючы даволі плаўную тэлефонную размову з абедзвюма кампаніямі.

Дэманстрацыйнае відэа многім здаецца рэальным гэта падробка. Безумоўна, размовы, якія выглядаюць даволі складанымі, калі яны не былі ўмела сабраны, безумоўна, з'яўляюцца вынікам шматлікіх спроб і крыху ўдачы: з двух паспяховых тэлефонных званкоў мы не ведаем, колькі іншых званкоў Google Duplex, магчыма, з трэскам праваліліся .

Эфект ад прэзентацыі нагадвае мне вялікую размову, якую Amazon зрабіў у 2013 годзе, прадставіўшы свету відэа на Youtube Amazon Prime Air, інавацыйная сістэма дастаўкі на аснове беспілотніка; гэтая рэвалюцыйная сістэма праз гады ўсё яшчэ знаходзіцца ў эксперыментальнай фазе, і мы, простыя смяротныя, прызвычаіліся да думкі, што «ўсе» гэтыя навукова-фантастычныя вынаходніцтвы ў канчатковым выніку з'яўляюцца толькі новым спосабам стварэння вірусных відэа.

Што мяне ўразіла ў Google Duplex, так гэта невялікі тэатр, створаны вакол меркаванай этычнай праблемы, якая ўжо была ўзнята праз некалькі гадзін пасля публікацыі відэа і неадкладна зноў запушчана самымі важнымі інтэрнэт-газетамі. Карацей кажучы, на думку некаторых: ШІ, якія імітуюць паводзіны чалавека, уяўляюць этычную праблему, калі яны маскіруюць сваю прыроду і выдаюць сябе за чалавека.

Адказ Snapshot Google: "Duplex адразу стане вядомы вашаму суразмоўцу».

Зробім крок назад

Google заўсёды прызвычаіў нас выкарыстоўваць яго тэхналогіі, ніколі не раскрываючы, як яны зроблены і як працуюць. Яго пошукавая сістэма з'яўляецца прадстаўніком гэтай філасофіі: алгарытм, які ляжыць у яго аснове, з'яўляецца прамысловым сакрэтам неацэннай каштоўнасці, і ніхто не лічыць сябе здольным раскрыць яго сакрэты. І менавіта з-за яго неспасціжнай прыроды мы прызвычаіліся не ставіць пад сумнеў яго эфектыўнасць, рэальную ці меркаваную. Мы проста выкарыстоўваем гэта.

Мала значэння, калі пры пераходзе ад адной старонкі пошуку да іншай колькасць вынікаў змяняецца; або калі ў выніку нашага даследавання выявіцца нешта такое, што мы б ніколі не падумалі звязаць з нашым намерам.

Тым не менш, гэтыя невялікія няўдачы выглядаюць нашым вачам як простыя недасканаласці, невялікія недахопы ў сістэме, настолькі складанай, што часам мы задаемся пытаннем, ці меў Google рацыю, а мы памыляліся.

Возьмем, напрыклад, Google Search Suggest, сістэму аўтазапаўнення, з дапамогай якой Google прапануе, на што трэба звярнуць увагу, пакуль мы пішам. Гэтая сістэма, якая, на мой погляд, стварае нашмат больш этычных праблем, чым Google Duplex, здаецца карыснай і разумнай, але за яе эфектыўнасцю хаваецца сапраўдны хакерскі трук: пошукавая сістэма Google працуе па «ключавых словах», групах слоў, якія адлюстроўваюць мэта яе пошуку. карыстальнікаў. Кожнае новае ключавое слова з'яўляецца выразам патрэбнасці і патрабуе спецыяльнай апрацоўкі, каб Google мог адэкватна адрэагаваць. Google мае надзвычай вялікую вылічальную магутнасць, але на сённяшні дзень уявіць, што арганізаваць вынікі яго рухавіка ў адпаведнасці з "любой магчымай камбінацыяй слоў" немэтазгодна.

Google Search Suggest выклікае значна больш этычных праблем, чым Google Duplex.

Па гэтай прычыне Google звяртае ўвагу толькі на ключавыя словы, якія былі выказаны дастаткова разоў, каб выклікаць шырокую патрэбу. Ва ўсім астатнім імправізуйце: падобныя словы, аналогіі з іншымі ключавымі словамі, ідэнтыфікацыя выпадковых тэкстаў - гэта сістэмы, якія прымяняюцца, каб разабрацца ў сутнасці тых сітуацый, з якіх у адваротным выпадку, здаецца, няма выйсця.

Колькасць вынікаў, як і колькасць старонак, змяняецца, перамяшчаючы старонку пошуку наперад, і ніколі немагчыма праверыць вынікі за межамі пэўнай старонкі: заўважце, вынікі, якія знаходзяцца на старонцы 30, нікому не патрэбныя, але чаму сцвярджаюць, што Ці мае ключавое слова «друкаваныя сцеблы» 160 300 вынікаў, калі можна праглядзець менш за XNUMX?

Google Search Suggest - гэта спосаб Google "прадбачыць" нас: прапаноўваючы ўжо вядомыя намеры пошуку, Google спрабуе накіраваць нас да пошуку, на які ён можа адказаць без хітрыкаў: пераконваючы карыстальніка выкарыстоўваць ключ пошуку шукаючы сярод тых, што ёсць у жываце, Google не толькі вяртае карысны вынік, але пазбаўляе сябе ад неабходнасці дадаваць новае ключавое слова ў спіс тых, на якія яму давядзецца выдаткаваць частку сваёй вылічальнай магутнасці.

Аператыўна-функцыянальная індульгенцыя

Вяртаючыся да Google Duplex, мы знаходзімся ў 2022 годзе, і пра гэта не гаварылі некаторы час, але з гэтага вопыту мы даведаліся, што ідэнтыфікацыя сябе як штучнай размоўнай сістэмы - гэта не рашэнне этычнай праблемы, а хакерскі трук : калі той, хто размаўляе з Duplex, усведамляе, што размаўляе з аўтаматызаванай сістэмай, ён таксама ведае, што ён павінен рухацца адпаведным чынам, падтрымліваючы яго ў размове і дапамагаючы яму зразумець яе змест.

Для Google Duplex ідэнтыфікацыя сябе як штучнай сістэмы не з'яўляецца адказам на этычную праблему, а хутчэй хакерскай хітрасцю.

Калі мы маем зносіны з Cortana, Alexa, Siri, мы аўтаматычна заўсёды выкарыстоўваем адны і тыя ж выразы, адны і тыя ж формулы, таму што гэта вельмі важна, калі мы хочам, каб наша сістэма не зразумела нас.

Ідэнтыфікацыя сябе з'яўляецца для Google Duplex спосабам прымусіць людзей "зразумець" свае межы, формай аперацыйна-функцыянальнай паблажлівасці, якую ўсе мы, людзі, навучыліся адчуваць да гэтай тэхналогіі, якая, прыкладаючы намаганні, не вяртае ўсё абяцаюць яе стваральнікі.

Артыкола дзі Gianfranco Fedele