Identifikace není etický princip, ale špinavý trik!

Od té doby, co jsem začal pracovat na projektu Laila, ekosystém umělé inteligence na podporu konverzačního agenta věnovaného podnikům, jsem se dozvěděl, že umělá inteligence nabízí obrovské příležitosti pro vývoj a inovace, ale většina společností, které tvrdí, že ji používají, bohužel zavádí do praxe pouhou marketingovou strategii.

Virální video Google Duplex

Jakmile byl Google Duplex představen světu, okamžitě upoutal pozornost webu. Prezentováno během Google IO 2018Tato technologie založená na umělé inteligenci dokáže jménem svého uživatele vydávat se za lidskou bytost, která má v úmyslu zarezervovat si schůzku u kadeřníka a stůl v restauraci, což s oběma podniky zajišťuje poměrně plynulý telefonický rozhovor.

Video demo vypadá reálně, i když pro mnohé je to padělek. Konverzace, které se zdají být poměrně složité, pokud nebyly umně sestaveny, jsou jistě výsledkem mnoha pokusů a trochy štěstí: při dvou úspěšných telefonních hovorech nevíme, kolik dalších Google Duplexů mohlo žalostně selhat.

Účinek prezentace mi připomíná skvělou řeč, kterou Amazon udělal, když v roce 2013 videem na Youtube představil světu Amazon Prime Air, inovativní doručovací systém založený na dronech; tento revoluční systém je po mnoha letech stále v experimentální fázi a my, obyčejní smrtelníci, jsme si zvykli na myšlenku, že „všechno“ nalezené sci-fi jsou nakonec jen novým způsobem tvorby virálních videí.

Co mě na Google Duplex zarazilo, je malé divadlo shromážděné kolem údajné etické otázky, která byla vznesena již několik hodin po zveřejnění videa a okamžitě znovu spuštěna nejdůležitějšími online deníky. Stručně řečeno, podle některých: AI, která simuluje lidské chování, představuje etický problém, pokud maskují svou povahu a předstírají, že jsou lidé.

Snímek odpovědi Google: "Duplex bude okamžitě identifikovatelný pro vašeho partnera".

Udělejme krok zpět

Google nás vždy zvykl používat jeho technologie tak, že nikdy neprozradili, jak jsou vyrobeny a jak fungují. Jeho vyhledávač reprezentuje tuto filozofii: základní algoritmus je průmyslové tajemství nedocenitelné hodnoty, nikdo se nepovažuje za schopného jeho tajemství odhalit. A právě pro jeho nedozírnou povahu jsme si zvykli nezpochybňovat jeho účinnost, ať už skutečnou nebo domnělou. Prostě to používáme.

Nezáleží na tom, zda se při přechodu z jedné stránky na druhou změní počet výsledků; nebo pokud z našeho výzkumu vyplyne něco, co jsme si nikdy nemysleli, že si to spojíme s naším záměrem.

Přesto se nám tato malá selhání jeví jako pouhé nedokonalosti, malé nedostatky v systému tak sofistikovaném, že někdy pochybujeme, že to byl Google, kdo měl pravdu a my jsme se mýlili.

Vezměme si například Google Search Suggest, systém automatického doplňování, pomocí kterého Google navrhuje, co máme hledat, když píšeme. Tento systém, který pro mě vyvolává mnohem více etických problémů než Google Duplex, se jeví jako užitečný a inteligentní, přesto se za jeho účinností skrývá trik skutečných hackerů: vyhledávač Google pracuje na „klíčových slovech“, skupinách slov, která představují záměr vyhledávání jejích uživatelů. Každé nové klíčové slovo je vyjádřením potřeby a vyžaduje specifické zpracování, aby Google mohl adekvátně reagovat. Google má ohromně velký výpočetní výkon, přesto je dnes nepraktické si představit, že by výsledky jeho enginu organizoval podle „jakékoli možné kombinace slov“.

Google Search Suggest vyvolává mnohem více etických problémů než Google Duplex.

Z tohoto důvodu Google věnuje pozornost pouze klíčovým slovům, která byla vyjádřena dostatečně často, aby byla široce rozšířená. Na všechno ostatní improvizujte: podobná slova, podobnosti s jinými klíčovými slovy, identifikace náhodných textů jsou systémy, které se používají k řešení situací, které se jinak objevují bez východiska.

Počet výsledků, stejně jako počet stránek, se mění posunem stránky vyhledávání dopředu a nikdy se vám nepodaří zkontrolovat výsledky za určitou stránku: buďme ujasněni, výsledky, které jsou na straně 30, nikomu k ničemu nejsou, ale proč tvrdí, že Má klíčové slovo "tištěné stonky" 160 300 výsledků, pokud lze zobrazit méně než XNUMX?

Google Search Suggest je způsob, jakým se nás Google snaží „předvídat“: tím, že navrhuje záměr vyhledávání, který již zná, se nás Google snaží navést k hledání, na které je schopen reagovat bez triků: přesvědčit uživatele, aby použil klíč Google nejenže vrátí užitečný výsledek, ale ušetří se od nutnosti přidávat nové klíčové slovo do seznamu klíčových slov, za která bude muset utratit část svého výpočetního výkonu.

Provozně-funkční požitek

Když se vrátíme ke Google Duplex, jsme v roce 2022 a nějakou dobu jsme o tom nemluvili, ale z této zkušenosti jsme se naučili, že identifikace jako umělý konverzační systém není odpovědí na etický problém, ale hackerským trikem: pokud ti, kteří converse with Duplex si uvědomují, že mluví s automatizovaným systémem, ví také, že se musí adekvátně pohybovat, podporovat ho v rozhovoru a pomáhat mu porozumět jeho obsahu.

Pro Google Duplex není identifikace jako umělý systém odpovědí na etický problém, ale hackerským trikem.

Když mluvíme s Cortanou, Alexou, Siri, vždy automaticky používáme stejné výrazy, stejné vzorce, protože to je nezbytné, pokud se chceme vyhnout tomu, aby nám naše systémy nerozuměly.

Identifikace je pro Google Duplex způsob, jak získat od lidí „pochopení“ svých limitů, forma provozně-funkční shovívavosti, kterou jsme se my všichni lidé naučili mít vůči této technologii, která sice vynakládá úsilí, ale nevrátí vše, co má. tvůrci, které slibují.

Článek z Gianfranco Fedele