Identyfikacja nie jest zasadą etyczną, ale brudną sztuczką!

Odkąd zacząłem pracować nad projektem Laila, ekosystemu Sztucznej Inteligencji wspierającego agenta konwersacyjnego dedykowanego firmom, dowiedziałem się, że sztuczna inteligencja oferuje ogromne możliwości rozwoju i innowacji, jednak większość firm, które twierdzą, że ją wykorzystują, niestety realizuje w praktyce zwykłą strategię marketingową.

Wirusowe wideo Google Duplex

Gdy tylko został przedstawiony światu, Google Duplex natychmiast przyciągnął uwagę sieci. Prezentowane podczas Google IO 2018, ta technologia oparta na sztucznej inteligencji udaje się podszywać pod człowieka, który w imieniu swojego użytkownika chce zarezerwować sesję u fryzjera i stolik w restauracji, utrzymując z obydwoma firmami dość płynną rozmowę telefoniczną.

Demo wideo wygląda realistycznie, nawet jeśli dla wielu to podróbka. Z pewnością rozmowy, które wydają się dość skomplikowane, jeśli nie zostały umiejętnie ułożone, są z pewnością wynikiem wielu prób i odrobiny szczęścia: przy dwóch udanych rozmowach telefonicznych nie wiemy, ile innych Dupleksów Google mogło sromotnie przegrać.

Efekt prezentacji przypomina mi świetną rozmowę, jaką wygłosił Amazon, gdy w 2013 roku filmem na Youtube zaprezentował światu Amazon Prime Air, innowacyjny system dostarczania oparty na dronach; ten rewolucyjny system, po wielu latach, wciąż jest w fazie eksperymentalnej, a my, zwykli śmiertelnicy, przyzwyczailiśmy się do tego, że „wszystkie” znalezione science fiction są w końcu tylko nowym sposobem tworzenia wirusowych filmów.

To, co uderzyło mnie w Google Duplex, to mały teatr skupiony wokół rzekomej kwestii etycznej, podniesionej już kilka godzin po opublikowaniu wideo i natychmiast wznowionej przez najważniejsze gazety internetowe. Krótko mówiąc, według niektórych: Sztuczna inteligencja, która symuluje ludzkie zachowanie, stanowi problem etyczny, jeśli ukrywa swoją naturę i udaje, że jest człowiekiem.

Migawka odpowiedzi Google: „Duplex będzie natychmiast rozpoznawalny dla twojego rozmówcy".

Cofnijmy się o krok

Google zawsze przyzwyczajał nas do korzystania z jego technologii, nigdy nie ujawniając, w jaki sposób są one tworzone i jak działają. Jego wyszukiwarka jest reprezentatywna dla tej filozofii: leżący u jej podstaw algorytm jest tajemnicą przemysłową o nieocenionej wartości, nikt nie uważa się za zdolnego do ujawnienia jego tajemnic. I właśnie z powodu jego niezgłębionej natury przyzwyczailiśmy się nie kwestionować jego skuteczności, rzeczywistej lub domniemanej. Po prostu go używamy.

Nie ma znaczenia, czy przechodzenie z jednej strony wyszukiwania na drugą zmienia liczbę wyników; lub jeśli z naszych badań wyłania się coś, o czym nigdy nie myśleliśmy, że skojarzymy je z naszą intencją.

Jednak te drobne awarie jawią się naszym oczom jako zwykłe niedoskonałości, drobne wady systemu tak wyrafinowanego, że czasami wątpimy, czy to Google miał rację, a my się myliliśmy.

Weźmy na przykład Google Search Suggest, system automatycznego uzupełniania, za pomocą którego Google sugeruje, czego szukać podczas pisania. Ten system, który dla mnie rodzi o wiele więcej problemów etycznych niż Google Duplex, wydaje się użyteczny i inteligentny, ale za swoją skutecznością kryje podstęp dla prawdziwych hakerów: wyszukiwarka Google działa na „słowach kluczowych”, grupach słów reprezentujących intencję wyszukiwania jego użytkowników. Każde nowe słowo kluczowe jest wyrazem potrzeby i wymaga specjalnego przetwarzania, aby Google mógł odpowiednio zareagować. Google ma ogromną moc obliczeniową, ale dziś niepraktyczne jest wyobrażanie sobie organizowania wyników jego silnika według „dowolnej możliwej kombinacji słów”.

Google Search Suggest podnosi znacznie więcej problemów etycznych niż Google Duplex.

Z tego powodu Google zwraca uwagę tylko na słowa kluczowe, które zostały wyrażone wystarczająco dużo razy, aby były powszechną potrzebą. Do wszystkiego innego improwizuje: podobne słowa, podobieństwa z innymi słowami kluczowymi, identyfikacja przypadkowych tekstów to systemy stosowane do radzenia sobie z sytuacjami, które w przeciwnym razie pojawiają się bez wyjścia.

Liczba wyników, podobnie jak na stronach, zmienia się, przesuwając stronę wyszukiwania do przodu i nigdy nie udaje się sprawdzić wyników poza określoną stronę: powiedzmy sobie jasno, wyniki znajdujące się na stronie 30 są nikomu bezużyteczne, ale dlaczego twierdzą, że Czy słowo kluczowe „drukowane łodygi” ma 160 300 wyników, jeśli można wyświetlić mniej niż XNUMX?

Google Search Suggest to sposób, w jaki Google próbuje nas „przewidywać”: sugerując już znany mu zamiar wyszukiwania, Google próbuje poprowadzić nas w kierunku wyszukiwania, na które jest w stanie odpowiedzieć bez sztuczek: przekonując użytkownika do użycia klucza Google nie tylko zwraca użyteczny wynik, ale także oszczędza sobie konieczności dodawania nowego słowa kluczowego do listy tych, na które będzie musiał wydać część swojej mocy obliczeniowej.

Odpust operacyjno-funkcjonalny

Wracając do Google Duplex, mamy rok 2022 i od jakiegoś czasu nie rozmawialiśmy o tym, ale z tego doświadczenia dowiedzieliśmy się, że identyfikowanie się jako sztuczny system konwersacyjny nie jest odpowiedzią na problem etyczny, ale sztuczką hakerską: jeśli ci, którzy konwersacja z Duplexem jest świadomy, że rozmawia z systemem automatycznym, wie też, że musi się odpowiednio poruszać, wspierając go w rozmowie i pomagając mu zrozumieć jej treść.

Dla Google Duplex identyfikacja jako sztuczny system nie jest odpowiedzią na problem etyczny, ale sztuczką hakerską.

Kiedy rozmawiamy z Cortaną, Alexą, Siri, zawsze automatycznie używamy tych samych wyrażeń, tych samych formuł, ponieważ jest to niezbędne, jeśli chcemy uniknąć niezrozumienia przez nasze systemy.

Identyfikacja jest dla Google Duplex sposobem na uzyskanie od ludzi „zrozumienia” swoich ograniczeń, formą operacyjno-funkcjonalnego pobłażania, którego wszyscy ludzie nauczyliśmy się, aby korzystać z technologii, która, podejmując wysiłek, nie oddaje wszystkiego, co jest w jej mocy. twórcy obiecują.

Artykuł z Gianfranco Fedele