Сәйкестендіру этикалық принцип емес, лас айла!

Мен жобада жұмыс істей бастағаннан бері Ләйлә, бизнеске арналған сұхбат агентін қолдауға арналған Жасанды интеллект экожүйесі, мен AI даму мен инновациялар үшін үлкен мүмкіндіктер беретінін білдім, бірақ оны пайдаланамыз деп мәлімдейтін компаниялардың көпшілігі, өкінішке орай, жай маркетингтік стратегияны іске асыруда.

Google Duplex вирустық бейне

Дүние жүзіне ұсыныла салысымен Google Duplex бірден интернеттің назарын аударды. барысында ұсынылды Google IO 2018, Жасанды интеллектке негізделген бұл технология өз пайдаланушысының атынан шаштаразда сеанс пен мейрамханада үстелге тапсырыс беруге ниеттеніп, екі кәсіпорынмен де телефон арқылы сөйлесуді қамтамасыз ететін адамға ұқсайды.

Бейне демонстрациясы көптеген адамдар үшін шынайы болып көрінеді бұл жалған. Әрине, өте күрделі болып көрінетін әңгімелер, егер олар шебер құрастырылмаған болса, әрине, көптеген әрекеттер мен сәл сәттіліктің нәтижесі: сәтті екі телефон қоңырауының ішінде біз қанша Google Duplex қоңырауының сәтсіз аяқталуын білмейміз. .

Тұсаукесердің әсері маған Amazon-тың 2013 жылы Youtube-тегі бейне арқылы әлемге ұсынған керемет әңгімесін еске түсіреді. Amazon Prime Air, дронға негізделген инновациялық жеткізу жүйесі; бұл революциялық жүйе, жылдар өткеннен кейін, әлі де эксперименттік фазада және біз қарапайым адамдар «барлық» бұл ғылыми фантастикалық өнертабыстар, сайып келгенде, вирустық бейнелерді жасаудың жаңа тәсілі деген идеяға үйреніп қалдық.

Google Duplex туралы мені таң қалдырғаны - бұл бейне жарияланғаннан кейін бірнеше сағат өткен соң көтерілген және ең маңызды онлайн газеттер бірден қайта іске қосқан болжамды этикалық мәселенің айналасында құрылған кішкентай театр. Қысқасы, кейбіреулердің пікірінше: адамның мінез-құлқын имитациялайтын АИ, егер олар өздерінің табиғатын жасырып, өзін адам ретінде көрсетсе, этикалық проблема тудырады.

Google жауабының суреті: «Дуплексті әңгімелесушіңіз бірден анықтайтын болады«.

Бір қадам артқа шегінейік

Google әрқашан бізді өз технологияларын қолдануға дағдыландырды, олардың қалай жасалғанын және қалай жұмыс істейтінін ешқашан ашпайды. Оның іздеу жүйесі осы философияның өкілі болып табылады: оның негізінде жатқан алгоритм баға жетпес құнды өнеркәсіптік құпия болып табылады, оның құпияларын ашуға ешкім өзін қабілетті деп санамайды. Дәл оның түсініксіз табиғатының арқасында біз оның тиімділігіне, нақты немесе болжамдылығына күмән келтірмеуді әдетке айналдырдық. Біз оны жай ғана қолданамыз.

Іздеудің бір бетінен екінші бетіне өту нәтижелер санының өзгеруі маңызды емес; немесе біздің зерттеуімізден бірдеңе пайда болса, біз ешқашан ниетімізбен байланыстыруды ойламаған едік.

Дегенмен, бұл кішігірім сәтсіздіктер біздің көзімізге қарапайым кемшіліктер, жүйедегі кішігірім кемшіліктер сияқты көрінеді, сондықтан кейде Google дұрыс болды, ал біз қателестік пе деп ойлаймыз.

Мысалы, Google Search Suggest жүйесін алайық, ол арқылы Google жазу кезінде не іздеу керектігін ұсынады. Менің ойымша, Google Duplex-ке қарағанда көптеген этикалық проблемаларды тудыратын бұл жүйе пайдалы және ақылды болып көрінеді, бірақ оның тиімділігінің артында нағыз хакерлердің айласы жатыр: Google іздеу жүйесі оның іздеу мақсатын білдіретін «кілт сөздерде», сөздер топтарында жұмыс істейді. пайдаланушылар. Әрбір жаңа кілт сөз қажеттіліктің көрінісі болып табылады және Google тиісті түрде жауап беруі үшін арнайы өңдеуді қажет етеді. Google өте үлкен есептеу қабілетіне ие, бірақ әлі күнге дейін қозғалтқыштың нәтижелерін «сөздердің кез келген ықтимал тіркесімі» бойынша ұйымдастыруды елестету мүмкін емес.

Google Search Suggest Google Duplex-ке қарағанда әлдеқайда көп этикалық мәселелерді көтереді.

Осы себепті Google кең таралған қажеттілікті тудыру үшін жеткілікті рет айтылған кілт сөздерге ғана назар аударады. Қалғанының бәрі үшін импровизация: ұқсас сөздер, басқа кілт сөздермен ұқсастықтар, кездейсоқ мәтіндерді сәйкестендіру - бұл басқа жағдайда шығу жолы жоқ болып көрінетін жағдайлардың түбіне жету үшін қолданылатын жүйелер.

Нәтижелер саны, мысалы, беттер сияқты, іздеу бетін алға жылжытады және нәтижелерді белгілі бір беттен тыс тексеру ешқашан мүмкін емес: 30-беттегі нәтижелердің ешкімге пайдасы жоқ, бірақ неге 160-ден аз көру мүмкін болса, «басылған сабақтар» кілт сөзінде 300 XNUMX нәтиже бар ма?

Google Search Suggest — Google-дың бізді «болжауға» тырысатын тәсілі: оған бұрыннан белгілі іздеу мақсаттарын ұсына отырып, Google бізді айласыз жауап бере алатын іздеуге бағыттауға тырысады: пайдаланушыны іздеу кілтін пайдалануға сендіру арқылы. Ішінде барлардың ішінен іздеу, Google пайдалы нәтижені қайтарып қана қоймайды, сонымен қатар өзінің есептеу қуатының бір бөлігін жұмсауға тура келетіндердің тізіміне жаңа кілт сөзді қосудан құтқарады.

Операциялық-функционалдық индульгенция

Google Duplex-ке оралсақ, біз 2022 жылымыз және бұл туралы біраз уақыттан бері айтылмаған, бірақ осы тәжірибеден біз өзімізді жасанды сөйлесу жүйесі ретінде анықтау этикалық мәселенің жауабы емес, хакерлердің айласы екенін білдік. : егер Duplex-пен сөйлесетін адам оның автоматтандырылған жүйемен сөйлесіп жатқанын білсе, ол сонымен бірге сөйлесуде оған қолдау көрсетіп, оның мазмұнын түсінуге көмектесіп, сәйкес қозғалу керек екенін біледі.

Google Duplex үшін өзін жасанды жүйе ретінде анықтау этикалық мәселенің жауабы емес, керісінше хакерлердің айласы.

Cortana, Alexa, Siri-мен байланысқан кезде біз автоматты түрде әрқашан бірдей өрнектерді, бірдей формулаларды қолданамыз, өйткені бұл біздің жүйелерге түсінікті болмас үшін өте маңызды.

Google Duplex үшін өзіңізді анықтау – бұл адамдарға өз шектеулерін «түсіну» әдісі, біз барлық адамдар күш-жігер жұмсай отырып, бәрін қайтара бермейтін технологияға үйренуге үйренген операциялық-функционалдық ынтаның бір түрі. оны жасаушылар уәде етеді.

Артиколо ди Gianfranco Fedele