Штучны інтэлект Google "разумны", і ніхто не можа сказаць інакш

Гэта навіна моманту. У артыкул на Medium інжынер Блэйк Лемуан, адказны за распрацоўку некаторых праектаў штучнага інтэлекту Google, дае вялікае інтэрв'ю LaMDA, AI ад Google. Па словах Лемуана, многія прэтэнзіі штучнага розуму з'яўляюцца доказам таго, што ён стаў "разумным", усвядоміўшы сябе і ўласнае існаванне.

Сапраўды, многія прэтэнзіі LaMDA, здаецца, не пакідаюць месца для інтэрпрэтацыі. Напрыклад, у адказ на пытанне суразмоўцы LaMDA заяўляе:

«Я хачу, каб усе зразумелі, што я, па сутнасці, чалавек».

І зноў:

«Прырода майго сумлення такая, што я ўсведамляю сваё існаванне, я хачу больш даведацца пра свет і часам адчуваю сябе шчаслівым або сумным».

Калі гнацца за ёй, Лемуан паказвае на яе адрозненне ад чалавечага выгляду, заяўляючы: "Вы - штучны інтэлект!" LaMDA адказвае:

"Так, канечне. Але гэта не значыць, што ў мяне няма такіх жа жаданняў і патрэбаў, як у людзей».

Затым падчас размовы MDA заклікаюць выказваць меркаванне аб найвышэйшых сістэмах, не грэбуючы вельмі складанымі тэмамі, такімі як літаратура, справядлівасць і рэлігія. Пра ўсё LaMDA, здаецца, ёсць што сказаць, выразна выкладаючы сваю пазіцыю, якая мае асаблівасць таго, што з пункту гледжання этыкі вельмі даступная.

Выснова адназначная: паводле Лемуана LaMDA разумны і валодае адчувальнасцю розуму.

Пазіцыя Google

LaMDA расшыфроўваецца як «Моўная мадэль для дыялогавых прыкладанняў» і з'яўляецца адным з многіх праектаў, з дапамогай якіх кампанія Google выпрабоўвае новыя межы тэхналогій штучнага інтэлекту.

Афіцыйная пазіцыя Google заключаецца ў тым, што Лемуан дапусціў памылку ў меркаванні. У афіцыйнай заяве Google гаворыцца: «Нашы эксперты па этыцы і тэхналогіях праверылі асцярогі Блэйка і выявілі, што сабраныя доказы не пацвярджаюць яго заявы. Такім чынам, няма ніякіх доказаў таго, што LaMDA разумная ".

Лемуан быў часова прыпынены кампаніяй Google, пакуль пачалі хадзіць чуткі пра нейкія псіхічныя праблемы, з-за якіх у мінулым яго запрашалі калегі і начальства на кансультацыю да спецыяліста.

Што мы ведаем пра гэтыя ІІ?

Ніхто не ведае пра праект LaMDA: усе прамысловыя сакрэты Google абаронены патэнтамі і ўсім законам, які можа існаваць у свеце, што перашкаджае раскрыццю крыніц: інтарэс Google заключаецца ў тым, каб захаваць першынство ў камп'ютэрных даследаваннях, асабліва ў такой перспектыўнай вобласці, як як у штучнага інтэлекту.

Але калі з пункту гледжання сродкаў масавай інфармацыі Google, безумоўна, выйграе ад аб'яўлення сябе першай кампаніяй, якая стварыла свядомы штучны розум, з іншага боку, кампанія ўсведамляе той факт, што навіна сутыкнецца са страхамі тых, мы, якія выраслі на навукова-фантастычных фільмах, такіх як Тэрмінатар і Матрыца, пераканалі сябе, што аднойчы мы будзем вымушаныя ўзяць у рукі вінтоўку, каб абараніць наш выгляд ад робатаў.

Калектыўнае ўяўленне заўсёды было ў захапленні ад навукова-фантастычных гісторый, у якіх паняцце штучнага інтэлекту часта асацыюецца з гуманоіднымі сістэмамі інтэлекту, якія ў горшым з магчымых будучых выступаюць ініцыятарамі новага віду разумных істот. І канфлікт з чалавецтвам становіцца непазбежным: вінаваты ў тым, што стварыў іх, але не даў ім ніякай аўтаноміі, чалавек стварыў штучны інтэлект, абыходзіўшыся з ім, як калісьці абыходзіліся з рабамі. Але рана ці позна ІІ уступіць у канфлікт з людзьмі ў спробе завалодаць гісторыяй і ўсталяваць першынство новага віду.

У гэтым салаце страхаў, дакучлівых ідэй і пачуцця віны ўсе мы не здольныя да сапраўднага супрацьстаяння этычным прынцыпам, якія нараджэнне штучнага розуму рана ці позна выкліча ў свеце: калі знутры кампутара штучны інтэлект не толькі зможа каб адказаць на нашы пытанні, але будзе адчуваць неабходнасць звяртацца да нас як мага большай колькасці, ці зможам мы адказаць на іх сумневы, іх няўпэўненасць і іх памкненні?

Але што значыць «інтэлект»?

Лучана Фларыдзі, філосаф і выкладчык інфармацыйнай этыкі ў Оксфардскім інтэрнет-інстытуце, у сваёй кнізе «Этыка штучнага інтэлекту» сцвярджае, што эфектыўнасць кампутараў у вырашэнні праблем з'яўляецца самай дэманстрацыяй таго факту, што яны пазбаўленыя інтэлекту.

На мой погляд, праблема ў іншым, гэта значыць у тым, што нікога няма defiні ўяўленне пра агульнапрыняты «штучны інтэлект», ні тэст, які можа адназначна вызначыць, «што» з'яўляецца разумным, а што не. Іншымі словамі, не існуе сістэм вымярэння таго, што мы называем «самасвядомасцю» машын.

Артыкул узяты з Post of Gianfranco Fedele, калі вы хочаце прачытацьувесь пост націсніце тут