Парадокс Хокінга

«Шэрага тут ужо няма. Гэта ў лепшым месцы. Закрыты ў сваім розуме, дзе ён хоча быць. Я цяпер пад кантролем. Уяўны свет для яго значна менш балючы, чым рэальны. Усё, што яму трэба было, гэта яго розум зламаць, і ён зламаў яго ". - з Upgrade, фільма, сцэнарыста і рэжысёра Лі Ванела.

У 2021 годзе быў апублікаваны на Nature Medicine даследаванне, праведзенае групай даследчыкаў з Каліфарнійскага універсітэта. У рамках даследавання некаторыя лекары хірургічным шляхам імплантавалі мікрачып у мозг жанчыны, якая пакутавала ад цяжкай формы дэпрэсіі, якая ўжо не паддавалася лячэнню лекамі.

Для гэтага даследчыкі вызначылі дзве вобласці мозгу жанчыны, якія асабліва ўдзельнічаюць у генерацыі «дэпрэсіўных думак», і падключылі мікрачып да гэтых абласцей.

Пазітыўныя думкі

Апошні, будучы ў стане перахопліваць пэўныя электрычныя імпульсы, звязаныя з дакучлівымі думкамі, пачаў вырабляць электрычныя стымуляцыі, здольныя фармаваць «пазітыўныя думкі», якія ім супрацьстаяць.

Гэты эпізод падымае шэраг этычных пытанняў аб тым, як, калі і чаму мы павінны змяняць свядомасць чалавека, імплантуючы ў яго мозг чып, які змяняе яго працу.

Калі б мы абмежаваліся выкарыстаннем мікрачыпаў для лячэння паталогій у лекава-ўстойлівых суб'ектаў, усталяванне этычных межаў было б простай аперацыяй.

Але спроба "павялічыць" магутнасць чалавечага мозгу шляхам пашырэння яго магчымасцей за кошт дадатковага працэсара, які адказвае за апрацоўку убудаваны на наш погляд, гэта ўжо ў праграмах многіх кампаній і стартапаў, такіх як сумна вядомы Neuralink Ілона Маска. Чаго вы хочаце дасягнуць?

Уявіце сабе магчымасць прасачыць змест запісу ў Вікіпедыі ў любы час без падлучэння да Інтэрнэту. Або мець магчымасць кіраваць тэхналагічнымі інструментамі толькі сілай думкі. Зараз давайце паспрабуем уявіць сабе шматлікія кантэксты, у якіх гэтыя звышдзяржавы зменяць жыццё людзей, напрыклад, дазволяць тым, хто пакутуе ад сур'ёзных захворванняў, аднавіць частку сваёй аўтаноміі. Гэта ўсё цудоўна.

Аднак, калі мы пераключым увагу на мікрачып, які зробіць гэты цуд магчымым, то лёгка ўявіць, наколькі важна ўсталяванне этычных прынцыпаў адносна прапанаваных магчымасцей і рызык, якія могуць узнікнуць у выніку спалучэння інтэлектуальных вылічальных сістэм і чалавека. мозг.

Гэта гучыць як навуковая фантастыка, але нешта падобнае здаралася раней.

Якое дачыненне да гэтага мае Стывен Хокінг?

У 2014 годзе стан здароўя Стывена Хокінга, які пакутаваў ад нейрадэгенератыўнага захворвання, больш не дазваляў яму мець зносіны з светам праз традыцыйныя лічбавыя сістэмы. Рухі, якія ён мог рабіць адной толькі шчакой, сталі незаўважнымі, і ніякі электронны прыбор ніколі не змог бы іх прачытаць і інтэрпрэтаваць.

Такім чынам, Intel разам з лонданскай SwiftKey стварылі для яго штучны інтэлект, які, навучаны на аснове кніг і дакументаў, якія ён напісаў на працягу многіх гадоў, дазволіў Хокінгу мець зносіны. Іншымі словамі, тэхналогія зрабіла інтэлектуальную ацэнку невербальнай камунікацыі Хокінга, усталяваўшы час ад часу, што ён, хутчэй за ўсё, меў на ўвазе падчас кожнай размовы.

Хокінг быў у захапленні ад тэхналогіі і магчымасцяў, якія адкрыліся перад ім, але той факт, што гэты інструмент быў адзінай кропкай кантакту паміж ім і светам, зрабіў яго здольнасць мець зносіны цалкам залежнай ад яго. Алгарытмы штучнага інтэлекту, якія зрабілі цуд магчымым, сталі адзіным мостам паміж Хокінгам і астатнім светам. Любая анамалія ў інтэрпрэтацыі сігналаў цела Хокінга магла прывесці да няправільнай рэакцыі штучнага інтэлекту, непажаданай Хокінгу, але ў той жа час абсалютна адпаведнай кантэксту размовы.

Сцэнар такі: вялікі вучоны, які не можа мець зносіны з светам, і штучны інтэлект, які бярэ пад кантроль яго жыццё і размаўляе замест яго.

На думку некаторых, менавіта залежнасць Хокінга ад штучнага інтэлекту стымулявала ў ім песімістычную ідэю, згодна з якой, выкарыстоўваючы яго словы: «[...] штучны інтэлект будзе дзейнічаць і развівацца незалежна ад чалавека і ў выніку паставіць пад пагрозу само існаванне чалавецтва».

Страта кантролю

Фільм мадэрнізацыя добра апісвае гэты выпадак: спартыўны механік Грэй становіцца ахвярай нападу, у выніку якога яго жонка губляе жыццё, а ён у канчатковым выніку вымушаны вечна жыць у інвалідным вазку. Толькі эксперыментальны чып, абсталяваны штучным інтэлектам, вядомым як STEM, пасля імплантацыі ў яго магістраль зможа зноў паставіць яго на ногі і даць яму новую надзею на жыццё.

Але ў той час як Грэй перакананы, што ён можа вярнуцца да нармальнага жыцця, STEM захопіць яго цела, маніпулюючы яго псіхікай, пакуль яна не вернецца ў стан шматгадовага сну: Грэй як бы цудам злучыцца са сваёй памерлай жонкай і будзе жыць вечна ў ўнутры метасусвет, створаны спецыяльна для яго, у той час як STEM стане прататыпам новай пароды чалавечых целаў, якія кіруюцца штучнымі розумамі.

Высновы

Як прадухіліць такі сцэнар? На мой погляд, неабавязкова чакаць развіцця перадавых сістэм, такіх як STEM, каб тэхналогіі ўзялі пад кантроль наша жыццё. Таксама няма магчымасці супрацьстаяць тэхналагічнай эвалюцыі, такой як STEM, з-за велізарных эканамічных інтарэсаў, якія фінансуюць яе стварэнне.

Відавочна, што дарослы чалавек, які шукае метасусвет, дзе ён можа палегчыць свой боль і штучна нанава адкрыць для сябе шчасце, ужо аддае кантроль над сваім розумам камусьці іншаму.

Адзіны спосаб не даць тэхналогіям аднойчы завалодаць нашым жыццём - гэта навучыць новыя пакаленні прынцыпам, якія трымаюць нас у прывязцы да рэальнасці.

Важна разумець, што метасусвет - гэта проста ілюзія, ілюзія, якая мае той недахоп, што знаходзіцца пад чыімсьці кантролем і што хтосьці - гэта не мы.

Артыкул узяты з Post of Gianfranco Fedele, калі вы хочаце прачытацьувесь пост націсніце тут