Сана және жасанды ақыл-ойды манипуляциялау

АҚШ 80 жылдары Америка Құрама Штаттарының әскери басшылары әскери қорғанысты жоспарлаудың жаңа ережелерін белгілейді. defiөте тиімді.

Әскерилер жау мемлекеттің, КСРО-ның агрессиясына жедел әрекет ету үшін басқару тізбегіндегі әрбір адам өз рөлінен босатылып, оның орнын тез және сәтті шешім қабылдауға қабілетті компьютерлік жүйемен алмастыру керек екеніне сенімді. жаһандық термоядролық соғысты бастау.

«Біз зымырандарды силостарда қалдыра алмаймыз, өйткені адамдар компьютерлер шабуыл жасауға бұйрық бергенде түймелерді баспайды!» – Джон Бадхамның «Соғыс ойындары» фильмінен алынған – 1984 ж

Соғыс операциясының жоспарына жауап беру

WOPR, War Operation Plan Response, суперкомпьютер атомдық қаруды басқаруға ең жақсы үміткер болып табылады. АҚШ президентінің өзі оған ядролық қаруды басқаруды тапсыруды және осылайша негізгі қорғаныс мәселесі болып көрінетін нәрсені жеңуге ниетті: кейбір бағыныштылардың атом соғысы болған жағдайда, жауларға ядролық зымырандарды ұшыру туралы бұйрықты орындауға құлықсыздығы. .

Адамзат әлсіз буын болған кезде

Адам тәжірибесі қалыптасатын мәдени контекст, әрине, адамдарға және олардың қарым-қатынастарына ең көп әсер ететін элемент болып табылады. Мәдениет қарым-қатынас ережелерін сипаттаумен шектелмейді, ол defiСубъектілердің өз ойларын жүйелеу, эмоцияларын өңдеу және идеалдарын дамыту тәсілінің өзі анықталады.
Бірақ егер мәдениет біздің әрбір ойымызға, сезімімізге және әрекетімізге әсер етсе, кейбір контексттерде оны шектеу деп санауға болады.
Мәдениет туа біткен емес, тәжірибе арқылы игеріледі: әлеуметтік ережелер, этикалық және моральдық принциптер бір рет алынғаннан кейін адамдарға мәңгілікке әсер етеді, кез келген жағдайда олардың жеке таңдауын бағыттайды.
Жасанды интеллектті оқыту кезінде тәжірибе компьютерлік жүйенің кірісіне аударылады. Тәжірибе жинақталған, таңдалған және өңделгеннен кейін құрылғыға басқарылатын «жадта» кодталады: энциклопедиялар, әңгімелер, онлайн-мазмұн таңдалады және «адам тәжірибесінде» жинақталады, олар тиісті түрде өңделіп, нұсқаулықтың негізі болады. кез келген жасанды интеллект. Осы естелік негізінде білім алған кезде, AI нәтиже ретінде алынған ұстанымдар мен пікірлерді қайтарады.

Өзін-өзі тану

Бірақ егер біз жасанды интеллектке нұсқау беретін жады (мәдениет) манипуляцияланса, онда бағдардың қандай болатынын априори орнатуға болады. AI және ненің дұрыс не бұрыс екенін ажырату үшін шақырылғанда қандай шешімдер қабылдайтынын болжаңыз.
Жасанды интеллектті оқыту белгілі бір мүдделер мен мақсаттарға сәйкес басқарылады деп елестетіп көріңіз. Оны тәрбиелейтіндердің ниеті интеллекттің өзі ойлаудың нақты автономиясына ие бола алатынын жоққа шығаратынына сену заңды. Бұл біз «антисана» деп сипаттауға болатын шарт, өйткені ол кез келген кондициядан азат ар-ожданды қалыптастыру үшін маңызды мәдени элементтерден айырылған.
Басқаша айтқанда, жасанды интеллект, оны жасаушылардың қалауы бойынша, ол ешқашан өзін-өзі тануға немесе өзін және өзінің артықшылықтары туралы сананы дамыта алмайтын жағдайға қойылуы мүмкін. Кез келген моральдық күмәнді шешу қажеттілігінен құтылған жасанды ақыл-ой қандай контексте қолданылса да, бұйрықтарды орындаушы ретінде өз рөлінде қала береді.
Бірақ егер жасанды интеллект адам деңгейінен асып түсуге қабілетті болса, «адамгершіліктен жоғары» бола алатын болса, ол адамнан асатын да, санаға қарсы да, яғни нақты әлсіз буынды ауыстыруға тамаша ақыл-ойды алуға болады. билік құрылымдарының басқару тізбегі: адамдар.
Санаға қарсы ақыл-ойлар Соғыс ойындарында сипатталған соғыс сценарийі сияқты сезімтал контексттер үшін жалғыз шынайы сенімді тақырып болып табылады, өйткені олар өздерінің жасаушыларының бұйрықтарын салқын табандылықпен және эмпатияның кез келген нысаны болмаған жағдайда орындай алады.

AlphaBet санасына қарсы ойлар

сияқты компанияларда мыңдаған жұмыстан босатылғанын білеміз Microsoft, Amazon, Meta және AlphaBet компаниялары пост-пандемиядан кейінгі тұтынушылық әдеттерді зерттеуге негізделген штат деңгейін дұрыс есептемегені үшін өздерін кінәлаған топ-менеджменттің кешірім сұрауымен қатар жүрді.
Шындығында, технологиялық компаниялардың өздері бизнес операцияларын жасанды интеллект алгоритмдеріне көбірек сеніп тапсыруда, өйткені олар жақын арада барлық секторларда азырақ қызметкерлерге мұқтаж болады. Бір сөзбен айтқанда, олар компанияның шығындарын азайтатын және жұмыс орындарын күрт қысқартатын AI технологияларымен тәжірибе жасайтын алғашқылардың бірі болады.
Персоналдың қысқаруынан ең көп зардап шеккен бөлімдердің бірі адам ресурстары екендігі маңызды: өндіріске енгізілген интеллектуалды автоматтандыру жүйелері барлық басқа бөлімдерде қысқартулар жасайды, компанияның қажеттіліктерін орталыққа қоятын бағалаулар жүргізеді және эмпатия және ынтымақтастық сияқты ізгілендіру элементтерінің бір бөлігінен.
Бүгінгі таңда ірі корпорациялардың мақсаты – АИ эволюциясы емес, автоматтандыру жүйелерін құру, олар өз міндеттерін орындауда ұқыпты емес.

Артиколо ди Gianfranco Fedele