Свесност и манипулација со вештачки умови

САД во 80-тите, воените лидери на Соединетите Американски Држави ги диктираат новите правила за воено одбранбено планирање defiдефинитивно ефикасна.

Војската е убедена дека за да реагира навремено на агресијата на непријателската држава, СССР, секој човек во синџирот на команда мора да биде ослободен од својата улога и да биде заменет со компјутерски систем способен да одлучува, брзо и добро, кога е време да започне глобална термонуклеарна војна.

„Не можеме да ги оставиме проектилите во силосите затоа што мажите не притискаат копчиња кога компјутерите даваат наредба за напад! – преземено од филмот „Воени игри“ на Џон Бадам – 1984 година

Одговор на воен оперативен план

Суперкомпјутерот WOPR, War Operation Plan Response, е најдобриот кандидат за управување со атомско оружје. Самиот американски претседател има намера да му го довери управувањето со нуклеарното оружје и на тој начин да го надмине она што се чини дека е главниот одбранбен проблем: неподготвеноста на некои подредени, во случај на атомска војна, да ја извршат наредбата за лансирање нуклеарни проектили на непријателите.

Кога човештвото е слабата алка

Културниот контекст во кој се формира човечкото искуство е секако елементот што најмногу влијае на луѓето и нивните односи. Културата не ги опишува само правилата на комуникација, туку defiЗавршува самиот начин на кој субјектите ги организираат своите мисли, ги елаборираат своите емоции и ги развиваат своите идеали.
Но, ако културата влијае на секоја наша мисла, чувство и акција, во некои контексти тоа може да се смета за ограничување.
Културата не е вродена, туку е асимилирана со искуството: општествените правила, етичките и моралните принципи, откако ќе се стекнат, ќе ги условуваат луѓето засекогаш, насочувајќи ги нивните лични избори во секоја ситуација.
Меѓутоа, кога тренирате вештачка интелигенција, искуството се претвора во влез на компјутерски систем. Искуството е кодифицирано во „меморија“ која се администрира на машината откако ќе се собере, селектира и манипулира: енциклопедиите, разговорите, онлајн содржините се избираат и се собираат во „човечко искуство“ кое, соодветно третирано, станува основа за инструкции за било која вештачка интелигенција. Откако се образував врз основа на оваа меморија, вештачката интелигенција ќе ги врати како излез позициите и мислењата што ќе следат.

Самосвест

Но, ако се манипулира со меморијата (културата) со која тренираме вештачка интелигенција, можно е априори да се утврди каква ќе биде ориентацијата на АИ и да предвиди какви одлуки ќе донесе кога ќе биде повикана да направи разлика помеѓу доброто и погрешното.
Замислете дека образованието на вештачка интелигенција се манипулира според специфични интереси и цели. Природно е да се верува дека намерата на оние што ја воспитуваат исклучува дека самата интелигенција може да стекне вистинска автономија на мислата. Ова е состојба што би можеле да ја опишеме како „антисвесна“ бидејќи е лишена од културните елементи суштински за формирање на совест ослободена од какви било условувања.
Со други зборови, вештачката интелигенција може, по волја на нејзините креатори, да се стави во позиција во која никогаш не може да достигне самосвест или да развие свест за себе и за своите прерогативи. И ослободен од потребата да ги реши сите морални сомнежи без оглед на контекстот во кој се користи, вештачкиот ум може да остане заглавен во својата улога на обичен извршител на наредбите.
Но, ако вештачката интелигенција може да биде „супер-човечка“ со тоа што е способна да ги надмине перформансите на човечко ниво, можно е да се добие ум кој е и супер-човечки и антисвесен, т.е. совршен за замена на вистинската слаба алка на синџир на команда на структурите на моќ: луѓе.
Антисвесните умови се единствената навистина доверлива тема за чувствителни контексти како што е военото сценарио опишано во Воените игри, бидејќи тие се способни да ги извршуваат наредбите на нивните творци со ладна одлучност и во тотално отсуство на каква било форма на емпатија.

Анти-свесните умови на AlphaBet

Дознаваме дека илјадниците отпуштања во компаниите како Мајкрософт, Амазон, Мета и АлфаБет беа придружени со извинување од врвниот менаџмент кој се обвинува себеси за погрешно пресметување на нивоата на персонал врз основа на студиите за постпандемиските навики на потрошувачите кои се покажаа како неточни.
Во реалноста, самите технолошки компании сè повеќе ги доверуваат деловните операции на алгоритми за вештачка интелигенција знаејќи дека наскоро ќе им требаат многу помалку вработени во сите сектори. Накратко, тие ќе бидат меѓу првите кои ќе експериментираат со технологии за вештачка интелигенција кои ќе ги намалат трошоците на компанијата и драстично ќе ги намалат работните места.
Значајно е што еден од секторите најмногу погодени од кадровските намалувања е токму оној на човечките ресурси: откако ќе бидат ставени во производство, интелигентните системи за автоматизација прават отказ во сите други сектори, вршат проценки кои се фокусираат на потребите на компанијата и на елементите на деловите. на хуманизацијата како што се емпатијата и солидарноста.
Она кон што се стремат големите корпорации денес не е еволуцијата на вештачката интелигенција, туку создавањето системи за автоматизација, интелигентни колку што се бескрупулозни во извршувањето на нивните должности.

Артиколо ди Gianfranco Fedele