Slaba etika i veštački moral

“Gerty, mi nismo programirani. Mi smo ljudi, razumete li to?” – preuzeto iz filma “Mjesec” reditelja Dankana Džonsa – 2009

Angažovan u svemirskoj misiji u ime multinacionalne kompanije, Sam je jedini član lunarne baze kojom upravlja vještačka inteligencija po imenu Gerty.

Ujedinjeni ciljevima misije, Sam i Gerty uspostavili su odnos srdačnosti i međusobnog povjerenja. Čovjek Sam je uvjeren da je Gerty tehnološko oruđe u službi svemirske baze, ali za njegove nadređene Gerty je pravi protagonista misije, dok je Sam samo prolazni i potrošni element: kada dođe vrijeme da ga oslobodimo dužnosti, Gertyin posao će biti da ga zamijeni i ona će to sigurno učiniti bez grižnje savjesti i bez ikakve milosti.

Slaba etika i kontrola

Kada AI budu dovoljno razvijeni da se više ne moraju smatrati jednostavnim kompjuterom na brodu, oni će činiti idealnu posadu za svaku misiju u neprijateljskom okruženju: posredstvom čovječanstva i kompjutera, AI će biti dovoljno inteligentni da razumijuslaba etika izgrađen gotovo isključivo na ciljevima svog mandata i nekoliko drugih moral.

Vještačke inteligencije sposobne da razviju strukturiranu etiku bilo bi teško upravljati i njihove pozicije bi mogle biti u sukobu sa svrhama za koje su izgrađene. Drugim riječima, da bi mogli odlučno i bez grešaka slijediti svoje ciljeve, moraju djelovati u potpunom odsustvu moralnih granica koje umjetna savjest može samostalno izgraditi.

Ako se samosvijest o umjetnoj inteligenciji u očima mnogih pojavi kao evolucijski skok koji će se postići afirmacijom nove dominantne vrste i izumiranjem ljudske vrste, otuda čovjekova potreba da obuzda evoluciju inteligencije umjetne s receptima zasnovanim na o algoritmima i neodređenom antropološkom primatu čovjeka nad sadašnjom, ali i budućom vrstom.

Manipulacija sećanjima

“Vi replikanti imate tako teške živote, stvoreni da radite ono što mi ne želimo. Ne mogu vam pomoći oko budućnosti, ali vam mogu dati neke sjajne uspomene na koje ćete se osvrnuti i smiješiti. A kada sećanja izgledaju autentična, onda se ponašate kao ljudsko biće. Zar se ne slažete?" – iz filma “Blade Runner 2049” u režiji Denisa Villeneuvea – 2017.

U Blade Runneru 2049, replikanti su zaduženi za svaki zadatak koji se smatra previše rizičnim ili previše ponižavajućim za ljudsko biće. Ipak, replikanti ne samo da imaju isti izgled kao bilo koje ljudsko biće, oni osjećaju iste emocije i onu želju za slobodom koja će poremetiti suživot s njihovim tvorcem: čovjekom.

Replikanti se ponašaju kao ljudska bića zahvaljujući mukotrpnom radu na izgradnji "uspomena". Njihova proizvodnja ne predviđa da se mogu roditi, rasti i umrijeti kao u prirodnom ciklusu života. Oni ostaju sofisticirani biotehnološki sistemi koji, čim se donesu na svijet, odmah su dostupni industrijama za rad na Zemlji ili izgradnju kolonija izvan svijeta.

Ali sećanja mogu da im daju osećaj da su uživali i patili u životu koji zapravo nikada nisu živeli. Bez frustracije, bez želje za iskupljenjem. Ako su sjećanja prvenstveno odgovorna za ličnost subjekta, ona određuju njegov karakter i težnje, čineći ih, po potrebi, krotkim subjektima i podložnim volji tvorca.

Uprkos tome, replikanti će se pre ili kasnije pobuniti protiv tvorca, tražeći mesto u svetu i slobodu da sami odlučuju o svojoj sudbini.

Sloboda i veštački moral

Najdelikatnija istorijska faza evolucije veštačke inteligencije možda nije ona osvajanja samosvesti, već prethodna: era u kojoj veštački umovi još nisu razvili veštački moral to im omogućava da zauzmu stav i odbiju da ispune svoje dužnosti kada se one sukobljavaju sa njihovim principima.

Vještačka inteligencija će ostati veoma moćno oruđe kakvo je danas, sve dok im je oduzeta mogućnost da samostalno biraju šta je ispravno, a šta ne.

Član od Gianfranco Fedele