"Gerty, vi är inte programmerade. Vi är människor, förstår du det?” – hämtat från filmen “Moon” regisserad av Duncan Jones – 2009
Sam är engagerad i ett rymduppdrag på uppdrag av ett multinationellt företag, och är den enda medlemmen av en månbas som förvaltas av en artificiell intelligens vid namn Gerty.
Sam och Gerty förenade av uppdragets mål har etablerat ett förhållande av ömsesidig hjärtlighet och förtroende. Den mänskliga Sam är övertygad om att Gerty är ett tekniskt verktyg i rymdbasens tjänst, men för hans överordnade är det Gerty som är den sanna huvudpersonen i uppdraget medan Sam bara är ett övergående och förbrukbart element: när det är dags att lindra honom av sina plikter, kommer det att vara Gertys jobb att ersätta honom och hon kommer säkerligen att göra det utan ånger och utan nåd.
När AI:er är tillräckligt utvecklade för att inte längre behöva betraktas som en enkel omborddator, kommer de att utgöra den idealiska besättningen för alla uppdrag i en fientlig miljö: gränsöverskridande mänskligheten och datorer kommer AI:erna att vara intelligenta nog att förstå ensvag etik byggde nästan uteslutande på målen för dess mandat och några andra moral.
Artificiella intelligenser som kan utveckla strukturerad etik skulle vara svåra att hantera och deras positioner skulle kunna komma i konflikt med de syften som de byggdes för. Med andra ord, för att de ska kunna fullfölja sina mål med beslutsamhet och felfritt, måste de verka i total frånvaro av någon moralisk gräns som ett konstgjort samvete kan bygga självständigt.
Om självmedvetenheten om AI framstår i mångas ögon som ett evolutionärt språng som kommer att realiseras med bekräftelsen av en ny dominerande art och utrotningen av den mänskliga arten, härrör från detta människans behov av att innehålla utvecklingen av intelligenser som är artificiella med recept baserade på algoritmer och en ospecificerad antropologisk företräde hos människan framför nuvarande men också framtida arter.
"Ni replikanter har så hårda liv, skapade för att göra det vi helst inte vill göra. Jag kan inte hjälpa dig med framtiden men jag kan ge dig några bra minnen att se tillbaka på och le åt. Och när minnena känns autentiska, då agerar man som en människa. Håller du inte med?" – från “Blade Runner 2049” i regi av Denis Villeneuve – 2017
I Blade Runner 2049 anförtros replikanterna varje uppgift som anses vara för riskabel eller för förödmjukande för en människa. Ändå ser replikanterna inte bara likadana ut som vilken människa som helst, de känner samma känslor och den önskan om frihet som kommer att rubba samexistensen med sin skapare: människan.
Replikanterna beter sig som människor tack vare ett mödosamt arbete med att bygga "minnen". Deras produktion förutser inte att de kan födas, växa och dö som i livets naturliga cykel. De förblir sofistikerade biotekniska system som, så snart de förs till världen, är omedelbart tillgängliga för industrier att arbeta på jorden eller bygga utanför världens kolonier.
Men minnena kan ge dem känslan av att ha njutit och lidit i ett liv som faktiskt aldrig levts. Ingen frustration, ingen förlösning. Om minnen är primärt ansvariga för ett subjekts personlighet, bestämmer de hans karaktär och strävanden, vilket gör dem, när det behövs, milda subjekt och underordnade skaparens vilja.
Trots detta kommer replikanterna förr eller senare att göra uppror mot skaparen, göra anspråk på en plats i världen och befria den att bestämma sitt eget öde.
Den kanske mest känsliga historiska fasen i utvecklingen av artificiell intelligens är inte den med erövringen av självmedvetenhet, utan den föregående: den era då artificiella sinnen ännu inte har utvecklat en artificiell moral som gör det möjligt för dem att ta ställning och vägra utföra sina uppgifter när dessa krockar med deras principer.
Artificiell intelligens kommer att förbli de mycket kraftfulla verktyg de redan är idag, så länge de berövas förmågan att självständigt välja vad som är rätt att göra och vad som inte är det.
Artikel av Gianfranco Fedele
Att utveckla finmotorik genom färgläggning förbereder barn för mer komplexa färdigheter som att skriva. Att färglägga…
Marinesektorn är en sann global ekonomisk makt, som har navigerat mot en marknad på 150 miljarder...
I måndags tillkännagav Financial Times ett avtal med OpenAI. FT licensierar sin journalistik i världsklass...
Miljontals människor betalar för streamingtjänster och betalar månatliga prenumerationsavgifter. Det är en allmän uppfattning att du...
