"Gerty, vi er ikke programmeret. Vi er mennesker, forstår du det?” - taget fra filmen "Moon" instrueret af Duncan Jones - 2009
Engageret i en rummission på vegne af et multinationalt selskab, Sam er det eneste medlem af en månebase, der ledes af en kunstig intelligens ved navn Gerty.
Forenet af missionens mål har Sam og Gerty etableret et forhold af gensidig hjertelighed og tillid. Den menneskelige Sam er overbevist om, at Gerty er et teknologisk værktøj til tjeneste for rumbasen, men for hans overordnede er det Gerty, der er den sande hovedperson i missionen, mens Sam kun er et forbigående og brugbart element: når tiden kommer til at lindre ham af hans pligter, vil det være Gertys opgave at erstatte ham, og hun vil helt sikkert gøre det uden anger og uden nogen nåde.
Når AI'er er tilstrækkeligt udviklet til ikke længere at skulle betragtes som en simpel indbygget computer, vil de udgøre den ideelle besætning til enhver mission i et fjendtligt miljø: AI'er vil være intelligente nok til at forstå ensvag etik bygget næsten udelukkende på målene for sit mandat og nogle få andre moral.
Kunstige intelligenser, der er i stand til at udvikle struktureret etik, ville være vanskelige at styre, og deres positioner kunne være i konflikt med de formål, de blev bygget til. Med andre ord, for at de skal være i stand til at forfølge deres mål med beslutsomhed og fejlfrit, skal de fungere i det totale fravær af enhver moralsk grænse, som en kunstig samvittighed kan bygge selvstændigt.
Hvis selvbevidstheden om kunstig intelligens i manges øjne fremstår som et evolutionært spring, der vil blive realiseret med bekræftelsen af en ny dominerende art og udryddelsen af den menneskelige art, afledes dette menneskets behov for at rumme udviklingen af intelligenser kunstig med opskrifter baseret på algoritmer og en uspecificeret antropologisk forrang for mennesket over nuværende, men også fremtidige arter.
"I replikanter har så hårde liv, skabt til at gøre det, vi foretrækker ikke at gøre. Jeg kan ikke hjælpe dig med fremtiden, men jeg kan give dig nogle gode minder at se tilbage på og smile om. Og når minderne føles autentiske, så opfører man sig som et menneske. Er du ikke enig?" – fra “Blade Runner 2049” instrueret af Denis Villeneuve – 2017
I Blade Runner 2049 bliver replikanterne betroet enhver opgave, der anses for at være for risikabel eller for ydmygende for et menneske. Alligevel ser replikanterne ikke kun ud som ethvert menneske, de føler de samme følelser og det ønske om frihed, som vil forstyrre sameksistensen med deres skaber: mennesket.
Replikanterne opfører sig som mennesker takket være et møjsommeligt arbejde med at opbygge "minder". Deres produktion forudser ikke, at de kan blive født, vokse og dø som i livets naturlige cyklus. De forbliver sofistikerede bioteknologiske systemer, som, så snart de er bragt til verden, er øjeblikkeligt tilgængelige for industrier til at arbejde på Jorden eller bygge kolonier uden for verden.
Men minderne kan give dem følelsen af at have nydt og lidt i et liv, der faktisk aldrig blev levet. Ingen frustration, ingen forløsning. Hvis erindringer er primært ansvarlige for et subjekts personlighed, bestemmer de hans karakter og forhåbninger, hvilket gør dem, når det er nødvendigt, milde subjekter og underkaster skaberens vilje.
På trods af dette vil replikanterne før eller siden gøre oprør mod skaberen, kræve en plads i verden og befri den til at bestemme sin egen skæbne.
Den måske mest delikate historiske fase i udviklingen af kunstige intelligenser er ikke erobringen af selvbevidsthed, men den forrige: æraen, hvor kunstige sind endnu ikke har udviklet en kunstig moral der giver dem mulighed for at tage stilling og nægte at udføre deres pligter, når disse kolliderer med deres principper.
Kunstig intelligens vil forblive de meget kraftfulde værktøjer, de allerede er i dag, så længe de er frataget evnen til selvstændigt at vælge, hvad der er rigtigt at gøre, og hvad der ikke er.
Artikel af Gianfranco Fedele
Coveware by Veeam vil fortsætte med at levere responstjenester til cyberafpresning. Coveware vil tilbyde kriminaltekniske og afhjælpende funktioner...
Forudsigende vedligeholdelse revolutionerer olie- og gassektoren med en innovativ og proaktiv tilgang til anlægsstyring...
Det britiske CMA har udsendt en advarsel om Big Techs adfærd på markedet for kunstig intelligens. Der…
Dekretet om "grønne huse", der er formuleret af Den Europæiske Union for at øge bygningers energieffektivitet, har afsluttet sin lovgivningsproces med...
