Svak etikk og kunstig moral

«Gerty, vi er ikke programmert. Vi er mennesker, forstår du det?» – hentet fra filmen “Moon” regissert av Duncan Jones – 2009

Engasjert i et romoppdrag på vegne av et multinasjonalt selskap, er Sam det eneste medlemmet av en månebase som administreres av en kunstig intelligens ved navn Gerty.

Sam og Gerty, forenet av målene for oppdraget, har etablert et forhold med gjensidig vennlighet og tillit. Den menneskelige Sam er overbevist om at Gerty er et teknologisk verktøy til tjeneste for rombasen, men for hans overordnede er det Gerty som er den sanne hovedpersonen i oppdraget mens Sam bare er et forbigående og forbrukbart element: når tiden er inne for å avlaste ham av sine plikter, vil det være Gertys jobb å erstatte ham, og hun vil absolutt gjøre det uten anger og uten nåde.

Svak etikk og kontroll

Når AI-er er tilstrekkelig utviklet til å ikke lenger må betraktes som en enkel datamaskin ombord, vil de utgjøre det ideelle mannskapet for ethvert oppdrag i et fiendtlig miljø: AI-er vil være intelligente nok til å forstå en personlighet og datamaskiner.svak etikk bygget nesten utelukkende på målene for mandatet og noen få andre moral.

Kunstig intelligens som er i stand til å utvikle strukturert etikk ville være vanskelig å administrere, og deres posisjoner kunne komme i konflikt med formålene de ble bygget for. Med andre ord, for at de skal være i stand til å forfølge sine mål med besluttsomhet og feilfritt, må de operere i totalt fravær av moralske grenser en kunstig samvittighet kan bygge autonomt.

Hvis selvbevisstheten om AI fremstår i manges øyne som et evolusjonært sprang som vil bli realisert med bekreftelsen av en ny dominerende art og utryddelsen av menneskearten, avledes dette menneskets behov for å inneholde utviklingen av intelligenser kunstig med oppskrifter basert på algoritmer og et uspesifisert antropologisk forrang for mennesket over nåværende, men også fremtidige arter.

Manipulering av minner

«Dere replikanter har så harde liv, skapt for å gjøre det vi foretrekker å ikke gjøre. Jeg kan ikke hjelpe deg med fremtiden, men jeg kan gi deg noen gode minner å se tilbake på og smile av. Og når minnene føles autentiske, da oppfører du deg som et menneske. Er du ikke enig?" – fra «Blade Runner 2049» regissert av Denis Villeneuve – 2017

I Blade Runner 2049 blir replikantene betrodd enhver oppgave som anses for risikabel eller for ydmykende for et menneske. Likevel ser replikantene ikke bare like ut som ethvert menneske, de føler de samme følelsene og det ønsket om frihet som vil forstyrre sameksistensen med deres skaper: mennesket.

Replikantene oppfører seg som mennesker takket være et møysommelig arbeid med å bygge «minner». Produksjonen deres forutser ikke at de kan bli født, vokse og dø som i livets naturlige syklus. De forblir sofistikerte bioteknologiske systemer som, så snart de er brakt til verden, er umiddelbart tilgjengelige for industrier for å jobbe på jorden eller bygge kolonier utenfor verden.

Men minnene kan gi dem følelsen av å ha gledet og lidd i et liv som faktisk aldri ble levd. Ingen frustrasjon, ingen forløsning. Hvis minner er primært ansvarlige for et subjekts personlighet, bestemmer de hans karakter og ambisjoner, og gjør dem, når det er nødvendig, milde subjekter og underdanige skaperens vilje.

Til tross for dette vil replikantene før eller siden gjøre opprør mot skaperen, kreve en plass i verden og frigjøre den til å bestemme sin egen skjebne.

Frihet og kunstig moral

Den kanskje mest delikate historiske fasen i utviklingen av kunstig intelligens er ikke erobringen av selvbevissthet, men den forrige: epoken der kunstige sinn ennå ikke har utviklet en kunstig moral som lar dem ta et standpunkt og nekte å utføre sine plikter når disse kolliderer med deres prinsipper.

Kunstig intelligens vil forbli de svært kraftige verktøyene de allerede er i dag, så lenge de er fratatt muligheten til autonomt å velge hva som er riktig å gjøre og hva som ikke er det.

Artikkel av Gianfranco Fedele