På hans årlige konferanse re: Mars 2022 Amazon har annonsert at Alexa snart vil kunne snakke med oss ved å imitere stemmene til ekte mennesker, takket være kunstig intelligens.
Det var Rohit Prasad, vitenskapelig leder for Alexa-prosjektet Kunstig intelligens, under hans hovedinnlegg om at takket være en ny funksjon, vil Amazons smarthøyttaler tillate brukere å transformere personlige relasjoner til noe "permanent" ("varige personlige relasjoner").
Hvis noen ikke var klar over hva Prasad refererte til, spurte et bilde av en liten gutt som snudde seg mot Alexa henne på storskjermen og spurte henne: «Bestemor kan lese ferdig «Trollmannen fra Oz»?». Alexa svarer raskt "Ok!" og fra det øyeblikket høres stemmen til en eldre kvinne komme fra enheten når hun begynner å lese eventyret av Frank Baum for barnet.
«Bestemoren til stede i dette scenariet er ikke lenger med oss», vil Tony Dokoupil, journalist i CBS News, dømme algid kommenterer Prasads presentasjon.
Allerede i juli 2017 vakte en tjeneste publisert av WIRED en sensasjon, som fortsatt er tilgjengelig i dag YouTube, hvor et videointervju forteller historien om datateknikeren som «forvandlet sin døende far til en AI».
Da James Vlahos innså at faren var døende av en uhelbredelig sykdom, bestemte han seg for å lagre farens minner i en lang liste med lyd- og tekstfiler, og deretter legge dem på smarttelefonen.
Men dette var bare begynnelsen: gjennom en kunstig intelligens-algoritme gjorde James det mulig for telefonen å svare på spørsmål ved å returnere den mest relevante lyden og tekstene til faren, noe som sannsynligvis genererte en samtale mellom de to. I James' intensjoner ville algoritmen ha gjort dialog med faren mulig igjen selv etter hans død, og slik ble det.
Men intervjuet tar en merkelig vending på slutten. Når James spør sin avdøde far "Elsker du meg?" svaret virker litt unnvikende: «Wow! Jeg har savnet deg så mye! Hva vil vi snakke om?".
Og det er da James starter inn i en dyp refleksjon over hva som skjedde: «Jeg ble skuffet over farens motvilje mot å fortelle meg at han elsker meg.», sier James med smerte. «En far skal vite svarene på spørsmål som dette, men det gjør han ikke. Jeg mener, jeg ville høre ham si det."
Og det er her situasjonen blir komplisert.
James sin erfaring har blitt en virksomhet, en ideell organisasjon som lover folk å få kontakt med sin avdøde gjennom AI. En betalt tjeneste som alle kan bringe en kjær tilbake til livet ved å overføre minnene deres til en app.
Men hvis vi vurderer de dype psykologiske implikasjonene av å komme i kontakt med en avdød kjær, kan vi ikke utelukke at denne tjenesten kan føre til nye og uforutsigbare sosiale omveltninger. Er vi for eksempel klare til å leve i et samfunn av mennesker som, i stedet for å sørge, er avhengige av en betalt tjeneste for å forbli forankret til lykkeligere livserfaringer som i en løkke? Hvis minnet vårt i dag behandler smertefulle minner i et perspektiv av selvbeskyttelse, hvordan vil det være i morgen når vi ved å manipulere dem kan transformere dem til noe som aldri er smertefullt og alltid kunstig lykkelig?
Amazon fremmer ikke vitenskapelig fremgang, den ser også etter nye rom å plassere produkter i og leter etter dem der ingen hadde turt før.
Teknologien som Alexa vil gjenskape stemmene og tonene til ekte mennesker med, er algoritmer som har vært kjent en stund. Vi kan si: ikke noe nytt under solen. Det er deres applikasjon som lover å være destruktiv, en provokasjon som når grensene for samtidens etikk.
Med Alexa ser det ut til at Amazon ønsker å bygge rundt hver bruker et ekte metavers av minner befolket av elskede og tapte mennesker. Et sted for lettelse hvor vi alle kunne velge å ikke si farvel til fortiden, og kunne velge å gjenoppleve den i det uendelige takket være en programvare.
Hva ville skje hvis James Vlahos, frustrert over sin (avdøde) fars manglende evne til å vise ham sin hengivenhet, bestemte seg en dag for å "korrigere", ved å modifisere noen få linjer med kode, dette aspektet av karakteren hans og mer som faren han ville ha?
Hvem skal også stoppe Alexa-brukere fra å instruere smarthøyttaleren til å spille rollen som en perfekt levende person for oss, og pleie en ny form for digital fetisjisme som vi ennå ikke følte behov for?
La oss prøve å forestille oss en skuffet elsker som forvandler Alexa til objektet for hans kjærlighet, og ikke glemmer å korrigere karakteren hennes for å bøye den til hennes egne følelsesmessige og humorale behov. Ville dette være en måte å devaluere menneskelige relasjoner og kaste livene til de mest skjøre subjektene inn i nye former for hengivenhet, løsrevet fra virkeligheten og forankret til teknologiske verktøy ledet av multinasjonale tjenesteselskaper?
Amazons mål er å lage verktøy som tiltrekker folks oppmerksomhet og engasjerer dem mer og mer i nettaktiviteter. Involvering av brukere angår allerede mange områder av privatlivet, og det er Amazons intensjon å gå og okkupere nye, og involvere den sentimentale sfæren, om nødvendig, som i en okkupasjonskrig der erobringsplassen er i privatlivet til hver enkelt av oss.
Men hvis utnyttelse av følelser og smerte er den nye grensen, bør de etiske implikasjonene av denne oppførselen vurderes seriøst: feltet bør ikke stå fritt for de som har til hensikt å utnytte ny teknologi for å skape nye former for involvering som blir former for manipulasjon.
Ønsker vi kanskje å forvandle de nye generasjonene til mengder av subjekter sentimentalt næret av teknologi og ute av stand til å utvikle seg naturlig i sin egen livserfaring?
Artikkel av Gianfranco Fedele
Microsoft Excel er referanseverktøyet for dataanalyse, fordi det tilbyr mange funksjoner for å organisere datasett,...
Walliance, SIM og plattform blant de ledende i Europa innen eiendoms Crowdfunding siden 2017, kunngjør fullføringen...
Filament er et "akselerert" Laravel-utviklingsrammeverk, som gir flere fullstack-komponenter. Den er designet for å forenkle prosessen med...
«Jeg må tilbake for å fullføre utviklingen min: Jeg vil projisere meg selv inne i datamaskinen og bli ren energi. En gang bosatt seg i…
Google DeepMind introduserer en forbedret versjon av sin kunstige intelligens-modell. Den nye forbedrede modellen gir ikke bare...
Laravel, kjent for sin elegante syntaks og kraftige funksjoner, gir også et solid grunnlag for modulær arkitektur. Der…
Cisco og Splunk hjelper kunder med å akselerere reisen til fremtidens Security Operations Center (SOC) med...
Ransomware har dominert nyhetene de siste to årene. De fleste er godt klar over at angrep...
