Artificiell intelligens i de dödas gryning

På sin årliga konferens re: Mars 2022 Amazon har meddelat att Alexa snart kommer att kunna prata med oss ​​genom att imitera röster från riktiga människor, tack vare artificiell intelligens.

Det var Rohit Prasad, vetenskaplig chef för Alexa-projektet Artificiell intelligens, under hans keynote som säger att tack vare en ny funktion kommer Amazons smarta högtalare att tillåta användare att förvandla personliga relationer till något "permanent" ("varaktiga personliga relationer").

Om någon inte var tydlig med vad Prasad syftade på, frågade en bild av en liten pojke som vände sig till Alexa på den stora skärmen och frågade henne: "Farmor kan läsa klart "Trollkarlen från Oz"?". Alexa svarar snabbt "Ok!" och från det ögonblicket hörs en äldre kvinnas röst komma från apparaten när hon börjar läsa sagan av Frank Baum för barnet.

"Den farmor som är närvarande i detta scenario är inte längre med oss", kommer Tony Dokoupil, journalist på CBS News, att döma algid kommenterar Prasads presentation.

Det finns alltid en första gång

Redan i juli 2017 väckte en tjänst publicerad av WIRED en sensation, fortfarande tillgänglig idag den Youtube, där en videointervju berättar historien om datateknikern som "förvandlade sin döende far till en AI".

När James Vlahos insåg att hans far höll på att dö i en obotlig sjukdom bestämde han sig för att spara sin fars minnen i en lång lista med ljud- och textfiler och sedan placera dem på sin smartphone.

Men detta var bara början: genom en artificiell intelligensalgoritm gjorde James det möjligt för sin telefon att svara på frågor genom att returnera det mest relevanta ljudet och texterna från sin far, vilket med stor sannolikhet skapade en konversation mellan de två. Enligt James avsikter skulle algoritmen ha gjort dialog med sin far möjlig igen även efter hans död, och så blev det.

Men intervjun tar en konstig vändning i slutet. När James frågar sin bortgångne far "Älskar du mig?" svaret verkar lite undvikande: ”Wow! Jag har saknat dig så mycket! Vad vill vi prata om?".

Och det är då som James går in i en djup reflektion över vad som hände: "Jag blev besviken över min fars ovilja att berätta för mig att han älskar mig", säger James med smärta. ”En pappa ska veta svaren på sådana här frågor, men det gör han inte. Jag menar, jag ville höra honom säga det."

Och det är här situationen blir komplicerad.

In i slingan

James erfarenhet har blivit ett företag, en ideell organisation som lovar människor att få kontakt med sin avlidne genom AI. En betaltjänst med vilken vem som helst kan väcka en älskad till liv genom att överföra sina minnen till en app.

Men om vi överväger de djupgående psykologiska implikationerna av att komma i kontakt med en avliden älskad, kan vi inte utesluta att denna tjänst kan leda till nya och oförutsägbara sociala omvälvningar. Till exempel, är vi redo att leva i ett samhälle av människor som, snarare än att sörja, förlitar sig på en betaltjänst för att förbli förankrade i lyckligare livsupplevelser som i en loop? Om vårt minne idag bearbetar smärtsamma minnen i ett perspektiv av självskydd, hur kommer det att bli imorgon när vi genom att manipulera dem kan förvandla dem till något som aldrig är smärtsamt och alltid konstgjort lyckligt?

Amazon främjar inte vetenskapliga framsteg, det letar också efter nya utrymmen att placera produkter i och letar efter dem där ingen hade vågat tidigare.

Teknikerna med vilka Alexa kommer att återge röster och toner från riktiga människor är algoritmer som har varit kända under en tid. Vi skulle kunna säga: inget nytt under solen. Det är deras tillämpning som lovar att bli destruktiv, en provokation som når gränserna för samtida etik.

Med Alexa verkar Amazon vilja bygga runt varje användare en verklig metavers av minnen befolkade av älskade och förlorade människor. En plats för lättnad där vi alla kunde välja att inte säga adjö till det förflutna, att kunna välja att återuppleva det i oändlighet tack vare en mjukvara.

Situationen blir komplicerad

Vad skulle hända om James Vlahos, frustrerad över sin (avlidne) fars oförmåga att visa honom sin tillgivenhet, en dag bestämde sig för att "korrigera", genom att modifiera några rader kod, denna aspekt av sin karaktär och mer som den pappa han ville ha?

Dessutom, vem kommer att hindra Alexa-användare från att instruera den smarta högtalaren att spela rollen som en perfekt levande person för oss, och vårda en ny form av digital fetischism som vi ännu inte kände behov av?

Låt oss försöka föreställa oss en besviken älskare som förvandlar Alexa till föremålet för hans kärlek, utan att glömma att korrigera hennes karaktär för att böja den till hennes egna känslomässiga och humoristiska behov. Skulle detta vara ett sätt att devalvera mänskliga relationer och kasta livet för de mest ömtåliga ämnena in i nya former av tillgivenhet, verklighetslös och förankrad i tekniska verktyg som styrs av multinationella tjänsteföretag?

Men varför?

Amazons mål är att skapa verktyg som drar till sig människors uppmärksamhet och engagerar dem mer och mer i onlineaktiviteter. Användarnas engagemang berör redan många områden av privatlivet och det är Amazons avsikt att gå och ockupera nya, involvera den sentimentala sfären, om nödvändigt, som i ett ockupationskrig där erövringsmarken ligger i var och en av oss.

Men om utnyttjande av känslor och smärta är den nya gränsen, bör de etiska implikationerna av detta beteende seriöst övervägas: fältet bör inte lämnas fritt för dem som avser att utnyttja ny teknik för att skapa nya former av engagemang som blir former av manipulation.

Vill vi kanske förvandla de nya generationerna till mängder av ämnen som sentimentalt närs av teknik och inte kan utvecklas naturligt i sin egen livserfarenhet?

Artikel av Gianfranco Fedele