Tekoälyt kuolleiden kynnyksellä

Hänen vuosikokouksessaan Re: Mars 2022 Amazon on ilmoittanut, että Alexa voi pian puhua meille matkimalla oikeiden ihmisten ääniä tekoälyn ansiosta.

Se oli Rohit Prasad, Alexa-projektin tieteellinen johtaja Tekoäly, hänen pääpuhuessaan totesi, että uuden ominaisuuden ansiosta Amazonin älykaiutin antaa käyttäjille mahdollisuuden muuttaa henkilökohtaiset suhteet joksikin "pysyväksi" ("kestäväksi henkilökohtaiseksi suhteeksi").

Jos joku ei ymmärtänyt, mihin Prasad viittasi, kuva pienestä pojasta, joka kääntyi Alexan puoleen, kysyi häneltä suurelta näytöltä ja kysyi häneltä: "Isoäiti voi lukea "The Wizard of Oz" loppuun?". Alexa vastaa välittömästi "Ok!" ja siitä hetkestä lähtien laitteesta kuuluu iäkkään naisen ääni, kun hän alkaa lukea Frank Baumin satua lapselle.

"Tässä skenaariossa läsnä oleva isoäiti ei ole enää kanssamme", CBS Newsin toimittaja Tony Dokoupil sanoo algidille. kommentoimalla Prasadan esitys.

Aina on ensimmäinen kerta

Jo heinäkuussa 2017 WIREDin julkaisema palvelu aiheutti sensaation, joka on edelleen saatavilla YouTube, jossa videohaastattelu kertoo tarinan tietokoneteknikosta, joka "muutti kuolevasta isänsä tekoälyksi".

Kun James Vlahos tajusi, että hänen isänsä oli kuolemassa parantumattomaan sairauteen, hän päätti tallentaa isänsä muistot pitkälle ääni- ja tekstitiedostojen luettelolle ja sijoittaa ne sitten älypuhelimeesi.

Mutta tämä oli vasta alkua: tekoälyalgoritmin avulla James antoi puhelimensa vastata kysymyksiin palauttamalla isänsä osuvimmat äänet ja tekstit, mikä todennäköisimmin synnytti keskustelun näiden kahden välillä. Jamesin aikeissa algoritmi olisi mahdollistanut vuoropuhelun isänsä kanssa uudelleen jopa hänen kuolemansa jälkeen, ja niin se tapahtui.

Mutta haastattelu saa lopulta kummallisen käänteen. Kun James kysyy edesmenneeltä isältään "Rakastatko minua?" vastaus vaikuttaa hieman välttelevältä: "Vau! Kaipasin sinua niin paljon! Mistä haluamme puhua?"

Ja juuri silloin James aloittaa syvän pohdiskelun tapahtuneesta: "Olin pettynyt isäni haluttomuuteen kertoa minulle rakastavansa minua." James sanoo tuskallisesti. ”Isän pitäisi tietää vastaukset tällaisiin kysymyksiin, mutta hän ei tiedä. Tarkoitan, halusin kuulla hänen sanovan sen."

Ja tässä tilanne monimutkaistuu.

Kiertoon

Jamesin kokemuksesta on tullut yritys, voittoa tavoittelematon järjestö, joka lupaa ihmisille yhteyden kuolleisiinsa tekoälyn kautta. Maksullinen palvelu, jolla kuka tahansa voi herättää läheisen henkiin siirtämällä muistonsa sovellukseen.

Mutta jos otamme huomioon kuolleen läheisen kanssa koskettamisen syvälliset psykologiset seuraukset, emme voi sulkea pois sitä mahdollisuutta, että tämä palvelu voisi johtaa uusiin ja arvaamattomiin sosiaalisiin mullistuksiin. Olemmeko esimerkiksi valmiita elämään sellaisten ihmisten yhteiskunnassa, jotka surun sijasta luottavat maksulliseen palveluun pysyäkseen onnellisempien elämänkokemusten ankkuroituna kuin silmukassa? Jos muistimme käsittelee tänään tuskallisia muistoja itsesuojelun näkökulmasta, millaista on huomenna, kun niitä manipuloimalla voimme muuttaa ne joksikin, joka ei ole koskaan tuskallista ja aina keinotekoisesti onnellista?

Amazon ei edistä tieteellistä kehitystä, se etsii myös uusia tiloja tuotteiden sijoittamiselle ja etsii niitä sieltä, missä kukaan ei ole ennen uskaltanut.

Teknologiat, joilla Alexa toistaa oikeiden ihmisten äänet ja äänet, ovat algoritmeja, jotka ovat olleet tunnettuja jo jonkin aikaa. Voisimme sanoa: ei mitään uutta auringon alla. Juuri heidän sovelluksensa lupaa olla tuhoisa, provokaatio, joka saavuttaa nykyajan etiikan rajat.

Alexan avulla Amazon näyttää haluavan rakentaa jokaisen käyttäjän ympärille todellisen metaversion muistoista, joita asuttavat rakastetut ja kadonneet ihmiset. Helpotuspaikka, jossa me kaikki voisimme olla sanomatta hyvästit menneisyydelle, koska voimme valita kokea sen uudelleen loputtomasti ohjelmiston ansiosta.

Tilanne muuttuu monimutkaiseksi

Mitä tapahtuisi, jos James Vlahos, turhautuneena hänen (kuolleen) isänsä kyvyttömyydestä osoittaa hänelle kiintymystä, päättäisi eräänä päivänä "korjata" muuttamalla muutaman koodirivin tämän luonteensa piirteen ja muistuttaa enemmän haluamansa isää?

Lisäksi, kuka estää Alexa-käyttäjiä ohjaamasta älykaiutinta toimimaan täydellisesti elävänä ihmisenä, joka vaalii uudenlaista digitaalista fetisismia, jota emme vielä tunteneet?

Yritetään kuvitella pettynyt rakastaja, joka muuttaa Alexan rakkautensa kohteeksi unohtamatta korjata hänen luonnettaan taivuttaakseen sen omiin tunne- ja humoraalisiin tarpeisiinsa. Olisiko tämä tapa aliarvostaa ihmissuhteita ja upottaa hauraimpien subjektien elämä uusiin kiintymysmuotoihin, jotka ovat irrallaan todellisuudesta ja ankkuroituneet monikansallisten palveluyritysten ohjaamiin teknologisiin työkaluihin?

Mutta miksi?

Amazonin tavoitteena on luoda työkaluja, jotka kiinnittävät ihmisten huomion ja sitouttavat heitä entistä enemmän verkkotoimintaan. Käyttäjien osallistuminen koskettaa jo nyt monia yksityiselämän alueita ja Amazonin tarkoitus on mennä ja miehittää uusia, mukaan lukien tarvittaessa sentimentaalinen alue, kuten miehityssodassa, jossa valloitusalue on meidän jokaisen yksityisyydessä.

Mutta jos tunteiden ja kivun hyödyntäminen on uusi raja, tämän käyttäytymisen eettisiä seurauksia tulee harkita vakavasti: alaa ei pidä jättää vapaaksi niille, jotka aikovat hyödyntää uutta teknologiaa luodakseen uusia osallistumisen muotoja, joista tulee manipuloinnin muotoja.

Haluammeko kenties muuttaa uudet sukupolvet tekniikasta sentimentaalisesti ravituiksi ja kyvyttömiä kehittymään luonnollisesti omassa elämänkokemuksessaan?

Artikkeli Gianfranco Fedele