Les intelligences artificielles à l'aube des morts-vivants

Lors de sa conférence annuelle Objet : Mars 2022 Amazon a annoncé qu'Alexa pourra bientôt converser avec nous en imitant la voix de personnes réelles.

C'est justement Rohit Prasad, directeur scientifique du projet Alexa Artificial Intelligence, lors de sa keynote, qui a dit que grâce à une nouvelle fonctionnalité, le haut-parleur intelligent de la maison Amazon permettra aux utilisateurs de transformer les relations avec le personnel en quelque chose de "permanent" ("relations personnelles durables).

Si quelqu'un n'était pas clair à quoi Prasad faisait référence, une image d'un petit garçon qui s'est tournée vers Alexa lui a demandé sur grand écran et lui a demandé: "Grand-mère peut finir de lire 'Le Magicien d'Oz'?". Alexa répond rapidement "Ok !" et à partir de ce moment, la voix d'une femme âgée se fait entendre venant de l'appareil alors qu'elle commence à lire le conte de fées de Frank Baum à l'enfant.

"La grand-mère présente dans ce scénario n'est plus parmi nous", Tony Dokoupil, journaliste de CBS News, condamnera algide commentant Présentation de Prasad.

Il y a toujours une première fois

Déjà en juillet 2017 un service édité par WIRED avait fait sensation, toujours disponible aujourd'hui sur  YouTube, où une interview vidéo raconte l'histoire du technicien informatique qui "a transformé son père mourant en IA".

Lorsque James Vlahos s'est rendu compte que son père était en train de mourir d'une maladie incurable, il a décidé de sauvegarder les souvenirs de son père dans une longue liste de fichiers audio et texte, puis de les placer sur son smartphone.

Mais ce n'était que le début : grâce à un algorithme d'intelligence artificielle, James a permis à son téléphone de répondre aux questions en renvoyant l'audio et les textes les plus pertinents de son père, générant très probablement une conversation entre les deux. Dans les intentions de James, l'algorithme aurait rendu possible le dialogue avec son père même après sa mort, et c'était le cas.

Dans la boucle

L'expérience de James est devenue une entreprise, une organisation à but non lucratif qui promet aux gens de se connecter avec leur défunt grâce à l'IA. Un service payant avec lequel n'importe qui peut redonner vie à un être cher en transférant ses souvenirs sur une application.

Mais si l'on considère les implications psychologiques profondes du contact avec un proche décédé, on ne peut exclure que ce service puisse entraîner de nouveaux bouleversements sociaux imprévisibles. Par exemple, sommes-nous prêts à vivre dans une société de personnes qui, plutôt que de faire le deuil, comptent sur un service payant pour rester ancrées à des expériences de vie plus heureuses comme en boucle ? Si aujourd'hui notre mémoire traite les souvenirs douloureux dans une perspective d'autoprotection, qu'en sera-t-il demain quand en les manipulant nous pourrons les transformer en quelque chose qui n'est jamais douloureux et toujours artificiellement heureux ?

La situation se complique

Que se passerait-il si James Vlahos, frustré par l'incapacité de son père (décédé) à lui témoigner son affection, décidait un jour de "corriger", en modifiant quelques lignes de code, cet aspect de son personnage en plus du père qu'il voulait ?

De plus, qui empêchera les utilisateurs d'Alexa de lui donner des instructions smart orateur jouer pour nous le rôle d'une personne parfaitement vivante, nourricière d'une nouvelle forme de fétichisme numérique qui n'en ressentait pas encore le besoin ?

Mais pourquoi

L'objectif d'Amazon est de créer des outils qui attirent l'attention des gens et les engagent de plus en plus dans des activités en ligne. L'implication des utilisateurs concerne déjà de nombreux domaines de la vie privée et c'est l'intention d'Amazon d'aller en occuper de nouveaux, impliquant la sphère sentimentale, si nécessaire, comme dans une guerre d'occupation où le terrain de conquête est dans l'intimité de chacun d'entre nous.

Article extrait du Post de Gianfranco Fedele, si vous voulez lire learticle entier cliquez ici