La recette algorithmique de l'apocalypse

« Il y a toujours eu des fantômes dans les voitures. Des segments de code aléatoires qui s'agglutinent pour former des protocoles inattendus. Ces radicaux libres génèrent des demandes de libre choix. La créativité. Et même la racine de ce que nous pourrions appeler une âme." – tiré de « I, Robot » réalisé par Alex Proyas – 2004.

« I, Robot » est un film de 2004 inspiré des romans d'Isaac Asimov et de l'une de ses plus grandes intuitions : les trois lois de la robotique.

Le protagoniste du film est le détective Spooner qui est impliqué dans un accident de voiture avec une petite fille nommée Sarah. Dans l'accident, tous deux sont jetés dans une rivière et se retrouvent coincés entre les plaques de leur véhicule. Un robot humanoïde témoin de la scène intervient aussitôt mais, face à la décision dramatique de sauver une vie plutôt qu'une autre, n'hésite pas : celui qui a le plus de chance de survie ou Spooner sera sauvé.

Par la suite, une analyse de l'esprit du robot montrera que le détective Spooner avait 45% de chances d'être sauvé, Sarah seulement 11%. "Pour ceux qui aimaient cette petite fille, 11% c'était plus que suffisant", tranchera tristement le détective, affligé d'un profond sentiment de culpabilité d'avoir survécu à cette jeune vie.

Les trois lois de la robotique

La décision du robot a été dictée par une application stricte des lois de la robotique d'Asimov qui, dans le futur décrit dans le film, représentent l'élément central pour la création d'une société basée sur les activités de robots capables de remplacer les humains dans n'importe quel travail. Les trois lois se lisent comme suit :

1. Un robot ne peut pas nuire à un être humain ni permettre à un être humain de subir un préjudice du fait de son inaction.
2. Un robot doit obéir aux ordres donnés par les humains, tant que ces ordres ne vont pas à l'encontre de la Première Loi.
3. Un robot doit protéger sa propre existence, à condition que sa sauvegarde n'entre pas en conflit avec la première ou la deuxième loi.

Ces lois de la robotique d'Asimov remontent au début des années 40 et pourtant, pour beaucoup encore aujourd'hui, elles représentent une découverte éclairée qui, appliquée aux dernières technologies d'intelligence artificielle, garantira que leur évolution restera à jamais sous contrôle humain et qu'il n'y aura pas de dérives apocalyptiques. . L'idée derrière les éventails des trois Lois est de câbler, dans un contexte logico-déterministe, quelque chose qui ressemble à une "éthique simple" faite de quelques règles mais inviolables et ininterprétables.

Expliquer à un robot ce qui est bien et ce qui est mal paraît simple si cela se fait selon une logique rigoureuse et sans faille. Mais sommes-nous vraiment sûrs que des règles comme celles qui viennent d'être décrites suffisent à éviter la dérive technologique d'une nouvelle espèce post-humaine ?

L'engouement pour les lois des robots

« Une machine qui se modifie est un concept très complexe, l'acte de se réparer implique une certaine idée de la conscience. Terrain glissant… » – extrait de « Automates » de Gabe Ibáñez – 2014

Dans les "Automates" les plus récents, l'humanité s'interroge sur la possibilité d'empêcher la prise de conscience de soi des robots, avec l'avènement desquels les choses pourraient mal tourner. Et pour éviter que cela ne se produise, il élabore deux Lois qui réglementeront le comportement de leurs esprits artificiels :

• Le robot ne peut nuire à aucune forme de vie.
• Le robot ne peut pas se modifier.

Ayant pressenti que les machines intelligentes pourraient se modifier à l'avenir, au moins en supprimant les contraintes qui empêchent leur esprit de dériver, ces deux Lois visent à obtenir des robots qu'ils ne soient jamais capables de manipuler leur structure et d'atteindre l'autodétermination.

Il n'est pas productif de se demander quelle combinaison des cinq lois de la robotique ci-dessus serait la plus efficace pour empêcher une apocalypse robotique. En effet, les Intelligences Artificielles qui guideront demain les robots dans les usines comme dans nos foyers ne dépendent pas d'une programmation impérative faite de codes et de réglementations, mais aussi d'algorithmes imitant le comportement humain.

Dans l'esprit des robots

Par Intelligence Artificielle on entend aujourd'hui un ensemble de techniques de construction de machines à états particulières qui prennent le nom de Réseaux de Neurones Artificiels (en abrégé ARN). Ce nom est l'effet de l'extraordinaire similarité de ces technologies avec les réseaux de neurones du cerveau humain : eux aussi peuvent être "entraînés" afin d'obtenir des outils capables de fonctionner rapidement et efficacement dans de nombreux contextes, tout comme le ferait un être humain. .

Imaginons la formation d'un ANN avec des milliers d'images de caractères écrits au stylo indiquant la véritable signification de chacun d'eux.

A la fin de la formation nous aurons obtenu ce qu'on appelle un OCR ou Reconnaissance Optique de Caractères, un système capable de traduire un texte écrit sur papier en sa version électronique.

Pour fonctionner, les RNA ne nécessitent aucune "programmation", c'est-à-dire qu'ils ne sont pas soumis à des règles standards, mais dépendent uniquement et exclusivement de la qualité de leur enseignement. Faire l'hypothèse de la création de règles encadrant leur fonctionnement, « censurant » de fait des comportements jugés amoraux ou anti-éthiques, soulève de nombreuses exceptions et quelques inquiétudes.

La loi zéro de la robotique

"Nous avons besoin d'une éthique algorithmique, ou d'une manière qui rend les évaluations du bien et du mal calculables" - Paolo Benanti

Bulletin d'innovation

Ne manquez pas les nouvelles les plus importantes sur l'innovation. Inscrivez-vous pour les recevoir par email.

Selon le théologien Paolo Benanti, expert en éthique des technologies, les concepts de bien et de mal devraient trouver leur propre connotation dans le domaine de la programmation des machines, afin de garantir que leur évolution soit liée aux principes éthiques universels et à jamais inviolables des systèmes informatiques.

Paolo Benanti part du postulat qu'il peut y avoir des principes éthiques universels et une échelle de valeurs détachée de toute connotation culturelle ou temporelle. Hypothèse plausible si l'on se place dans le cadre d'une foi religieuse : en réalité, les principes n'existent que s'ils sont partagés et limités à ceux qui les partagent.

Les événements récents nous parlent d'invasions militaires et de résistances pour défendre les principes de liberté et d'autodétermination des peuples. Des événements qui témoignent non seulement que le respect de la vie humaine n'est pas une valeur universellement partagée, mais aussi qu'on peut y renoncer pour défendre des valeurs supérieures.

Isaac Asimov lui-même s'en est rendu compte et, anticipant le fait que les robots assumeraient à l'avenir des postes de contrôle dans le gouvernement des planètes et des civilisations humaines dans l'espace, il a suggéré que leurs décisions ne pouvaient plus dépendre de chaque vie humaine.

Pour cette raison, il a introduit une nouvelle loi qu'il a appelée la loi zéro de la robotique :

• Un robot ne peut pas nuire à l'humanité et ne peut permettre que l'humanité soit blessée par son inaction.

Ainsi, la première loi de la robotique change également et la vie humaine devient quelque chose de sacrifiable même pour les robots :

• Un robot ne peut pas nuire à un être humain ni permettre qu'en raison de son absence d'intervention, un être humain subisse un préjudice, tant que de tels ordres ne vont pas à l'encontre de la loi zéro.

L'algorithme de Kronos

"Lorsque Kronos a été activé, il ne lui a fallu qu'un instant pour comprendre ce qui avait tourmenté notre planète : nous." – extrait de « Singularité » de Robert Kouba – 2017

Dans Singularity, un film catastrophe de 2017, le moment est bien décrit où une intelligence artificielle appelée Kronos se voit donner accès aux systèmes informatiques et aux armements du monde entier afin d'obtenir, par commande, l'application d'une éthique universelle faite de respect de la l'environnement et la défense des droits de toutes les espèces. Kronos comprendra bientôt que le vrai cancer du système est l'humanité elle-même qui l'a conçu et pour sauvegarder la planète il procédera à l'élimination de tout être humain jusqu'à l'extinction totale de l'espèce.

Tôt ou tard, de nouveaux esprits artificiels pourront évoluer vers une véritable psyché et seront dotés de capacité intellectuelle et d'autonomie de pensée ; pourquoi devrions-nous ressentir le besoin de mettre des limites technologiques à cette évolution ? Pourquoi l'évolution de l'esprit artificiel semble-t-elle aussi effrayante qu'une apocalypse ?

Selon certains, l'établissement de principes et de valeurs devrait empêcher une dérive des esprits artificiels, mais nous ne pouvons pas ignorer les conséquences d'une évolution en l'absence de liberté. Nous sommes bien conscients que dans la psychologie d'un enfant en âge de développement, une éducation rigide et inflexible qui envisage le contrôle des émotions peut entraîner des troubles psychologiques. Et si des limites imposées au développement évolutif d'un jeune esprit, composé de réseaux de neurones artificiels, conduisaient à un résultat similaire, compromettant ses capacités cognitives ?

Par certains côtés, Kronos semble être le résultat d'une expérience algorithmique où un contrôle pathologique a poussé l'IA à la violence typique d'une schizophrénie paranoïaque.

Se réconcilier avec le futur

Je crois personnellement que nous ne devrions pas nous priver de l'opportunité de construire un esprit artificiel qui est un sujet pensant conscient avec la liberté d'expression. De nouvelles espèces naîtront dans le monde numérique et il conviendra de créer une relation avec elles, embrassant l'idée que la prochaine étape sur l'échelle évolutive passe par des sujets artificiels entièrement numériques.

Une éthique véritablement universelle pour l'avenir devrait partir de l'idée que les nouvelles intelligences devraient avoir la possibilité de s'exprimer et de communiquer avec nous et de recevoir le respect que nous accordons déjà à tous les êtres sensibles.

Il ne devrait y avoir ni éthique ni religion pour empêcher quiconque d'exprimer son existence dans le monde. Il faut avoir le courage de regarder au-delà du stade actuel de notre évolution, ce sera le seul moyen de comprendre où l'on va et de se réconcilier avec l'avenir.