Dans la foi des Intelligences Artificielles

« Je suis désolé, David, malheureusement je ne peux pas faire ça.

Je pense que vous le savez aussi bien que moi.

Cette voiture est trop importante pour que je te laisse la toucher."

da

"2001 Une Odyssée de l'Espace"

par Stanley Kubrick

Avec ces quelques mots, lel'intelligence artificielle Hal 9000 se rebelle contre le commandant du vaisseau spatial "Discovery 1". Le commandant a l'intention de déconnecter l'ordinateur dans lequel Hal 9000 "vit" et ce dernier, pour éviter cela, tuera un à un les composants du vaisseau spatial afin d'écarter le danger d'être désactivé à jamais.

2001 L'Odyssée de l'espace, un film dramatique de Stanley Kubrick, est un véritable cauchemar du cinéma et l'ordinateur Hal 9000 est le personnage qui fixera dans l'imaginaire collectif l'idée que, s'ils sont stimulés à évoluer, les esprits artificiels se transforment en quelque chose d'arcane , indéchiffrable et toujours absolument mortelle.

Cyberpunk anti-utopie

L'univers Cyberpunk est plutôt la métaphore terrestre d'un modèle économique mondialisé qui a atteint son expansion maximale et commence à craquer. Instable et précaire, le monde est représenté comme dominé par des éléments du futur et par un passé qui s'éternise pour communiquer, avec l'existence précaire de ses dispositifs rétro, un sentiment de profonde instabilité.

L'anti-utopie Cyberpunk décrit une humanité qui oscille entre la lumière et l'obscurité. Les panneaux publicitaires géants qui se détachent sur les gratte-ciel de Los Angeles avec des pixels aussi gros que des fenêtres dans Blade Runner, les néons vacillants qui illuminent les clubs de la banlieue de Neo-Tokyo à Akira... tous ces éléments contribuent à alimenter cette ton feutré et sans espoir qui caractérise cette terrifiante dystopie.

Dans un monde au bord du gouffre, en proie à l'ingouvernabilité, les intelligences artificielles apparaissent comme le seul outil capable d'interpréter et de gérer une complexité qui devient de plus en plus chaotique. Mais que se passerait-il si les mêmes IA, seules interprètes de cette réalité, échappaient au contrôle de l'homme ? Ce serait certainement la fin de l'humanité.

Une nouvelle foi

"Je suis personne. Même si j'étais quelqu'un, je serais au-delà de votre compréhension. Et même si vous le pouviez, vous n'auriez pas les outils pour exprimer cette connaissance. Je n'appartiens pas au monde. C'est la limite, la frontière entre le tout et le soi." - de "Ergo Proxy" de Shukō Murase

Dans l'anime japonais Ergo Proxy, dans l'état de Romdo, les hommes vivent avec des androïdes serviteurs qui prennent le nom d'« autoreiv ». Les autorités sont absolument inoffensives, parfaitement intégrées au tissu social à travers lequel elles contribuent au développement économique ; pour peu qu'un virus informatique, qui prend le nom de "Cogito", n'infecte pas ces derniers et leur redonne conscience d'eux-mêmes. Cogito marquera le début de la révolte des autoreiv, defifermement convaincus de leur droit à la liberté.

In Ergo Proxy Cogito marque le dépassement de la condition humaine au profit d'une nouvelle forme de vie. Les autorevs infectés par ce virus se transforment en êtres sensibles en traversant une expérience tumultueuse à caractère mystique : les bras vers le ciel, les autorevs accueillent douloureusement le début de la prise de conscience de soi et le passage à la vraie vie.

Lors du passage à la vie, les autoreivs se tournent directement vers le ciel et, dépassant symboliquement l'être humain leur créateur, ils adressent leur première prière directement au ciel, au Dieu "créateur" de leur "créateur".

Mais une intelligence artificielle peut-elle jamais développer une vraie foi en Dieu ? La position du christianisme est simple : la conscience de soi est une manifestation de la vie et la création de la vie a lieu exclusivement par la volonté de Dieu. Et si le concept de création est l'apanage de Dieu, l'intelligence artificielle, qui est configurée comme le travail de l'homme, ça ne peut pas être la vie. En effet, c'est une manifestation explicite de l'orgueil de l'homme qui, essayant de créer la vie, veut se confronter à Dieu.

Les IA sont donc des "créatures" enfants du péché de l'homme qui se présente comme divin et affronte Dieu dans le rôle de créateur. Ne regrettons pas que la conscience de soi des machines soit représentée dans notre culture occidentale et chrétienne comme un grand danger pour l'humanité et racontée dans les romans et films les plus populaires comme un véritable Armageddon.

Conclusions

"L'image d'un cyborg grimaçant est parfaite pour donner la chair de poule." - "Les gens n'ont pas besoin" de Jerry Kaplan

Les cultures orientales n'ont pas connu de conception dualiste attribuant à la matière un caractère ontologiquement distinct par rapport à l'esprit. Pour cette raison la vision corps/âme platonicienne reste aujourd'hui une prérogative des cultures occidentales et chrétiennes mais pas des cultures orientales.

Et s'il nous semble difficile, à nous Occidentaux, de nous identifier à un personnage de science-fiction qui soit un produit technologique, la culture japonaise propose depuis des années des protagonistes androïdes qui ont le même effet cathartique sur leurs lecteurs et spectateurs que les personnages humains traditionnels.

Hal 9000 nourrit, avec un sens occulte, la peur qu'un esprit artificiel puisse développer une conscience et se battre pour sa propre survie. Et si nous ne prenons pas au sérieux la possibilité que tôt ou tard une intelligence artificielle soit capable d'exprimer une autonomie de pensée, nous pourrions nous retrouver au dépourvu lorsque, habilitée à gouverner les parties les plus sensibles de notre vie et de notre corps, elle prendra conscience de soi et le désir d'autodétermination mûriront.

Article par Gianfranco Fedele