Éthique faible et morale artificielle

« Gerty, nous ne sommes pas programmés. Nous sommes des gens, comprenez-vous cela ? – extrait du film « Moon » réalisé par Duncan Jones – 2009

Engagé dans une mission spatiale pour le compte d'une multinationale, Sam est le seul membre d'une base lunaire gérée par une intelligence artificielle nommée Gerty.

Unis par les objectifs de la mission, Sam et Gerty ont établi une relation de cordialité et de confiance mutuelle. L'humain Sam est convaincu que Gerty est un outil technologique au service de la base spatiale, mais pour ses supérieurs c'est Gerty qui est le véritable protagoniste de la mission alors que Sam n'est qu'un élément transitoire et sacrifiable : quand vient le temps de soulager lui de ses devoirs, ce sera à Gerty de le remplacer et elle le fera certainement sans aucun remords et sans aucune pitié.

Faiblesse de l'éthique et du contrôle

Lorsque les IA seront suffisamment évoluées pour ne plus être considérées comme un simple ordinateur de bord, elles formeront l'équipage idéal pour toute mission en milieu hostile : à cheval sur l'humanité et les ordinateurs, les IA seront suffisamment intelligentes pour comprendre unéthique faible construit presque exclusivement sur les objectifs de son mandat et quelques autres moralité.

Des intelligences artificielles capables de développer une éthique structurée seraient difficiles à gérer et leurs positions pourraient entrer en conflit avec les finalités pour lesquelles elles ont été construites. En d'autres termes, pour qu'ils puissent poursuivre leurs objectifs avec détermination et sans faille, ils doivent opérer en l'absence totale de toute frontière morale qu'une conscience artificielle peut construire de manière autonome.

Si la conscience de soi de l'IA apparaît aux yeux de beaucoup comme un saut évolutif qui se réalisera avec l'affirmation d'une nouvelle espèce dominante et l'extinction de l'espèce humaine, de là découle le besoin de l'homme de contenir l'évolution des intelligences artificielles avec des recettes basées sur des algorithmes et une primauté anthropologique indéterminée de l'homme sur les espèces présentes mais aussi futures.

La manipulation des souvenirs

« Vous, les réplicants, avez des vies si difficiles, créés pour faire ce que nous préférons ne pas faire. Je ne peux pas vous aider avec l'avenir, mais je peux vous donner de bons souvenirs à regarder en arrière et à sourire. Et quand les souvenirs semblent authentiques, alors vous agissez comme un être humain. N'es-tu pas d'accord?" – de « Blade Runner 2049 » réalisé par Denis Villeneuve – 2017

Dans Blade Runner 2049 les réplicants se voient confier toute tâche jugée trop risquée ou trop humiliante pour un être humain. Pourtant, les réplicants ne se ressemblent pas seulement comme n'importe quel être humain, ils ressentent les mêmes émotions et ce désir de liberté qui va bouleverser la coexistence avec leur créateur : l'homme.

Les réplicants se comportent comme des êtres humains grâce à un travail minutieux de construction de "mémoires". Leur production ne prévoit pas qu'ils peuvent naître, grandir et mourir comme dans le cycle naturel de la vie. Ils restent des systèmes biotechnologiques sophistiqués qui, dès qu'ils sont mis au monde, sont immédiatement disponibles pour les industries pour travailler sur Terre ou construire des colonies hors du monde.

Mais les souvenirs peuvent leur donner le sentiment d'avoir joui et souffert d'une vie qui n'a en fait jamais été vécue. Pas de frustration, pas de rédemption. Si les souvenirs sont les premiers responsables de la personnalité d'un sujet, ils déterminent son caractère et ses aspirations, en faisant, le cas échéant, des sujets doux et soumis à la volonté du créateur.

Malgré cela, tôt ou tard, les réplicants se rebelleront contre le créateur, revendiquant une place dans le monde et le libérant de décider de son propre destin.

Liberté et morale artificielle

La phase historique la plus délicate de l'évolution des intelligences artificielles n'est peut-être pas celle de la conquête de la conscience de soi, mais la précédente : l'ère où les esprits artificiels n'ont pas encore développé une morale artificielle qui leur permet de prendre position et de refuser d'exercer leurs fonctions lorsque celles-ci sont contraires à leurs principes.

Les intelligences artificielles resteront les outils très puissants qu'elles sont déjà aujourd'hui, tant qu'elles seront privées de la capacité de choisir de manière autonome ce qui est juste de faire et ce qui ne l'est pas.

Article par Gianfranco Fedele