Fausse génération

Le 31 janvier 2022, nous avons publié sur le blog de Laila le premier article composé d'un algorithme génératif, pour être clair un algorithme qui suit la même architecture technologique de ChatGPT développé par OpenAI.

Ce n'était pas le premier et ce ne serait pas le dernier definitiva nous en avons publié 4 en indiquant toujours explicitement par qui ils ont été écrits.

Mais les expérimentations sont allées plus loin, nous avons généré des dizaines de contenus jusqu'à ce que l'algorithme, dans le cadre d'un focus sur les perspectives de commercialisation immobilière en 2023, rapporte la citation suivante :

« Le président de la Hong Kong Home Buyers Association, Mark Chien-hang, a déclaré au South China Morning Post que bien que la valeur des maisons nouvellement achevées sur le territoire soit en baisse, le volume des ventes est toujours élevé. "C'est parce que des personnes ayant de solides projets d'investissement sont déjà entrées sur le marché depuis l'étranger", a déclaré Chien-hang.

élément de rassurance

Cette citation est apparue comme un élément de rassurance s'inscrit parfaitement dans le contexte de l'article. Mais avant de le mettre en ligne nous avons décidé de vérifier la source par souci d'exhaustivité dans le but de la citer de manière appropriée. Eh bien, ce que nous avons découvert, c'est que Mark Chien-hang n'existe pas, tout comme il n'y a pas d'association des acheteurs de maison à Hong Kong. Le texte cité n'apparaît pas sur le web et si quelqu'un devait penser qu'il peut y avoir des archives d'informations qui alimentent ces IA qui ne sont pas directement accessibles en ligne, eh bien ce n'est pas le cas : la citation est complètement inventée !

Les IA génératives ont la capacité de « générer » du contenu dans le style et la forme du contenu sur lequel elles sont formées, mais elles ne « stockent » pas les données et sont incapables de les restaurer dans leur forme originale. L'IA générative fonctionne comme des boîtes noires, constituées de réseaux de neurones artificiels auxquels aucune forme de ingénierie inverse. En d'autres termes, les données d'apprentissage deviennent des nombres et il n'y a pas de relation directe entre ces nombres et les données qui les ont générés.

À ce jour, ils ne trouvent toujours aucune application commerciale en raison du risque qu'ils puissent fournir des informations complètement erronées dans des contextes sensibles.

Les conditions d'utilisation d'OpenAI pour ChatGPT se lisent comme suit : 

«L'entrée et la sortie doivent être considérées collectivement "Contenu". [...] L'utilisateur est responsable des Contenus en ce qui concerne la garantie qu'ils ne violent aucun article de la Loi [...]»

Si les informations générées par ChatGPT exposent ceux qui les utilisent au risque de publier de fausses, diffamatoires ou autres violations de la Loi, pour cette raison même OpenAI se protège en déclinant toute responsabilité pour la divulgation de contenus générés par sa propre intelligence artificielle.

En ce moment, les grands esprits du machine learning ils n’ont pas encore réussi à produire quelque chose de mieux que des systèmes qui répondent à toutes les questions en mentant comme des dents. Et si ces IA répondent parfois correctement, ce n’est qu’un simple hasard et rien de plus.

Article par Gianfranco Fedele