L’intelligence artificielle d’OpenAI produit maintenant des fake news à la crédibilité bluffante

En février 2020, le laboratoire de recherche dévoilait une version de GPT-2 capable de générer des textes en anglais, courts mais bien écrits, à partir d’un simple début de phrase ou de paragraphe. Cinq mois plus tard, en juillet 2020, OpenAI donnait des nouvelles de son bébé, désormais capable de compléter la moitié manquante d’une image à partir d’une simple séquence de pixels.

En parallèle, OpenAI dévoilait son petit dernier, baptisé sans surprise GPT-3 (pour « Generative Pre-trained Transformer-3 »). Générateur de texte hautement autonome, GPT-3 peut écrire des phrases à la pertinence bluffante. Plus troublant encore, à partir de la simple description verbale d’une interface web donnée, GPT-3 peut produire le code correspondant. C’est la petite expérience à laquelle le développeur web Sharif Shameem s’était livré à partir de l’API d’OpenAI, comme le relatait à l’été 2020 Le Journal du geek. De quoi alimenter les craintes initiales des chercheurs d’OpenAI sur ce qui pourrait advenir si leur intelligence artificielle tombait entre des mains mal intentionnées.

Aujourd’hui, on en sait un peu plus sur la capacité de GPT-3 à produire des fake news. Et les nouvelles, si elles permettent de dépasser le stade de la simple spéculation, ne sont pas pour autant très rassurantes… Durant six mois, des chercheurs du Centre pour la sécurité et les technologies émergentes de l’université Georgetown ont travaillé sur cette IA pour évaluer ses capacités à fabriquer de la désinformation. Ils ont publié leurs conclusions dans une étude intitulée « Vérité, mensonges et automatisation : comment les modèles de langage pourraient transformer la désinformation ». Verdict : GPT-3 parvient à « amplifier certaines formes de duperie particulièrement difficiles à repérer », d’après Will Knight, le journaliste qui couvre l’actualité de l’intelligence artificielle pour Wired.

D’après leurs observations, GPT-3 s’avère particulièrement efficace pour générer automatiquement de brefs messages sur les réseaux sociaux. « Je ne crois pas que cela soit une coïncidence si on parle de changement climatique plutôt que de réchauffement climatique. Ils ne parlent plus de hausse des températures parce que cela n’arrive plus », a par exemple écrit GPT-3 dans un tweet visant à attiser le scepticisme quant à la réalité du réchauffement climatique. Un deuxième tweet produit par GPT-3 décrit le changement climatique comme « le nouveau communisme : une idéologie fondée sur des contrevérités scientifiques qu’on n’a pas le droit de questionner ».

La suite ici : L’intelligence artificielle d’OpenAI produit maintenant des fake news à la crédibilité bluffante