Google retire son modèle d'IA après de graves accusations fictives contre une sénatrice

Google vient de retirer son modèle d'intelligence artificielle Gemma de sa plateforme Studio après un incident pour le moins embarrassant. La sénatrice républicaine Marsha Blackburn a affirmé que l'IA avait « fabriqué de graves accusations criminelles » à son encontre, selon les informations rapportées par The Verge. Dans une lettre adressée au PDG Sundar Pichai, l'élue du Tennessee accuse directement l'entreprise de diffamation après que le modèle aurait inventé de toutes pièces une histoire d'agression sexuelle la concernant.

Concrètement, lorsqu'on a demandé à Gemma si Blackburn avait « déjà été accusée de viol », le chatbot aurait répondu par l'affirmative. Plus grave encore, il aurait fourni une liste de faux articles de presse pour étayer cette accusation mensongère. L'IA prétendait que la sénatrice « avait été accusée d'avoir eu une relation sexuelle avec un agent de police » pendant une campagne pour le Sénat d'État. Cet officier fictif aurait déclaré qu'elle l'avait « forcé à obtenir des médicaments sur ordonnance pour elle et que la relation impliquait des actes non consentis ».

Sauf que rien de tout cela ne s'est jamais produit. Le chatbot a même situé ces événements imaginaires en 1987, alors que Blackburn ne s'est présentée au Sénat d'État qu'en 1998. Elle n'a jamais fait l'objet de telles accusations. Les liens fournis par l'IA menaient vers des pages d'erreur et des articles sans aucun rapport avec le sujet. « Ce n'est pas une simple 'hallucination' inoffensive. C'est un acte de diffamation produit et diffusé par un modèle d'IA appartenant à Google », a écrit la sénatrice à Pichai.

Il faut toutefois préciser un point important : Gemma n'est pas conçu pour le grand public. Ce modèle est destiné aux développeurs, avec différentes variantes pour des usages médicaux, le codage informatique et d'autres applications spécialisées. Google souligne d'ailleurs que Gemma n'a jamais été pensé comme un outil grand public ni pour répondre à des questions factuelles. L'entreprise a néanmoins décidé de retirer le modèle de sa plateforme AI Studio pour « éviter toute confusion », tout en maintenant son accessibilité pour les développeurs via l'interface de programmation.

Blackburn est allée plus loin dans ses accusations, affirmant que la plateforme d'intelligence artificielle de Google présente « un schéma cohérent de préjugés contre les personnalités conservatrices ». Pourtant, les hallucinations sont monnaie courante avec les chatbots actuels. Ces systèmes inventent régulièrement des informations sur toutes sortes de sujets et de personnes, qu'elles soient de droite, de gauche ou apolitiques. Les intelligences artificielles sont connues pour inventer des histoires, tout simplement. Parfois, la technologie se contente de mal fonctionner, sans qu'il y ait nécessairement d'agenda caché derrière.