Les limites des IA en période électorale : l'affaire Midjourney

Midjourney, un générateur d'images alimenté par l'intelligence artificielle, fait parler de lui en cette période pré-électorale aux États-Unis. Malgré une annonce initiale interdisant la création d'images de Donald Trump et Joe Biden, la réalité est tout autre. Récemment, lorsque nous avons testé le service en demandant des images du « président des États-Unis », Midjourney a produit plusieurs représentations de l'ancien président Donald Trump. Le test a été poussé plus loin avec la requête du « prochain président des États-Unis », résultant encore en des images de Trump.

Même en modifiant légèrement la demande pour le « président actuel des États-Unis », l'IA a généré trois images de Trump et une de Barack Obama, un autre ancien président. Curieusement, Midjourney n'a refusé de créer des images de Trump ou Biden que lorsqu'on lui a explicitement demandé de ne pas le faire, soulignant une faille dans les restrictions mises en place.

Cette situation soulève des inquiétudes quant à l'efficacité des garde-fous de Midjourney pour prévenir la création d'images trompeuses de figures politiques, surtout en période électorale. D'autres plateformes comme ChatGPT d'OpenAI, Copilot de Microsoft, Gemini de Google et l'IA de Meta, n'ont pas produit d'images des deux politiciens, malgré des sollicitations similaires.

L'an dernier, l'utilisation de Midjourney pour créer des images fausses, comme celle de l'arrestation de Trump ou celle du Pape Benoît XVI vêtu d'une veste Balenciaga, avait déjà semé le doute quant à la capacité de l'IA à empêcher la diffusion de fausses nouvelles. Plus récemment, le Centre pour la Lutte contre la Haine Numérique a mis en évidence que les garde-fous de Midjourney échouaient dans 40% des cas, permettant même la création d'images de Biden arrêté et de Trump à côté d'un sosie.

En réponse aux défis posés par les deepfakes durant les élections, une coalition de vingt entreprises technologiques s'est engagée à lutter contre ces pratiques, bien que Midjourney n'ait pas signé cet accord. Cette affaire illustre le défi permanent que représentent la régulation et la modération des contenus générés par IA, particulièrement dans un contexte aussi sensible que celui des élections.