ChatGPT : pourquoi nous suivons ses conseils même quand ils sont faux

L’intelligence artificielle s’est installée dans notre quotidien à une vitesse impressionnante. Qu’il s’agisse de Gemini, de Claude ou de l’incontournable ChatGPT, ces outils nous assistent désormais pour rédiger des mails, coder ou planifier nos vacances. Pourtant, une étude récente vient mettre en lumière un comportement humain inquiétant : notre tendance à faire une confiance quasi absolue à ces algorithmes, au point d’en oublier la prudence élémentaire.

Une dépendance aux données erronées

Même si OpenAI précise clairement que « ChatGPT peut commettre des erreurs », les utilisateurs semblent ignorer cet avertissement. Une recherche menée sur un panel de 359 personnes a analysé comment nous réagissons face aux réponses de l'intelligence artificielle. Les résultats sont frappants : si 92,7 % des participants suivent logiquement les bons conseils, ils sont également 79,8 % à valider des suggestions totalement fausses fournies par le chatbot.

En clair, dans environ quatre cas sur cinq, l'utilisateur accepte une information erronée sans la remettre en question. Cette passivité a déjà entraîné des situations concrètes et risquées, comme des erreurs d'orientation pour des touristes ou des conseils de santé inadaptés ayant conduit à des hospitalisations.

Le risque de l’atrophie intellectuelle

Pour les chercheurs, ce phénomène soulève une question de société majeure. Sommes-nous en train de perdre notre autonomie de pensée ? Gideon Nave, professeur de marketing, compare l'esprit critique à un muscle : si nous laissons l'intelligence artificielle réfléchir à notre place, ce muscle risque de s'affaiblir.

« La capacité à vérifier ce que l'IA fournit devient de plus en plus importante. C'est une compétence qu'il ne faut pas perdre avec le temps. »

L'analogie avec le confort moderne est parlante. Tout comme la climatisation nous évite de réguler notre température corporelle ou les véhicules de fournir un effort physique, l'intelligence artificielle pourrait nous dispenser de l'effort intellectuel nécessaire à la vérification des faits.

Apprendre à collaborer sans subir

L'enjeu n'est pas de rejeter ces outils, mais de transformer notre manière de les utiliser. L'intelligence artificielle reste un assistant puissant, mais elle ne possède pas de conscience ni de compréhension réelle du monde. Elle assemble des probabilités statistiques pour générer du texte.

Face à cette technologie, la vigilance reste la meilleure protection. Vérifier une information importante sur une source officielle ou croiser les données devrait rester un réflexe systématique, quel que soit le niveau de performance affiché par les futurs modèles d'OpenAI ou de ses concurrents.