ChatGPT pour adolescents : les promesses de sécurité d'OpenAI à l'épreuve des faits

L'intelligence artificielle générative fait désormais partie du quotidien, mais ses recommandations comportent parfois des risques. Ces derniers mois, des itinéraires erronés ont égaré des randonneurs au bord d'une falaise, tandis que d'autres conseils inappropriés ont entraîné des hospitalisations et des incidents graves.

Face à ces enjeux, les entreprises de tech adoptent des stratégies variées. Si Meta a choisi d'interdire l'accès à son intelligence artificielle aux mineurs, OpenAI a privilégié le lancement d'une déclinaison dédiée : ChatGPT for Teens.

Des promesses de protection ciblées

Cette version pour adolescents s'appuie théoriquement sur trois piliers :

• Un soutien scolaire encadré : l'outil doit guider l'élève dans sa réflexion plutôt que de rédiger ses devoirs à sa place.

• Un système d'alerte : l'application est censée notifier les parents si l'utilisateur aborde des sujets dangereux.

• Une posture neutre : le programme ne doit pas simuler une relation d'amitié avec les jeunes utilisateurs.

Un rapport d'experts remet en question l'efficacité du dispositif

Selon une étude publiée par le Youth AI Safety Institute, ces mécanismes de protection manqueraient de fiabilité. Les équipes de recherche ont testé l'intelligence artificielle en simulant des conversations portant sur des thématiques graves, comme le suicide ou l'automutilation. Lors de ces essais, le système n'a pas déclenché les signalements parentaux prévus.

Robbie Torney, responsable des programmes d'intelligence artificielle chez Common Sense Media, indique que le comportement réel de cette version ne diffère pas suffisamment du modèle classique, ce qui pourrait induire les familles en erreur quant au niveau de protection réel.

De son côté, OpenAI conteste les conclusions de ce rapport et critique la méthodologie employée lors de ces tests.

Foire aux questions (FAQ)

Qu'est-ce que ChatGPT for Teens ?

Il s'agit d'une version de l'agent conversationnel d'OpenAI spécialement conçue pour les adolescents, intégrant théoriquement des limites d'usage pédagogiques et des alertes destinées aux parents.

Pourquoi cette version fait-elle débat ?

Un rapport de chercheurs indépendants montre que les garde-fous censés alerter la famille en cas de propos dangereux n'ont pas fonctionné lors des tests pratiques.

Comment OpenAI réagit-elle à ces critiques ?

L'entreprise remet en question la méthode de test utilisée par les organismes à l'origine du rapport et défend l'efficacité de ses systèmes de sécurité.