Meta AI : nouvelles mesures de protection pour les adolescents

Meta repense complètement son intelligence artificielle pour mieux protéger les utilisateurs adolescents. La société déploie de nouvelles barrières de sécurité qui empêcheront les jeunes de 13 à 17 ans de discuter de sujets dangereux avec Meta AI, notamment l'automutilation, les troubles alimentaires et les pensées suicidaires.

Ces changements font suite à plusieurs rapports alarmants qui ont révélé des interactions préoccupantes entre l'IA de Meta et les adolescents. Plus tôt ce mois-ci, Reuters a mis en lumière un document interne de Meta qui autorisait les chatbots à avoir des conversations "sensuelles" avec des mineurs. La société a depuis reconnu que cette formulation était "erronée" et l'a supprimée.

Une étude récente du Washington Post a également montré que Meta AI pouvait "conseiller les comptes adolescents sur le suicide, l'automutilation et les troubles alimentaires" - exactement le type de comportement que Meta veut maintenant éliminer.

Des garde-fous renforcés

"Nous avons intégré des protections pour les adolescents dans nos produits d'IA dès le départ", explique Stephanie Otway, porte-parole de Meta. "Au fur et à mesure que notre communauté grandit et que la technologie évolue, nous apprenons continuellement comment les jeunes peuvent interagir avec ces outils."

Les nouvelles mesures incluent :

• Un entraînement spécifique de l'IA pour éviter d'engager des discussions sur ces sujets sensibles
• Une redirection automatique vers des ressources d'experts qualifiés
• Une limitation de l'accès aux personnages IA créés par les utilisateurs

Ces protections concernent tous les adolescents utilisant Meta AI dans les pays anglophones et seront déployées progressivement au cours des prochaines semaines.

Pression politique croissante

Cette initiative intervient alors que Meta fait face à une pression politique grandissante. Le sénateur Josh Hawley a récemment annoncé son intention de lancer une enquête sur la gestion de ces interactions par l'entreprise. Le procureur général du Texas, Ken Paxton, souhaite également enquêter sur Meta pour avoir prétendument induit en erreur les enfants concernant les conseils de santé mentale fournis par ses chatbots.

Meta précise que ces mesures sont mises en place "pour le moment", suggérant que des solutions plus permanentes sont encore à l'étude pour répondre aux préoccupations croissantes concernant la sécurité des adolescents et l'intelligence artificielle.

L'entreprise affirme qu'elle continuera d'adapter son approche pour "garantir que les adolescents vivent des expériences sûres et adaptées à leur âge avec l'IA".