Meta confie à l’IA le contrôle des risques de ses produits
Meta va utiliser l’intelligence artificielle pour analyser les risques de ses produits, remplaçant en grande partie les évaluations humaines.
Par Anthony Rodier
Meta, la maison mère de Facebook, Instagram et WhatsApp, s’apprête à confier à l’intelligence artificielle une mission jusqu’ici réservée à des humains : évaluer les risques liés à ses nouveaux produits et mises à jour.
D’après un rapport de NPR, basé sur des documents internes, l’entreprise veut que 90 % des évaluations de risques soient désormais réalisées par des systèmes d’IA. Cela concernerait même des domaines sensibles comme la protection des mineurs ou la lutte contre les contenus violents et les fausses informations.
Jusqu’à présent, toute nouveauté sur les plateformes de Meta passait entre les mains d’équipes humaines chargées de vérifier les risques potentiels. Désormais, les équipes produit devront remplir un formulaire détaillant leur projet, que l’IA analysera pour fournir une décision quasi instantanée. Si des problèmes sont détectés, les équipes devront les corriger avant toute mise en ligne.
Mais cette automatisation suscite des inquiétudes. Plusieurs anciens employés de Meta interrogés par NPR craignent que l’IA passe à côté de signaux d’alerte qu’un œil humain aurait repérés. Un ex-cadre de l’entreprise estime que « réduire les contrôles humains, c’est prendre le risque de laisser passer des problèmes avant qu’ils n’explosent au grand jour ».
Meta nuance toutefois cette décision : selon l’entreprise, l’intelligence artificielle s’occupera surtout des cas simples, tandis que les situations complexes continueront d’être traitées par des experts humains.
Cette évolution intervient peu après la publication du dernier rapport trimestriel sur l’intégrité des plateformes. Depuis le changement de politique de modération et de vérification des contenus, les suppressions de publications ont diminué. Mais une légère hausse des cas de harcèlement, de violence et de contenus choquants a été observée.
En résumé, Meta veut aller plus vite et plus loin grâce à l’IA. Mais cette accélération pourrait aussi se faire au détriment de la vigilance.