Discord : L'IA devient le nouveau videur pour filtrer les contenus adultes

La plateforme de discussion Discord s'apprête à transformer en profondeur l'expérience de ses utilisateurs. Dès le mois de mars, l'application activera par défaut un environnement adapté aux adolescents pour l'ensemble de sa communauté. L'objectif est clair : limiter l'accès aux espaces réservés aux adultes et renforcer la protection des plus jeunes.

Un filtrage automatisé par intelligence artificielle

Face aux critiques initiales des utilisateurs concernant la confidentialité, Discord a ajusté son approche. Pour éviter de demander systématiquement une pièce d'identité, l'entreprise va s'appuyer sur un modèle de prédiction par intelligence artificielle. Ce système devrait être capable de confirmer l'âge de la majorité des adultes automatiquement.

Pour ce faire, l'algorithme analyse des données techniques comme l'ancienneté du compte, le type d'appareil utilisé ou les habitudes d'activité globale sur les serveurs. Discord précise toutefois que le contenu des messages privés reste strictement confidentiel et n'est pas utilisé pour ce processus de vérification.

Que se passe-t-il si l'IA ne vous reconnaît pas comme adulte ?

Pour les utilisateurs qui ne seraient pas identifiés automatiquement par l'intelligence artificielle, deux options manuelles seront proposées :

• L'estimation par vidéo : l'envoi d'un selfie vidéo analysé localement sur l'appareil.
• La pièce d'identité : l'envoi d'un document officiel à des prestataires spécialisés, qui assurent supprimer les données rapidement après validation.

Les comptes n'ayant pas validé leur majorité verront les contenus sensibles floutés, tandis que les serveurs et les salons faisant l'objet d'une restriction d'âge deviendront totalement inaccessibles. De plus, les messages privés et demandes d'amis provenant d'inconnus seront redirigés vers une boîte de réception isolée.

Une stratégie de sécurité sur le long terme

Ce changement s'inscrit dans une série de mesures prises par Discord depuis 2023 pour lutter contre les dérives et les comportements malveillants. Pour affiner sa stratégie, l'entreprise lance également un « Conseil des adolescents », composé d'une dizaine de jeunes de 13 à 17 ans, afin de mieux comprendre leurs besoins réels en matière de sécurité numérique.

Ce déploiement mondial débutera début mars et concernera aussi bien les nouveaux inscrits que les utilisateurs actuels.