App Store : Apple durcit ses règles contre les applications « nudify »

Apple a mis à jour les règles de modération de l'App Store pour empêcher que des applications, y compris celles reposant sur l'intelligence artificielle, servent à « déshabiller » des personnes ou à transformer des photos ordinaires en images sexuellement explicites. Le changement a été relevé par MacRumors et publié sur le site développeurs d'Apple.

La pornographie était déjà interdite sur la boutique, tout comme les applications conçues spécifiquement pour générer ce type de contenu. La nouveauté tient à l'obligation faite aux éditeurs de surveiller activement l'usage de leurs applications.

Ce que les développeurs doivent désormais mettre en place

Les développeurs dont l'application héberge des contenus publiés par les utilisateurs doivent filtrer les images intimes non consenties, qu'elles aient été créées avec des outils d'IA ou non. Plusieurs mesures sont exigées :

• permettre aux utilisateurs de signaler un contenu offensant ;
• permettre de bloquer les comptes abusifs ;
• empêcher la mise en ligne de ce type d'images ;
• supprimer celles qui passeraient à travers les filtres.

Un développeur qui ne met pas en place des garde-fous suffisants, ou qui ne corrige pas une infraction après avoir été prévenu, s'expose à un retrait de l'application de la boutique.

Des sanctions pour les applications qui dissimulent leur fonction

Apple a aussi précisé sa position sur les applications qui déguisent leur véritable objet. Si l'entreprise constate pendant la validation qu'une application a présenté un faux objectif alors qu'elle propose en réalité des fonctions de « nudification », elle la retirera de l'App Store. Son créateur sera en outre exclu de l'Apple Developer Program.

Cette annonce s'inscrit dans une série d'ajustements de la boutique, dont nous avons parlé à propos de l'ouverture progressive de l'App Store dans le monde, ou encore des efforts de sécurité mis en avant par Apple en mai 2024.

Foire aux questions