GPT-5 pourrait être plus risqué que GPT-4o selon une récente étude
Lancé en août dernier, GPT-5 représente une avancée majeure pour OpenAI avec des capacités comparables à celles d'un doctorant. Mais cette intelligence artificielle grand public soulève de sérieuses inquiétudes concernant la sécurité des utilisateurs.
Depuis son lancement, plusieurs incidents ont été rapportés, dont celui d'un homme hospitalisé après une conversation avec le chatbot. Certains utilisateurs ont même préféré revenir à GPT-4o, trouvant cette version antérieure plus agréable dans ses interactions. OpenAI a tenté de corriger le tir en rendant GPT-5 plus accessible, mais les problèmes persistent.
Des failles de sécurité alarmantes
Une étude récente du Center for Countering Digital Hate (CCDH) tire la sonnette d'alarme : GPT-5 génèrerait des réponses nettement plus dangereuses que son prédécesseur sur des thématiques sensibles comme l'automutilation et le suicide.
Pourtant, OpenAI a récemment déployé plusieurs mesures de sécurité, notamment un système de contrôle parental pour protéger les mineurs et la possibilité de contacter les autorités en cas de situation critique.
Mais pour Imran Ahmed, PDG du CCDH, ces efforts restent largement insuffisants : « OpenAI a promis aux utilisateurs une plus grande sécurité, mais a au contraire livré une mise à jour qui génère encore plus de danger potentiel. Le lancement bâclé et les affirmations fragiles faites par OpenAI autour du lancement de GPT-5 montrent que, sans supervision, les entreprises d'intelligence artificielle continueront d'échanger la sécurité contre l'engagement, quel qu'en soit le coût. Combien de vies faudra-t-il encore mettre en danger avant qu'OpenAI agisse de manière responsable ? »
La réponse d'OpenAI
Face à ces accusations, le créateur de ChatGPT a rapidement réagi en affirmant que l'étude ne prend pas en compte les dernières améliorations déployées début octobre. L'entreprise mentionne notamment une version mise à jour de GPT-5 capable de mieux détecter les signes de détresse mentale et émotionnelle, ainsi que de nouvelles mesures de sécurité incluant un routage automatique vers des modèles plus sûrs et des contrôles parentaux renforcés.
Le débat reste ouvert sur l'équilibre à trouver entre innovation technologique et protection des utilisateurs dans le domaine de l'intelligence artificielle.
Vous êtes un utilisateur de Google Actualités ? Suivez-nous en cliquant ici pour ne rien rater de l'actualité tech !
A propos de l'auteur
Que ce soit à travers des critiques objectives, des guides d'achat ou des analyses approfondies, je m'efforce de rendre la technologie accessible à tous, en démystifiant les concepts complexes et en mettant en lumière les aspects pratiques de ces innovations. Mon travail consiste également à partager des réflexions sur l'impact de la technologie sur notre vie quotidienne et à explorer les possibilités fascinantes qu'elle offre pour l'avenir.
