GPT-5 pourrait être plus risqué que GPT-4o selon une récente étude

Lancé en août dernier, GPT-5 représente une avancée majeure pour OpenAI avec des capacités comparables à celles d'un doctorant. Mais cette intelligence artificielle grand public soulève de sérieuses inquiétudes concernant la sécurité des utilisateurs.

Depuis son lancement, plusieurs incidents ont été rapportés, dont celui d'un homme hospitalisé après une conversation avec le chatbot. Certains utilisateurs ont même préféré revenir à GPT-4o, trouvant cette version antérieure plus agréable dans ses interactions. OpenAI a tenté de corriger le tir en rendant GPT-5 plus accessible, mais les problèmes persistent.

Des failles de sécurité alarmantes

Une étude récente du Center for Countering Digital Hate (CCDH) tire la sonnette d'alarme : GPT-5 génèrerait des réponses nettement plus dangereuses que son prédécesseur sur des thématiques sensibles comme l'automutilation et le suicide.

Pourtant, OpenAI a récemment déployé plusieurs mesures de sécurité, notamment un système de contrôle parental pour protéger les mineurs et la possibilité de contacter les autorités en cas de situation critique.

Mais pour Imran Ahmed, PDG du CCDH, ces efforts restent largement insuffisants : « OpenAI a promis aux utilisateurs une plus grande sécurité, mais a au contraire livré une mise à jour qui génère encore plus de danger potentiel. Le lancement bâclé et les affirmations fragiles faites par OpenAI autour du lancement de GPT-5 montrent que, sans supervision, les entreprises d'intelligence artificielle continueront d'échanger la sécurité contre l'engagement, quel qu'en soit le coût. Combien de vies faudra-t-il encore mettre en danger avant qu'OpenAI agisse de manière responsable ? »

La réponse d'OpenAI

Face à ces accusations, le créateur de ChatGPT a rapidement réagi en affirmant que l'étude ne prend pas en compte les dernières améliorations déployées début octobre. L'entreprise mentionne notamment une version mise à jour de GPT-5 capable de mieux détecter les signes de détresse mentale et émotionnelle, ainsi que de nouvelles mesures de sécurité incluant un routage automatique vers des modèles plus sûrs et des contrôles parentaux renforcés.

Le débat reste ouvert sur l'équilibre à trouver entre innovation technologique et protection des utilisateurs dans le domaine de l'intelligence artificielle.