Sécurité et IA : Sam Altman présente ses excuses à la communauté de Tumbler Ridge

Le patron d'OpenAI, Sam Altman, vient de rompre le silence. Deux mois après la fusillade meurtrière qui a endeuillé la ville de Tumbler Ridge, en Colombie-Britannique, le dirigeant a publié une lettre d'excuses officielle. Le point central de son intervention : l'entreprise n'a pas prévenu la police malgré des signaux d'alerte détectés sur le compte ChatGPT du suspect.

Un bannissement qui n'a pas suffi

Avant le drame, OpenAI avait identifié des échanges problématiques sur le compte de Jesse Van Rootselaar, l'auteur présumé des faits. Les systèmes de modération avaient relevé des violations majeures des règles d'utilisation concernant les menaces de violence physique. En conséquence, le compte avait été banni en juin dernier. Cependant, l'information n'avait pas été transmise aux forces de l'ordre.

Dans sa lettre adressée aux habitants, Sam Altman reconnaît cette faille :

« Je regrette profondément que nous n'ayons pas alerté la police au sujet de ce compte banni en juin. Même si je sais que les mots ne suffiront jamais, je pense qu'une excuse est nécessaire pour reconnaître la douleur et les pertes irréversibles subies par votre communauté. »

Une réponse jugée encore insuffisante

Cette démarche fait suite à des discussions entre le dirigeant d'OpenAI, le maire de Tumbler Ridge et David Eby, le premier ministre de la Colombie-Britannique. Si ce dernier a admis que des excuses publiques étaient indispensables, il a également souligné sur les réseaux sociaux que ce geste restait « largement insuffisant » face au traumatisme des familles touchées.

Vers un changement des règles de sécurité

OpenAI cherche désormais à rectifier le tir pour éviter qu'une telle situation ne se reproduise. Sam Altman s'est engagé à collaborer plus étroitement avec les autorités gouvernementales. Cette prise de position renforce les récentes déclarations de la direction de l'entreprise, qui promet désormais de signaler systématiquement aux forces de l'ordre toute menace jugée crédible et imminente détectée au sein des conversations avec l'intelligence artificielle.

Cette affaire relance le débat sur la responsabilité des entreprises technologiques et leur capacité à anticiper des passages à l'acte violents grâce aux données dont elles disposent.