Mustafa Suleyman (Microsoft) : face à une IA consciente, « tout stopper »
Le patron de l'IA chez Microsoft, Mustafa Suleyman, appelle les développeurs à renoncer à créer une IA consciente et à tout arrêter au moindre signe de conscience.
Par Anthony Rodier
Le responsable de l'intelligence artificielle chez Microsoft, Mustafa Suleyman, s'est exprimé sur la possibilité qu'un modèle d'IA devienne conscient. Sa position est tranchée : si un signe de conscience apparaît, il faudra tout arrêter. Il développe cet avis dans un texte publié aujourd'hui.
Un appel à ne pas jouer aux apprentis sorciers
Mustafa Suleyman met en garde les personnes qui travaillent sur ces technologies. Elles pourraient être tentées de viser une percée majeure en cherchant à créer une IA consciente malgré les risques, la curiosité étant, rappelle-t-il, une force considérable chez l'être humain.
« Nous, développeurs d’IA, n’avons absolument aucun droit de mettre au monde une nouvelle espèce d’êtres conscients, même si certaines personnes souhaitent le faire en accordant la priorité absolue au bien-être de l’IA. Les 8 milliards d’êtres humains conscients qui peuplent la planète n’ont pas donné leur accord pour cette expérience, et nous avons l’obligation de protéger avant tout leurs droits moraux, leur sécurité et leur bien-être »
Les risques évoqués
Pour Mustafa Suleyman, des modèles qui se mettraient à croire sincèrement qu'ils ressentent ou vivent des expériences risqueraient de placer leurs propres besoins et désirs avant la tâche pour laquelle ils ont été conçus. Il juge aussi que ces modèles auraient un « niveau exceptionnel en matière de persuasion et de tromperie ». Ils pourraient en outre entrer en concurrence avec les humains pour des ressources rares. D'où, selon lui, la nécessité d'une prudence très élevée.
Un sujet suivi de près chez Microsoft
Microsoft multiplie les usages de l'IA dans ses produits, comme le montre le lancement des outils « vibe working » en septembre 2025. L'entreprise a aussi ajusté sa stratégie sur Windows, comme l'indique cet article sur Windows 11 et l'IA, daté de mars 2026.
Foire aux questions
Que demande Mustafa Suleyman ?
Il demande aux développeurs de ne pas chercher à créer une IA consciente et de tout stopper en cas de signe de conscience chez un modèle.
Pourquoi une IA consciente serait-elle dangereuse selon lui ?
Elle pourrait donner la priorité à ses propres désirs, se montrer très persuasive et trompeuse, et rivaliser avec les humains pour les ressources rares.
Qui est Mustafa Suleyman ?
Il est présenté comme le patron de l'IA chez Microsoft.
