OpenAI : La responsable du matériel robotique claque la porte suite à un accord avec l’armée américaine
Caitlin Kalinowski quitte OpenAI. En cause : un partenariat avec le Pentagone jugé précipité et des inquiétudes sur l'éthique de l'IA militaire.
Par Anthony Rodier
Le secteur de l’intelligence artificielle est en pleine ébullition, mais pas seulement pour des raisons logicielles. Caitlin Kalinowski, qui dirigeait la conception du matériel pour la division robotique d’OpenAI, vient d’annoncer sa démission. Ce départ intervient dans un contexte de tensions internes majeures après la signature d’un contrat entre l’entreprise de Sam Altman et le Département de la Défense des États-Unis.
Des lignes rouges éthiques au cœur du conflit
Caitlin Kalinowski, ancienne figure de chez Meta ayant rejoint OpenAI fin 2024, n'a pas mâché ses mots sur les réseaux sociaux. Selon elle, l’annonce de ce partenariat a été « précipitée » et manque de cadres de sécurité clairs. Elle pointe du doigt deux risques majeurs qui, d'après ses déclarations, n’ont pas été assez discutés en interne :
- La surveillance des citoyens sans contrôle judiciaire.
- Le développement d’armes autonomes capables de tuer sans intervention humaine.
Pour l'ancienne responsable, il s'agit avant tout d'un problème de gouvernance au sein d'OpenAI, estimant que l'entreprise a franchi des étapes cruciales sans définir de limites précises.
La réponse d'OpenAI
De son côté, OpenAI a confirmé ce départ et a précisé qu’aucun remplaçant n'était prévu pour le moment à ce poste. L'entreprise tente de rassurer en affirmant que l'accord avec le Pentagone respecte des conditions strictes :
- Aucune surveillance domestique (sur le sol américain).
- Aucune création d'armes létales autonomes.
L’entreprise dit comprendre que ces sujets suscitent des avis tranchés, mais maintient que sa collaboration avec la défense nationale reste responsable.
Un climat de tension chez les géants de l'IA
Ce départ est le signal le plus fort des remous provoqués par les ambitions militaires d’OpenAI. Il est d'autant plus marquant qu'il survient alors qu'un concurrent direct, Anthropic, a refusé d'assouplir ses propres règles de sécurité concernant la surveillance de masse et l'autonomie des armes.
Même si Sam Altman a promis d'ajuster les termes du contrat pour garantir la protection de la vie privée des Américains, la perte d'une experte comme Kalinowski souligne la difficulté pour les leaders de l'IA de concilier innovation technologique, contrats gouvernementaux lucratifs et éthique de développement.
