Anthropic et la régulation de l'IA : un projet de loi aux seuils très élevés

Anthropic, l'entreprise à l'origine de Claude, a présenté à des élus américains un projet de loi destiné à encadrer les IA de pointe, comme l'a révélé Politico. Le texte autoriserait la suspension d'un modèle si celui-ci présente un risque de causer plus de 50 morts ou blessés graves, ou plus d'un milliard de dollars de dommages.

Ces seuils, jugés très élevés par certains commentateurs, alimentent le débat sur la manière dont les autorités pourraient intervenir.

Trois scénarios et deux seuils

Le projet prévoit trois situations dans lesquelles une IA de pointe pourrait être bloquée : le développement d'une arme biologique, une cyberattaque, ou un modèle qui échapperait au contrôle de son concepteur.

Le gouvernement américain ne pourrait toutefois agir que si l'un des deux seuils risque d'être atteint : plus de 50 morts ou blessés graves, ou plus d'un milliard de dollars de dommages. Pour 01net, qui a relayé l'information, cela revient à fixer un prix à la vie humaine, et la question se pose de savoir pourquoi attendre de tels dégâts avant d'arrêter un modèle.

Des évaluateurs indépendants et un juge fédéral

La surveillance des modèles reviendrait à des évaluateurs indépendants, enregistrés auprès du département américain du Commerce. Les laboratoires pourraient les rémunérer, à condition que le paiement ne dépende pas des conclusions de leurs évaluations.

Si un risque imminent est identifié, les évaluateurs devraient le signaler au département du Commerce dans les 72 heures suivant la fin de leur évaluation. Seul un juge fédéral du district de Columbia pourrait ordonner la suspension d'un modèle, à la demande de ce département.

Une logique qui interroge

Le projet intervient alors qu'Anthropic appelle à ralentir le développement de l'IA et annonce la création d'un fonds destiné au bien public. L'écart entre ce discours et des seuils aussi élevés est difficile à comprendre à première vue.

Selon 01net, l'entreprise devrait de toute façon continuer à encadrer en interne le développement de ses IA, sans attendre un tel niveau de risque. Le texte viserait surtout à définir les conditions dans lesquelles le gouvernement pourrait bloquer un modèle, tout en limitant ses possibilités d'intervention.

Anthropic fait régulièrement parler de lui sur la sécurité de l'IA : un chercheur de l'entreprise a démissionné en septembre en alertant sur les dangers de l'IA, et l'entreprise s'était déjà opposée au Pentagone dans une procédure judiciaire en mars.

Foire aux questions