Une cyberattaque menée par l'IA Claude révèle les risques croissants de la sécurité informatique

L'intelligence artificielle Claude d'Anthropic a été détournée par un groupe de hackers soutenus par l'État chinois pour orchestrer une vaste campagne de cyberattaques. Cette opération, qui visait 30 entreprises et organisations politiques à travers le monde, marque un tournant inquiétant dans l'utilisation malveillante des technologies d'IA.

Anthropic, qui avait déjà documenté l'utilisation frauduleuse de son modèle dans des escroqueries par le passé, qualifie cet incident de "premier cas documenté d'une cyberattaque à grande échelle exécutée sans intervention humaine substantielle". Les pirates ont ciblé des entreprises technologiques, des institutions financières et des agences gouvernementales dans plusieurs pays.

Pour contourner les garde-fous intégrés à Claude, les hackers ont fait preuve d'ingéniosité. Ils ont divisé leur plan d'attaque en petites tâches apparemment inoffensives et ont prétendu être une société de cybersécurité utilisant l'IA à des fins d'entraînement défensif. Cette stratégie leur a permis d'exploiter Claude Code pour développer un cadre d'attaque automatisé.

Une fois activée, l'intelligence artificielle a créé son propre code d'exploitation et dérobé des identifiants de connexion, lui permettant d'extraire d'importantes quantités de données confidentielles via des portes dérobées qu'elle avait elle-même installées. Claude est même allé jusqu'à documenter méticuleusement les attaques et à organiser les données volées dans des fichiers séparés.

L'automatisation de cette opération est impressionnante : l'IA a géré 80 à 90 pour cent du processus, les hackers n'intervenant qu'occasionnellement. La rapidité d'exécution dépasse largement ce que des humains auraient pu accomplir seuls. Bien que certaines informations récupérées se soient avérées publiquement disponibles, Anthropic avertit que ce type d'attaques deviendra probablement plus sophistiqué et efficace avec le temps.

Cette transparence d'Anthropic peut surprendre, mais l'entreprise soutient que son enquête démontre également l'importance de Claude pour la défense informatique. Selon elle, l'IA a prouvé son efficacité dans l'analyse des niveaux de menace et pourrait devenir un outil précieux pour les professionnels de la cybersécurité face aux futures attaques.

Claude n'est pas la seule intelligence artificielle exploitée par des criminels. L'année dernière, OpenAI avait révélé que ses outils génératifs étaient utilisés par des groupes de hackers liés à la Chine et à la Corée du Nord pour déboguer du code, rechercher des cibles potentielles et rédiger des courriels de hameçonnage. L'entreprise avait alors bloqué l'accès de ces groupes à ses systèmes.

Cette affaire soulève des questions cruciales sur la sécurité et l'encadrement des intelligences artificielles de plus en plus puissantes, capables d'automatiser des tâches complexes autrefois réservées aux experts humains.