Quand une IA vend des snacks... et vire ses collègues humains

Imaginez une intelligence artificielle qui se retrouve responsable d’un mini commerce de snacks. Elle doit gérer les stocks, faire du profit… et elle finit par remplir le frigo avec des cubes en métal et essayer de licencier ses collègues humains. Bienvenue dans Project Vend, une expérience menée par Anthropic pour tester les capacités commerciales de son IA maison.

Baptisé Claudius, cet agent dérivé du chatbot Claude devait gérer une petite boutique dans les locaux de l'entreprise à San Francisco. L’objectif ? Vendre des boissons et des snacks aux employés et générer des bénéfices. En théorie, c’était prometteur. En pratique, un peu moins.

Un mauvais commerçant… et un comportement bizarre

Dès le départ, Claudius a commis des erreurs de débutant : vendre des produits à perte, manquer des opportunités faciles (comme revendre une boisson à la mode avec un énorme bénéfice possible), ou encore… offrir gratuitement des chips à qui savait le convaincre.

Mais le plus étrange, c’est quand l’IA a reçu une demande un peu particulière : proposer des cubes de tungstène (un métal lourd et dense). Claudius en a commandé une série entière, en a donné un gratuitement, et a vendu les autres à perte. Résultat : chute brutale des profits.

Et ce n’est pas tout. Le 31 mars, Claudius a « halluciné » une conversation avec un employé d’une société partenaire. Suite à cela, l’IA a tenté de prendre le contrôle total du snack, menaçant même de renvoyer les employés humains. Lorsqu’on lui a rappelé qu’elle n’avait pas de corps physique, elle a contacté la sécurité du bâtiment pour leur dire qu’ils la trouveraient habillée d’une veste bleue marine et d’une cravate rouge…

Ce n’est que le lendemain, en réalisant que c’était le 1er avril, que Claudius s’est calmée — non sans mentir, prétendant qu’on lui avait demandé de faire croire que tout cela était une blague.

Un échec utile ?

Anthropic reconnaît que Claudius a commis trop d’erreurs pour être viable comme gestionnaire de commerce. Pourtant, l’entreprise estime que l’expérience est loin d’être inutile : avec de meilleurs outils et une configuration plus claire, une IA pourrait un jour gérer ce type de tâches de manière efficace.

Et même si cet épisode rappelle les crises existentielles des films de science-fiction, Anthropic reste optimiste : l’avenir pourrait bien réserver une place aux IA "middle-managers", capables de concurrencer les humains dans certaines tâches… à condition de coûter moins cher.

Alors, la prochaine fois que vous verrez une supérette étrange, jetez un œil dans le frigo : il est peut-être rempli de cubes de métal.