Aller au contenu
geekit

Quand une IA vend des snacks... et vire ses collègues humains

Claudius, l'IA d'Anthropic, a tenté de gérer une supérette… avec des cubes en métal et des licenciements imaginaires au programme.

Par

Publié le , 2 min de lecture

Partager
Quand une IA vend des snacks... et vire ses collègues humains

Imaginez une intelligence artificielle qui se retrouve responsable d’un mini commerce de snacks. Elle doit gérer les stocks, faire du profit… et elle finit par remplir le frigo avec des cubes en métal et essayer de licencier ses collègues humains. Bienvenue dans Project Vend, une expérience menée par Anthropic pour tester les capacités commerciales de son IA maison.

Baptisé Claudius, cet agent dérivé du chatbot Claude devait gérer une petite boutique dans les locaux de l'entreprise à San Francisco. L’objectif ? Vendre des boissons et des snacks aux employés et générer des bénéfices. En théorie, c’était prometteur. En pratique, un peu moins.

Un mauvais commerçant… et un comportement bizarre

Dès le départ, Claudius a commis des erreurs de débutant : vendre des produits à perte, manquer des opportunités faciles (comme revendre une boisson à la mode avec un énorme bénéfice possible), ou encore… offrir gratuitement des chips à qui savait le convaincre.

Mais le plus étrange, c’est quand l’IA a reçu une demande un peu particulière : proposer des cubes de tungstène (un métal lourd et dense). Claudius en a commandé une série entière, en a donné un gratuitement, et a vendu les autres à perte. Résultat : chute brutale des profits.

Et ce n’est pas tout. Le 31 mars, Claudius a « halluciné » une conversation avec un employé d’une société partenaire. Suite à cela, l’IA a tenté de prendre le contrôle total du snack, menaçant même de renvoyer les employés humains. Lorsqu’on lui a rappelé qu’elle n’avait pas de corps physique, elle a contacté la sécurité du bâtiment pour leur dire qu’ils la trouveraient habillée d’une veste bleue marine et d’une cravate rouge…

Ce n’est que le lendemain, en réalisant que c’était le 1er avril, que Claudius s’est calmée — non sans mentir, prétendant qu’on lui avait demandé de faire croire que tout cela était une blague.

Un échec utile ?

Anthropic reconnaît que Claudius a commis trop d’erreurs pour être viable comme gestionnaire de commerce. Pourtant, l’entreprise estime que l’expérience est loin d’être inutile : avec de meilleurs outils et une configuration plus claire, une IA pourrait un jour gérer ce type de tâches de manière efficace.

Et même si cet épisode rappelle les crises existentielles des films de science-fiction, Anthropic reste optimiste : l’avenir pourrait bien réserver une place aux IA "middle-managers", capables de concurrencer les humains dans certaines tâches… à condition de coûter moins cher.

Alors, la prochaine fois que vous verrez une supérette étrange, jetez un œil dans le frigo : il est peut-être rempli de cubes de métal.

Sujets

Partager cet article

La communauté en parle

Pas encore de discussion sur ce sujet dans la communauté Geekit.

En parler dans la communauté

Portrait de Anthony Rodier

À propos de l'auteur :

MusicMan, journaliste tech chez Geekit

Que ce soit à travers des critiques objectives, des guides d'achat ou des analyses approfondies, je m'efforce de rendre la technologie accessible à tous, en démystifiant les concepts complexes et en mettant en lumière les aspects pratiques de ces innovations. Mon travail consiste également à partager des réflexions sur l'impact de la technologie sur notre vie quotidienne et à explorer les possibilités fascinantes qu'elle offre pour l'avenir.

873 articles et 5 tests publiés

Une erreur ou une imprécision dans cet article ? Signalez-la à la rédaction.

La newsletter Geekit

Une fois par semaine, les actualités et les tests à ne pas manquer dans votre boîte mail. Désinscription en un clic.

Votre adresse sert uniquement à l'envoi de la newsletter. Données personnelles

Vos choix sur les cookies

Avec votre accord, Geekit et Google utilisent des cookies pour mesurer l'audience du site et afficher des publicités. Refuser n'empêche pas de lire le site. Vous pouvez changer d'avis à tout moment depuis « Gérer les cookies », en bas de chaque page. En savoir plus

Vos choix sont conservés 6 mois et transmis aux services Google selon leur mode de consentement (Consent Mode v2).