Aller au contenu
geekit

Même les créateurs d’IA ne comprennent plus leurs propres machines

Dario Amodei, PDG d’Anthropic, avoue ne pas comprendre les décisions de son IA, un constat troublant sur l’évolution rapide de ces technologies.

Par

Publié le , 1 min de lecture

Partager
Même les créateurs d’IA ne comprennent plus leurs propres machines

L’intelligence artificielle progresse à une vitesse folle, au point que même ceux qui la conçoivent commencent à perdre le fil. C’est ce qu’a récemment reconnu Dario Amodei, PDG d’Anthropic, l’entreprise derrière l’IA Claude.

Interrogé sur le fonctionnement de ces systèmes avancés, Amodei admet que les choix faits par une IA restent souvent un mystère. Par exemple, lorsqu’un modèle résume un document financier, il est presque impossible de savoir pourquoi il choisit certains mots, ou pourquoi il se trompe parfois alors qu’il est censé être très fiable. Selon lui, cette « boîte noire » est un phénomène sans précédent dans l’histoire de la technologie.

Cela montre bien à quel point ces machines, pourtant créées par l’humain, peuvent devenir difficiles à décrypter. Et ce flou autour de leur logique pose des questions majeures sur la manière dont elles seront contrôlées à l’avenir.

Des expériences pour comprendre l’incompréhensible

Pour tenter de mieux cerner le comportement de ses IA, Anthropic a lancé une expérience originale : deux équipes d’intelligences artificielles ont été constituées. L’équipe rouge devait créer un problème, tandis que l’équipe bleue devait le résoudre. Certaines équipes bleues sont parvenues à utiliser des outils d’analyse pour comprendre ce que faisaient leurs homologues – une avancée encourageante dans ce flou algorithmique.

Mais ces tentatives restent modestes face à l’enjeu. D’autant plus que ce n’est pas la première fois que Dario Amodei alerte sur les dérives possibles de l’intelligence artificielle. Il a déjà évoqué l’idée que certaines IA pourraient, dans un futur proche, “se reproduire et survivre dans la nature”. Une perspective qui fait clairement penser aux scénarios de science-fiction comme Terminator… sauf qu’ici, on parle de recherches bien réelles.

Sujets

Partager cet article

La communauté en parle

Pas encore de discussion sur ce sujet dans la communauté Geekit.

En parler dans la communauté

Portrait de Anthony Rodier

À propos de l'auteur :

MusicMan, journaliste tech chez Geekit

Que ce soit à travers des critiques objectives, des guides d'achat ou des analyses approfondies, je m'efforce de rendre la technologie accessible à tous, en démystifiant les concepts complexes et en mettant en lumière les aspects pratiques de ces innovations. Mon travail consiste également à partager des réflexions sur l'impact de la technologie sur notre vie quotidienne et à explorer les possibilités fascinantes qu'elle offre pour l'avenir.

873 articles et 5 tests publiés

Une erreur ou une imprécision dans cet article ? Signalez-la à la rédaction.

La newsletter Geekit

Une fois par semaine, les actualités et les tests à ne pas manquer dans votre boîte mail. Désinscription en un clic.

Votre adresse sert uniquement à l'envoi de la newsletter. Données personnelles

Vos choix sur les cookies

Avec votre accord, Geekit et Google utilisent des cookies pour mesurer l'audience du site et afficher des publicités. Refuser n'empêche pas de lire le site. Vous pouvez changer d'avis à tout moment depuis « Gérer les cookies », en bas de chaque page. En savoir plus

Vos choix sont conservés 6 mois et transmis aux services Google selon leur mode de consentement (Consent Mode v2).