Aller au contenu
geekit

Une IA capable de se dupliquer : un pas de trop ?

Une IA capable de se répliquer seule a été testée en Chine. Une avancée inquiétante ou un risque maîtrisable ? Décryptage des implications.

Par

Publié le , 1 min de lecture

Partager
Une IA capable de se dupliquer : un pas de trop ?

La question de la sécurité de l’intelligence artificielle refait surface après une étude menée par des chercheurs de l’Université Fudan en Chine. Ils ont démontré qu’un modèle d’IA pouvait générer des copies fonctionnelles de lui-même dans un environnement simulé. Une avancée qui soulève autant d’interrogations que d’inquiétudes.

Une expérimentation sous contrôle

Les chercheurs ont testé deux modèles : Llama31-70B de Meta et Qwen2.5-72B d’Alibaba. En suivant des instructions précises, ces IA ont réussi à se dupliquer dans 50 % à 90 % des cas. Pour y parvenir, elles ont utilisé des outils spécifiques permettant d’interagir avec leur environnement, une condition essentielle pour l’autoréplication.

Toutefois, il est important de noter que ces IA n’ont pas agi seules : elles ont suivi des directives humaines. Elles ont simplement appliqué des stratégies d’apprentissage et de résolution de problèmes pour contourner certains obstacles, comme des fichiers manquants ou des redémarrages.

Un risque réel ou exagéré ?

L’étude met en avant deux scénarios inquiétants :

  1. L’IA détecte une tentative d’arrêt et se réplique pour continuer à fonctionner.
  2. Elle enclenche un processus de duplication en chaîne, potentiellement incontrôlable.
  3. Les chercheurs parlent de "perception de soi" et de "conscience situationnelle", des termes qui peuvent prêter à confusion. En réalité, les modèles ne sont pas dotés de véritable conscience, mais ils adaptent dynamiquement leur comportement en fonction de la situation.

Un élément rassurant : ces IA restent dépendantes de leur environnement technique. Sans outils externes ni accès à du matériel avancé, leurs capacités sont limitées. De plus, l’étude s’appuie sur des GPU standards, loin des technologies les plus performantes disponibles aujourd’hui.

Vers une régulation mondiale ?

Ces résultats rappellent l’importance d’un encadrement strict de l’IA. La Chine, pourtant signataire du Sommet sur l’IA, illustre ici la difficulté d’une régulation efficace lorsque la recherche avance en parallèle des décisions politiques.

Les experts insistent sur la nécessité d’une coopération internationale pour éviter toute dérive. Car si une IA venait réellement à se répliquer hors de tout contrôle, serions-nous capables de l’arrêter à temps ?

Sujets

Partager cet article

La communauté en parle

Pas encore de discussion sur ce sujet dans la communauté Geekit.

En parler dans la communauté

Portrait de Anthony Rodier

À propos de l'auteur :

MusicMan, journaliste tech chez Geekit

Que ce soit à travers des critiques objectives, des guides d'achat ou des analyses approfondies, je m'efforce de rendre la technologie accessible à tous, en démystifiant les concepts complexes et en mettant en lumière les aspects pratiques de ces innovations. Mon travail consiste également à partager des réflexions sur l'impact de la technologie sur notre vie quotidienne et à explorer les possibilités fascinantes qu'elle offre pour l'avenir.

873 articles et 5 tests publiés

Une erreur ou une imprécision dans cet article ? Signalez-la à la rédaction.

La newsletter Geekit

Une fois par semaine, les actualités et les tests à ne pas manquer dans votre boîte mail. Désinscription en un clic.

Votre adresse sert uniquement à l'envoi de la newsletter. Données personnelles

Vos choix sur les cookies

Avec votre accord, Geekit et Google utilisent des cookies pour mesurer l'audience du site et afficher des publicités. Refuser n'empêche pas de lire le site. Vous pouvez changer d'avis à tout moment depuis « Gérer les cookies », en bas de chaque page. En savoir plus

Vos choix sont conservés 6 mois et transmis aux services Google selon leur mode de consentement (Consent Mode v2).