Aller au contenu
geekit

L'IA pourrait-elle menacer l'humanité ? Avis internes chez Open AI

Des employés d'Open AI partagent leurs craintes sur l'IA générative, appelant à une régulation urgente pour éviter des risques majeurs.

Par

Publié le , 1 min de lecture

Partager
L'IA pourrait-elle menacer l'humanité ? Avis internes chez Open AI

Les employés d'Open AI tirent la sonnette d'alarme : l'intelligence artificielle pourrait, selon eux, menacer l'existence même de notre espèce. Mais plutôt que de chercher à bannir l'IA, ils plaident pour une régulation de ce secteur encore en pleine émergence.

Le ton de leur lettre est sérieux, voire alarmant. Elle fait écho à un appel similaire lancé en mars 2023 par des figures comme Elon Musk, mais avec une nuance notable : elle vient directement de ceux qui ont contribué à développer les technologies de pointe chez Open AI, incluant le fameux GPT-4o.

"Nous croyons au potentiel de la technologie de l'IA pour transformer notre monde de manière bénéfique", affirment-ils dès les premières lignes. Leur but n'est pas de dénigrer les avancées réalisées, mais de souligner l'importance de gérer prudemment les "risques sérieux" associés à ces technologies. Ces risques comprennent l'accroissement des inégalités, la manipulation et la désinformation, sans oublier le scénario catastrophe d'une IA autonome échappant à tout contrôle.

Pour contrer ces menaces, la lettre, signée anonymement par plusieurs membres actuels et passés de l'équipe d'Open AI, appelle à une collaboration étroite entre scientifiques, politiques, et citoyens. Elle pointe du doigt le manque actuel de partage d'informations par les entreprises d'IA avec les gouvernements et la société civile, et exprime un scepticisme quant à leur volonté de le faire de leur propre initiative.

Le document critique également l'inefficacité des mesures gouvernementales actuelles et souligne les obstacles rencontrés par les lanceurs d'alerte, liés souvent par des accords de confidentialité très stricts qui les empêchent de partager librement leurs inquiétudes.

Les demandes des employés sont claires : ils veulent que leur entreprise n'interdise pas les critiques internes, encourage un feedback anonyme et soutienne une politique de transparence. Ils réclament aussi une protection contre d'éventuelles représailles en cas de prise de parole publique sur ces enjeux.

En définitive, ce cri d'alerte d'Open AI révèle une tension croissante entre les promesses de l'IA et les périls qu'elle pourrait engendrer si elle n'est pas encadrée avec sagesse.

Source : Mac Daily News

Sujets

Partager cet article

La communauté en parle

Pas encore de discussion sur ce sujet dans la communauté Geekit.

En parler dans la communauté

Portrait de Anthony Rodier

À propos de l'auteur :

MusicMan, journaliste tech chez Geekit

Que ce soit à travers des critiques objectives, des guides d'achat ou des analyses approfondies, je m'efforce de rendre la technologie accessible à tous, en démystifiant les concepts complexes et en mettant en lumière les aspects pratiques de ces innovations. Mon travail consiste également à partager des réflexions sur l'impact de la technologie sur notre vie quotidienne et à explorer les possibilités fascinantes qu'elle offre pour l'avenir.

872 articles et 5 tests publiés

Une erreur ou une imprécision dans cet article ? Signalez-la à la rédaction.

La newsletter Geekit

Une fois par semaine, les actualités et les tests à ne pas manquer dans votre boîte mail. Désinscription en un clic.

Votre adresse sert uniquement à l'envoi de la newsletter. Données personnelles

Vos choix sur les cookies

Avec votre accord, Geekit et Google utilisent des cookies pour mesurer l'audience du site et afficher des publicités. Refuser n'empêche pas de lire le site. Vous pouvez changer d'avis à tout moment depuis « Gérer les cookies », en bas de chaque page. En savoir plus

Vos choix sont conservés 6 mois et transmis aux services Google selon leur mode de consentement (Consent Mode v2).