Le nouveau prix Nobel de physique critique sévèrement le patron d'OpenAI

L'intelligence artificielle (IA) fait beaucoup parler d'elle ces derniers temps, même dans le monde prestigieux des prix Nobel. Cette année, elle a été au cœur des récompenses, notamment en chimie et en physique. Geoffrey Hinton, l'un des lauréats du prix Nobel de physique, a été honoré pour ses recherches sur les réseaux de neurones artificiels, une technologie clé dans le domaine de l'IA. Cependant, malgré sa contribution majeure à ce domaine, Hinton se montre aujourd'hui très préoccupé par l'évolution récente de l'intelligence artificielle.

Lors d'une séance de questions-réponses à l'Université de Toronto le 8 octobre dernier, Hinton n'a pas mâché ses mots envers Sam Altman, le patron d'OpenAI, la société derrière le célèbre ChatGPT. Il a déclaré avec une pointe d'ironie : "Je voudrais remercier mes étudiants. J'ai eu la chance d'avoir de nombreux étudiants brillants, bien plus brillants que moi [...]. Ils ont fait des choses incroyables. Et je suis particulièrement fier qu'un de mes étudiants ait licencié Sam Altman."

L'étudiant en question est Ilya Sutskever, qui a brièvement réussi à écarter Altman de la direction d'OpenAI il y a environ un an. Cette tentative de changement de direction était motivée par des inquiétudes concernant les risques pris par OpenAI dans le développement d'intelligences artificielles sans protections suffisantes, apparemment dans le but de maximiser les profits.

Hinton a rappelé que la mission initiale d'OpenAI était de développer une intelligence artificielle générale tout en garantissant sa sécurité. Mais selon lui, les priorités ont changé : "Il s'est avéré que Sam Altman était beaucoup moins préoccupé par la sécurité que par les profits", a-t-il affirmé. Pour le lauréat du Nobel, cette orientation pourrait représenter un énorme gâchis, voire un danger immense pour l'humanité avec l'arrivée potentielle d'une intelligence artificielle générale.

Ces critiques de Hinton font écho à celles d'Elon Musk, qui accuse régulièrement Altman d'avoir trahi les ambitions originelles d'OpenAI au profit d'intérêts financiers. Cette controverse souligne les débats éthiques et sécuritaires qui entourent le développement rapide de l'intelligence artificielle, une technologie qui fascine autant qu'elle inquiète.