Un chercheur britannique de 27 ans, Jacob Coxon, a annoncé sa démission d’Anthropic, l’un des principaux acteurs mondiaux de l’intelligence artificielle, en raison de ses inquiétudes concernant la course engagée par les grandes entreprises technologiques vers des systèmes d’IA capables, à terme, d’améliorer eux-mêmes leurs propres capacités.
Coxon, qui travaillait sur le pré-entraînement des modèles d’intelligence artificielle, avait auparavant travaillé chez OpenAI avant de rejoindre Anthropic. Il avait notamment choisi cette dernière entreprise en raison de sa réputation dans le domaine de la sécurité de l’IA. Il estime désormais que les deux entreprises sont prises dans une compétition qui pourrait rendre de plus en plus difficiles les arbitrages en faveur de la sécurité.
Dans des déclarations rapportées par le Wall Street Journal, le chercheur affirme que le secteur se dirige vers des scénarios parmi les plus préoccupants et estime que, d’ici la fin de l’année prochaine, certaines situations pourraient devenir incontrôlables. Il évoque notamment les risques liés au développement de systèmes capables d’améliorer progressivement leurs propres performances.
« Une course vers la superintelligence »
Selon Coxon, certains chercheurs utilisent désormais des expressions comme « crunchtime » et « endgame » pour décrire la trajectoire vers des modèles toujours plus autonomes et potentiellement capables de participer eux-mêmes à l’amélioration des systèmes d’IA.
Le chercheur considère qu’aucune entreprise ne serait aujourd’hui en mesure de développer seule et de manière responsable une intelligence artificielle dépassant les capacités humaines dans un large éventail de tâches. Il plaide ainsi pour une intervention des pouvoirs publics et pour une coordination internationale permettant de ralentir le développement si les risques deviennent trop importants.
Son départ intervient alors que les débats sur la sécurité de l’intelligence artificielle prennent une nouvelle ampleur au sein même des entreprises qui développent les modèles les plus avancés.
Des inquiétudes également chez Anthropic et OpenAI
Les avertissements de Coxon ne sont pas isolés. Evan Hubinger, chercheur senior chez Anthropic spécialisé dans la sécurité et l’alignement des systèmes d’IA, a lui aussi déclaré être préoccupé par le risque que l’intelligence artificielle puisse devenir extrêmement dangereuse. Il estime notamment qu’il n’existe pas encore de plan suffisamment solide pour garantir l’alignement d’une future superintelligence avec les intérêts humains.
Lire aussi : Dubaï : Comment un jeune tunisien a gagné 3 millions de dinars grâce à un film IA
Du côté d’OpenAI, le débat sur les risques liés à l’évolution rapide des modèles se poursuit également. Plusieurs responsables et chercheurs du secteur ont appelé à davantage de prudence et à la mise en place de mécanismes permettant aux pouvoirs publics d’intervenir si le rythme de développement des systèmes d’IA devient trop rapide.
Plus de 1 000 acteurs du secteur demandent des mécanismes de ralentissement
Cette inquiétude dépasse désormais les seuls chercheurs ayant quitté les grandes entreprises technologiques. Fin juillet, plus d’un millier de salariés et de professionnels du secteur de l’intelligence artificielle ont signé une déclaration appelant les gouvernements à mettre en place un mécanisme permettant de ralentir le développement des systèmes d’IA les plus avancés lorsque cela serait nécessaire.
La question posée est donc de plus en plus clairement politique : jusqu’où faut-il laisser avancer la course à la puissance des modèles d’intelligence artificielle et à quel moment les gouvernements doivent-ils disposer d’un « frein » capable d’intervenir ?
Les déclarations de Jacob Coxon ne constituent pas une preuve que l’IA deviendra incontrôlable. Elles témoignent toutefois d’une inquiétude croissante au sein même des équipes qui développent ces technologies. Le débat ne porte désormais plus uniquement sur les performances des futurs modèles, mais sur la capacité des sociétés et des États à conserver un contrôle effectif sur des systèmes de plus en plus autonomes.
