Dario Amodei appelle l'industrie de l'IA à « ralentir la cadence »

Le patron d'Anthropic, Dario Amodei, a publié le 12 septembre un essai intitulé We Must Pace the Frontier, dans lequel il appelle les laboratoires d'intelligence artificielle à ralentir volontairement la progression des capacités de leurs modèles pour laisser le temps aux travaux de sécurité de suivre le rythme.

Amodei y reprend le principe de la lettre « Pacing the Frontier », signée en juillet par plus d'un millier d'employés de grands laboratoires, dont OpenAI, Anthropic, Google DeepMind et Meta. Il propose un plan en trois volets : la mise en place d'évaluateurs indépendants disposant d'un accès permanent, comparable à celui d'un salarié, pour vérifier le respect des mesures de sécurité ; une coordination démocratique entre pays alliés autour de normes communes ; et, à plus long terme, un accord élargi incluant la Chine, qu'il juge lui-même peu probable.

Anthropic s'engage unilatéralement sur le premier point, en ouvrant ses systèmes à des évaluateurs tiers permanents. La proposition a reçu un accueil favorable inhabituel de la part de concurrents directs : le patron d'OpenAI, Sam Altman, a indiqué partager cette analyse et annoncé une démarche similaire, tandis qu'Elon Musk et Demis Hassabis (Google DeepMind) ont salué l'initiative dans son ensemble.

Selon Amodei, ralentir la course aux capacités ne signifie pas interrompre la recherche, mais dégager le temps nécessaire pour consolider l'alignement des modèles, sans faire perdre à l'industrie américaine son avance internationale. Le débat reste toutefois ouvert sur ce que « ralentir » signifiera concrètement, plusieurs observateurs soulignant que la mise en œuvre du plan dépendra largement de la bonne volonté des laboratoires eux-mêmes.

À lire aussi dans notre réseau :

• Pourquoi l'intelligence artificielle ne détruit (toujours) pas l'emploi
• Anthropic signale des détournements de Claude en biologie