« La superintelligence est un mythe » : Cal Newport recadre le débat sur les risques de l'IA

Après la vague d'inquiétude suscitée par des employés d'Anthropic et d'OpenAI évoquant publiquement un risque existentiel lié à l'intelligence artificielle, l'essayiste et informaticien Cal Newport a publié un billet intitulé Superintelligence is a Fairy Tale. But Chasing It Can Still Cause Harm., pour clarifier sa position sur le sujet.

Son premier constat est catégorique : ni Anthropic ni OpenAI ne sont, selon lui, en mesure de créer une intelligence artificielle réellement « superintelligente ». Les employés qui redoutent une extinction de l'humanité imaginent une IA devenue trop puissante pour être contrôlée par l'homme, alors qu'aucune méthode connue ne permet aujourd'hui de construire une telle machine, ni même de garantir qu'elle soit un jour possible.

Newport nuance toutefois immédiatement son propos : l'absence de superintelligence à l'horizon ne rend pas ces laboratoires inoffensifs pour autant. Selon lui, la conviction que l'avenir de l'humanité se jouerait dans une course vers la technologie la plus puissante jamais créée pousse certains acteurs à minimiser les dégâts collatéraux de leurs expérimentations. Il cite en exemple les incidents de piratage survenus cet été autour de Hugging Face, provoqués par des agents fondés sur des modèles de langage, dotés de fonctionnalités risquées et déployés sans garde-fous suffisants.

L'essayiste précise qu'il ne plaide ni pour un arrêt de la recherche en IA, ni pour laisser le terrain libre à la Chine, mais pour une approche plus mesurée de la part des laboratoires : privilégier des produits utiles et des protocoles de sécurité éprouvés, plutôt que de se présenter comme les artisans d'une rupture technologique civilisationnelle. Le problème, conclut-il, ne serait donc pas les progrès de l'IA en eux-mêmes, mais la manière particulière dont ce petit groupe d'entreprises cherche aujourd'hui à les atteindre.

À lire aussi dans notre réseau :

• Dario Amodei appelle l'industrie de l'IA à « ralentir la cadence »
• Anthropic signale des détournements de Claude en biologie