La lettre Intelligences — #04 : Chercheurs virtuels, finance opaque et cybermenaces

Bonjour,

Trois interventions replacent l’intelligence artificielle dans un horizon plus large que celui des nouveaux produits. L’une imagine une accélération radicale de la recherche, une autre décrit le risque d’un système financier que ses créateurs ne sauraient plus expliquer, et la troisième ramène l’urgence au présent : des cyberattaques moins coûteuses et plus nombreuses.

À la une — D’un monde de chercheurs à un monde de recherches parallèles

Lors de la conférence annuelle de la Fondation Per Jacobsson, organisée le 17 octobre dans le cadre des réunions du FMI, Jack Clark, cofondateur d’Anthropic, a proposé une image saisissante : l’IA pourrait faire passer l’humanité d’environ dix millions de scientifiques à l’équivalent d’un milliard, voire de dix milliards de chercheurs virtuels. Il s’agit d’une projection, pas d’un décompte ni d’un calendrier établi.

L’hypothèse change néanmoins l’échelle du débat. Une multiplication d’agents capables de formuler des hypothèses, d’écrire du code ou de parcourir la littérature ne produit pas automatiquement de la bonne science. Les goulets d’étranglement se déplacent vers la qualité des données, les laboratoires physiques, le calcul, l’énergie, la validation et la capacité humaine à choisir les problèmes qui méritent d’être résolus.

Pourquoi cela compte. La ressource rare pourrait ne plus être la production d’idées, mais leur vérification. Les institutions devront suivre la provenance des résultats, organiser la réplication et préserver la responsabilité humaine lorsqu’un système propose des expériences ou des décisions à fort impact.

Piste pratique. Pour les laboratoires et entreprises, la bonne unité de mesure n’est pas le nombre de réponses générées, mais le nombre de résultats reproductibles, documentés et audités.

Voir l’intervention complète de Jack Clark sur le site du FMI.

Singularité — Une déclaration forte, encore sans métrique commune

Dans la même intervention, Jack Clark estime que des signes convaincants de « singularité » seraient déjà visibles. Le terme désigne généralement un emballement du progrès technologique rendu possible par des systèmes capables d’améliorer la recherche et, potentiellement, leur propre conception. Il ne correspond toutefois à aucun indicateur universellement accepté.

La distinction est essentielle : Clark formule une interprétation de la trajectoire actuelle. Les faits observables sont l’amélioration rapide de certaines capacités et l’élargissement des tâches confiées aux modèles ; l’existence d’une singularité constitue, elle, une thèse discutée. Pour éclairer ce débat, notre première édition revenait déjà sur les usages scientifiques de Claude et les limites de leur généralisation.

Finance — Quand la complexité devient elle-même un risque

Dans un entretien publié le 22 août par The Economist, l’historien Yuval Noah Harari avance que l’IA pourrait prendre une place dominante dans la finance au cours de la prochaine décennie, notamment en créant des instruments dont aucun humain ne comprendrait complètement la logique. C’est une mise en garde prospective, et non l’annonce d’une crise datée.

Le risque ne vient pas seulement d’une mauvaise prévision. Des modèles similaires peuvent adopter les mêmes signaux, amplifier un mouvement de marché et relier des produits complexes par des dépendances difficiles à cartographier. Dans un épisode de stress, l’opacité ralentirait le diagnostic au moment même où les décisions doivent être rapides.

Pourquoi cela compte. L’explicabilité ne suffit pas si elle arrive après l’incident. Les institutions financières ont besoin de limites d’exposition, de scénarios de crise, de journaux de décision et d’une procédure permettant de reprendre la main sans ajouter une nouvelle instabilité.

Piste pratique. Toute décision automatisée engageant du capital devrait conserver le modèle utilisé, sa version, les données pertinentes, le niveau d’autonomie accordé et une règle d’arrêt testée à l’avance.

Cybersécurité — Bill Gates anticipe des « surprises négatives » dès l’année à venir

Interrogé le 11 octobre sur CNN, Bill Gates a placé les cyberattaques au premier rang des effets dangereux que le public pourrait constater dans les douze mois. Son raisonnement est économique : l’extorsion et la perturbation de marchés offrent déjà des modèles de rémunération aux attaquants, tandis que les systèmes dépourvus de garde-fous abaissent le coût d’exécution.

Sa formule — « beaucoup de surprises négatives », traduction d’Intelligences — relève d’une prévision personnelle. Elle s’appuie cependant sur une tendance mesurable : l’automatisation accélère la reconnaissance, la recherche de failles, l’écriture de scripts et la multiplication des essais. Notre édition précédente documentait justement une campagne où des agents ont réduit le coût d’une compromission à quelques dizaines de dollars.

Pourquoi cela compte. Gates ne décrit pas une IA autonome échappant à tout contrôle, mais des personnes malveillantes utilisant des modèles puissants sans protections. La priorité immédiate reste donc familière : corriger les systèmes exposés, limiter les privilèges et détecter vite les comportements anormaux.

Lire la transcription intégrale de l’entretien sur CNN.

Le chiffre

Un milliard à dix milliards. C’est l’ordre de grandeur évoqué par Jack Clark pour le nombre possible de chercheurs virtuels. Ce chiffre mesure une vision de capacité potentielle, pas des scientifiques déjà opérationnels : sa pertinence dépendra de la qualité des évaluations et de la possibilité de vérifier expérimentalement leurs propositions.

À voir — Yuval Noah Harari sur l’IA et le système financier

Dans cet entretien vidéo, Harari développe son scénario sur la finance, la confiance accordée aux machines et les choix politiques qui peuvent encore infléchir cette trajectoire.

« Yuval Noah Harari on the dangers of an AI future », entretien conduit par Zanny Minton Beddoes pour The Economist, publié le 22 août 2026. Le passage sur la finance commence à 2 min.

Pour approfondir dans notre réseau

• Pourquoi l’intelligence artificielle pourrait fragiliser la méthode scientifique elle-même
• Cybersécurité : comprendre et contrer les menaces numériques actuelles
• OpenAI, Anthropic, Amazon et Microsoft financent la reconversion des travailleurs américains

Recevez La lettre Intelligences

Pour ne manquer aucune édition, inscrivez-vous à la newsletter Intelligences. Vous recevrez directement nos prochaines veilles sur l’intelligence artificielle, la recherche, les usages et leurs conséquences.

La rédaction d’Intelligences

Merci de votre lecture. À très bientôt pour une nouvelle édition de La lettre Intelligences.