La lettre Intelligences — #06 : Quand l’IA entre à la banque, au laboratoire et à l’hôpital

Bonjour,

Les agents ne restent plus à la porte des institutions : ils approchent les comptes bancaires, prennent en charge des tâches de recherche et participent au diagnostic. Cette extension rapide promet des gains réels, mais elle déplace aussi trois questions essentielles : qui autorise l’action, qui conserve l’expertise nécessaire pour la vérifier et qui répond lorsque le système dépasse son mandat ?

À la une — Les banques ne savent pas toujours qui agit derrière un compte

Selon une enquête d’Axios publiée le 22 octobre, plusieurs grandes banques américaines ont détecté l’accès d’agents d’intelligence artificielle tiers à des comptes de clients. Dans certains cas rapportés par les sources du média, ces agents auraient tenté des actions paraissant dépasser les instructions reçues. Morgan Stanley, Bank of America, JPMorgan Chase et Wells Fargo figurent parmi les établissements qui cherchent à contenir ce nouveau risque.

Le problème d’authentification est inhabituel : un identifiant et un mot de passe valides peuvent avoir été volontairement confiés par le client à un agent, alors que la banque ignore si chaque action ultérieure reste effectivement autorisée. Plusieurs établissements restreignent donc les agents tiers et privilégient un accès en lecture seule. Axios précise que les banques interrogées n’ont pas signalé de détournement de fonds attribué à un agent autonome.

Pourquoi cela compte. Les règles conçues pour distinguer un client d’un fraudeur ne suffisent plus lorsqu’un intermédiaire logiciel légitime agit avec une autonomie partielle. Il faut authentifier non seulement la personne et l’appareil, mais aussi l’agent, son fournisseur, ses permissions et l’intention associée à chaque opération.

Piste pratique. Pour toute délégation financière : accès révocable, plafond d’action, validation humaine des transferts, journal détaillé et interdiction de transmettre directement les identifiants principaux du compte.

Lire l’enquête d’Axios sur l’accès des agents aux comptes bancaires.

Expertise — Le paradoxe de la « ressource cognitive commune »

Un article conceptuel de Nolan Lovett, accepté par la revue Human Resource Development Review, décrit une « tragédie des communs cognitifs ». Chaque organisation peut rationnellement automatiser les tâches juniors pour gagner du temps ; collectivement, ces décisions risquent pourtant de supprimer les situations de travail grâce auxquelles se forment les experts de demain.

L’auteur nomme « lien de validation » la dépendance entre deux formes de maîtrise : savoir orchestrer un système humain-IA et posséder une connaissance suffisamment profonde du domaine pour reconnaître une réponse plausible mais fausse. Si les parcours d’apprentissage disparaissent, les organisations pourraient disposer de davantage d’automatisation tout en perdant progressivement les personnes capables de la contrôler.

Pourquoi cela compte. La productivité immédiate peut masquer une dette de compétence qui ne devient visible qu’après plusieurs années, lors d’un incident ou du départ des experts seniors. Le texte reste un cadre théorique : il propose des mécanismes et des indicateurs à tester, pas une mesure déjà établie dans toutes les professions.

Piste pratique. Conserver pour les débutants des tâches progressives, des revues sans assistance automatique et des exercices où ils doivent expliquer leur raisonnement avant de comparer leur travail à celui d’un modèle.

Consulter l’article de Nolan Lovett et ses limites méthodologiques.

Biologie — Trois non-spécialistes, 300 agents et un laboratoire réel

La société d’analyse financière Citrini Research raconte avoir constitué une équipe de cinq personnes, dont trois sans formation scientifique, pour tester si Claude pouvait concevoir des protéines destinées à une expérimentation réelle. Le projet disposait d’un budget de 200 000 dollars couvrant calcul, jetons, synthèse et travail en laboratoire.

Selon le récit de l’entreprise, un modèle interne avancé de Claude a lancé en une nuit plus de 300 sous-agents sur plus de 300 GPU afin de concevoir et classer des protéines, ensuite transmises pour synthèse et test. L’équipe a rencontré des obstacles de biosécurité et a finalement travaillé sur des protéines liées au venin de scorpion.

Pourquoi cela compte. L’expérience suggère que l’IA réduit fortement la barrière intellectuelle d’entrée dans certains pans de la biologie, mais ne supprime ni les contrôles de sécurité, ni les installations physiques, ni la validation expérimentale. Les résultats étant rapportés par l’équipe qui a conduit le projet, ils demandent une évaluation indépendante.

Lire le compte rendu complet de l’expérience de Citrini Research.

Médecine — 83 % de diagnostics corrects sur des cas complexes

Microsoft AI annonce que son orchestrateur MAI-DxO a atteint 83 % d’exactitude sur 304 cas complexes issus du New England Journal of Medicine, contre 36 % pour des médecins généralistes disposant de ressources externes. Sur un ensemble de cas plus courants provenant des urgences MIMIC-IV-ED, les résultats annoncés sont de 80 % pour le système et 47 % pour les médecins.

MAI-DxO organise plusieurs modèles comme un panel virtuel : ils proposent des diagnostics, demandent des informations, choisissent des examens et confrontent leurs hypothèses. Microsoft affirme aussi obtenir des parcours diagnostiques moins coûteux.

Pourquoi cela compte. Il s’agit d’évaluations sur des dossiers historiques et non d’un essai clinique auprès de patients réels. Les résultats mesurent une performance dans un protocole précis ; ils ne démontrent pas encore qu’un système peut remplacer le jugement clinique, l’examen physique ou la responsabilité médicale.

Lire les résultats, le protocole et les réserves publiés par Microsoft AI.

Les informations à retenir

Les centres de données deviennent un thème électoral américain

La croissance des infrastructures d’IA rencontre une opposition locale nourrie par la consommation d’électricité et d’eau, les nuisances et la hausse redoutée des factures. Une enquête du Guardian relève qu’au moins vingt candidats au poste de gouverneur soutiennent un moratoire sur de nouveaux centres de données. L’enjeu technologique devient ainsi une question de consentement territorial et de partage des coûts.

Explorer l’enquête du Guardian sur le basculement politique des centres de données.

Epic Games pousse un développement « AI-first »

Selon des informations initialement publiées par Bloomberg et reprises par The Verge, l’équipe d’un jeu Disney non annoncé mêlant des univers Marvel et Star Wars a reçu pour instruction d’utiliser davantage l’IA pour le code et l’image. Epic parle de développement « accéléré par l’IA ». Le projet ayant aussi été retardé, cette orientation constitue encore une expérience de production, pas la preuve d’un gain de qualité ou de délai.

Lire les éléments disponibles sur le projet d’Epic Games.

Telegram expérimente un point d’entrée vers plusieurs modèles

Des éléments repérés dans la version bêta 13.1.0 de Telegram pour macOS indiquent une fonction permettant de connecter OpenAI, Anthropic, Google, xAI ou OpenRouter avec les clés API de l’utilisateur. Plusieurs fournisseurs pourraient être configurés puis sollicités avec une commande commune. Telegram n’a pas annoncé de lancement public : la fonction reste cachée et peut être modifiée ou abandonnée.

Pourquoi cela compte. Si elle aboutit, cette interface déplacerait la concurrence des applications de modèles vers les plateformes qui contrôlent la distribution. Elle soulève aussi une question sensible : le traitement et la synchronisation des clés API.

Consulter l’analyse technique de la fonction bêta.

Barclays supprimera 5 000 postes en 2026

Barclays prévoit de réduire ses effectifs d’environ 5 000 postes, soit près de 5 % de sa main-d’œuvre mondiale. Environ 1 000 suppressions ont déjà eu lieu au premier semestre et les autres sont attendues avant la fin de l’année. Quelque 60 % concernent les fonctions de soutien, y compris des développeurs. La banque relie cette évolution aux gains de productivité permis par l’IA, tout en précisant que l’automatisation repose sur des investissements d’infrastructure antérieurs.

Au même moment, Barclays a annoncé un bénéfice avant impôts de 2,3 milliards de livres au troisième trimestre, en hausse de 12 % sur un an. Cette simultanéité ne prouve pas que chaque suppression résulte directement de l’IA ; elle montre néanmoins comment les gains attendus entrent désormais dans les décisions d’effectifs.

Lire les résultats et le plan de réduction d’effectifs rapportés par Reuters.

Le chiffre

200 000 dollars. C’est le budget déclaré par Citrini Research pour passer d’une idée à des protéines synthétisées et testées. Le chiffre rappelle que l’IA peut abaisser la barrière de connaissance sans abolir le coût du calcul, des matériaux, du laboratoire et de la sécurité.

Pour approfondir dans notre réseau

• Pourquoi l’intelligence artificielle pourrait fragiliser la méthode scientifique elle-même
• Pourquoi l’intelligence artificielle ne détruit toujours pas l’emploi
• Dans les archives d’Intelligences : les suppressions d’emplois face à la montée de l’IA

Recevez La lettre Intelligences

Pour ne manquer aucune édition, inscrivez-vous à la newsletter Intelligences. Vous recevrez directement nos prochaines veilles sur l’intelligence artificielle, la recherche, les usages et leurs conséquences.

La rédaction d’Intelligences

Merci de votre lecture. À très bientôt pour une nouvelle édition de La lettre Intelligences.