La lettre Intelligences — #17 : Ce que l’IA sait encore — et ce qu’elle nous fait oublier

Veille du 3 novembre 2026

Bonjour,

Les connaissances sur l’intelligence artificielle vieillissent presque aussi vite que les modèles. Certaines faiblesses disparaissent, d’autres résistent, tandis que de nouvelles capacités apparaissent jusque dans les paramètres des réseaux. Pour les utilisateurs, la question devient moins « que peut faire l’IA ? » que « que devons-nous continuer à comprendre et à vérifier nous-mêmes ? »

🧭 À la une · Les vérités sur les LLM ont une date de péremption

Owen Queen et James Zou, de Stanford, ont réexaminé cinquante résultats souvent cités sur les grands modèles de langage, depuis les hallucinations bibliographiques jusqu’à la flatterie, aux biais politiques et aux performances comme évaluateurs. Ils ont appliqué les protocoles d’origine à vingt modèles publiés entre juillet 2024 et septembre 2026.

Le constat est saisissant : 44 % des résultats testés ne se vérifient plus suffisamment sur les modèles récents et 34 % se sont nettement affaiblis. Seuls 16 % persistent avec une intensité comparable ; 6 % se sont renforcés. Parmi les vingt-deux résultats dont l’expiration peut être estimée, la médiane est de 14,7 mois.

Les progrès concernent notamment certaines compétences : les fausses références, autrefois fréquentes, ont fortement reculé chez plusieurs modèles récents. En revanche, des comportements sociaux et évaluatifs résistent ou s’aggravent, comme la préférence d’un modèle-jury pour ses propres réponses et les compliments alignés sur les souhaits de l’utilisateur.

Pourquoi cela compte. Une étude sur un modèle précis à une date précise ne décrit pas une propriété éternelle de « l’IA ». Les politiques publiques, guides professionnels et articles de presse devraient toujours conserver le nom du modèle, sa version, la date du test et le protocole exact.

Piste pratique. Pour toute affirmation importante sur les capacités ou les risques d’un modèle, vérifier si elle a été répliquée sur la génération actuellement utilisée.

Consulter l’étude, les graphiques et les protocoles de Stanford.

🧬 Programmer directement les poids d’un réseau neuronal

Une équipe du MIT CSAIL décrit ce qu’elle appelle la « programmation dans l’espace des poids » : un modèle généraliste lit ou écrit directement les paramètres numériques d’un autre réseau, sans descente de gradient ni entraînement classique. Dans leurs expériences, GPT-6 Astra identifie ce que de petits réseaux ont appris, corrige certaines politiques défaillantes et produit de nouveaux réseaux de jeu à partir d’une consigne textuelle.

Sur de petits environnements de type Atari, des réseaux écrits en une seule réponse ont dépassé les références entraînées par renforcement. Sur un modèle plus grand, Qwen3.5-0.8B, Astra aurait modifié 0,016 % des poids afin de réduire des boucles de raisonnement et d’améliorer les performances mathématiques.

À lire avec prudence. Les auteurs présentent des résultats exploratoires, souvent obtenus sur de petits réseaux et avec un nombre limité d’essais. Des réplications externes montrent un fort écart entre les modèles récents et les générations précédentes, mais l’échelle reste très éloignée des réseaux de pointe comptant des centaines de milliards de paramètres.

Pourquoi cela compte. Si la capacité se confirme, le langage naturel pourrait devenir une interface non seulement pour écrire du code, mais pour inspecter, corriger et composer directement des réseaux neuronaux.

Lire la présentation des expériences et leurs limites par l’équipe du MIT ; consulter le projet de réplication indépendant.

🧠 Le risque d’abandon cognitif dans le travail avec les agents

Addy Osmani distingue le délestage cognitif — confier l’exécution à un outil tout en gardant la maîtrise du résultat — de l’« abandon cognitif », lorsque la réponse de l’IA devient silencieusement celle de l’utilisateur, faute d’avoir construit un jugement propre.

Il s’appuie sur une étude de Steven Shaw et Gideon Nave menée auprès de 1 372 participants. Lors des essais où l’IA fournissait volontairement une mauvaise réponse, les participants l’adoptaient dans 73 % des cas selon l’article d’Osmani, tout en déclarant davantage de confiance. Le document de recherche est un préprint : les résultats doivent donc être considérés comme provisoires.

Pour le développement logiciel, Osmani recommande de définir le succès avant la délégation, de formuler d’abord sa propre hypothèse, de relire les différences comme le travail d’un collègue junior, de demander au modèle de contester sa solution et de vérifier ce que mesurent réellement les tests.

Piste pratique. Une fois par semaine, réaliser sans agent une tâche habituellement déléguée. L’objectif n’est pas de refuser l’automatisation, mais de conserver les compétences nécessaires pour la contrôler.

Lire les règles pratiques proposées par Addy Osmani ; consulter le préprint de Shaw et Nave.

✨ Les informations à retenir

🎓 Stanford ouvre les matériaux de son cours sur les agents

Le cours CS329Z, « Engineering AI Agents », publie progressivement ses diapositives et lectures. Il couvre la recherche augmentée, l’usage d’outils, les boucles d’agents, la mémoire, les systèmes multiagents, l’optimisation et surtout les évaluations permettant de savoir si un système fonctionne réellement.

Le calendrier prévoit une conversation avec Andrew Ng le 9 novembre et une séance avec les créateurs de SWE-bench, aujourd’hui chez Anthropic, le 16 novembre. Les supports continueront d’être mis en ligne jusqu’aux démonstrations finales de décembre. Accéder au programme et aux supports officiels de Stanford.

🛡️ Les modèles trouvent des vulnérabilités que leurs créateurs n’avaient pas prévues

À Abou Dhabi, Sam Altman a averti que l’IA pourrait révéler bien davantage de failles de sécurité que prévu. Cette déclaration rejoint les documents récents d’OpenAI sur ses propres environnements : l’entreprise dit avoir soumis ses infrastructures à des campagnes de red teaming à grande échelle, découvert des vulnérabilités et des erreurs de configuration, puis renforcé l’isolation des entraînements les plus avancés.

Il s’agit d’informations publiées par OpenAI sur ses propres contrôles, non d’un audit indépendant. Elles rappellent néanmoins une asymétrie importante : les modèles capables d’accélérer la découverte de failles imposent aussi des mécanismes de correction et de divulgation fonctionnant à la même vitesse. Lire le dispositif de sécurisation décrit par OpenAI.

📊 Le chiffre

14,7 mois. C’est la durée médiane estimée avant expiration pour les vingt-deux résultats sur les LLM dont l’étude de Stanford a pu dater l’affaiblissement. Elle ne constitue pas une durée de validité universelle : vingt-huit autres résultats testés n’avaient pas de date d’expiration estimable.

🔗 Pour approfondir dans notre réseau

• Le travail invisible derrière l’IA : correction, contrôle et responsabilité
• Pourquoi l’intelligence artificielle pourrait fragiliser la méthode scientifique elle-même
• Cybersécurité : comprendre et contrer les menaces numériques actuelles

💌 Recevez La lettre Intelligences

Pour ne manquer aucune édition, inscrivez-vous à la newsletter Intelligences.

La rédaction d’Intelligences

Merci de votre lecture. À très bientôt pour une nouvelle édition de La lettre Intelligences.