La lettre Intelligences — #23 : Pouvoir, contrôle et conscience

Veille du 9 novembre 2026.

Bonjour,

La journée met en lumière une même question à trois niveaux : qui contrôle les infrastructures, les modèles et les récits qui entourent l’intelligence artificielle ? Une enquête de gouvernance touche Nvidia, une ville américaine interdit une superintelligence encore inexistante, tandis que les dirigeants du secteur débattent de l’auto-amélioration, de la conscience et de la régulation.

🧭 À la une · Nvidia place une affaire sensible sous enquête indépendante

Le conseil d’administration de Nvidia a annoncé le 8 novembre la création d’un comité de directeurs indépendants, assisté par un cabinet juridique extérieur. Il doit examiner les informations selon lesquelles Jensen Huang aurait été la cible d’une opération de renseignement étrangère. Le conseil indique ne disposer, à ce stade, d’aucun motif de croire que des secrets de l’entreprise ou la sécurité nationale ont été compromis.

Dans un message interne obtenu par Axios, le dirigeant a reconnu une relation extraconjugale et présenté ses excuses à sa famille, aux salariés et aux actionnaires. La question d’une éventuelle opération d’influence demeure une hypothèse faisant l’objet de l’enquête, pas un fait établi. Nvidia maintient sa confiance dans son directeur général et précise qu’il continuera à diriger l’entreprise.

Pourquoi cela compte. Nvidia occupe une position centrale dans l’infrastructure mondiale de l’IA et dans les débats américains sur l’exportation de puces avancées. L’indépendance du comité, son accès aux documents et la publication de conclusions suffisamment précises seront les véritables tests de gouvernance.

Lire la déclaration du conseil d’administration de Nvidia et le compte rendu d’Axios.

🏛️ Bloomington interdit une superintelligence qui n’existe pas encore

Le conseil municipal de Bloomington, dans l’Indiana, a adopté à l’unanimité l’ordonnance 2026-29 le 4 novembre. Le texte interdit localement la distribution et le déploiement d’une « superintelligence » définie comme un système surpassant largement les humains dans presque tous les domaines cognitifs et capable d’agir sans supervision continue.

L’ordonnance prévoit des sanctions civiles, des injonctions et un possible renvoi au procureur du comté. Elle doit cesser de s’appliquer 91 jours après l’entrée en vigueur d’un cadre de sécurité équivalent adopté par l’État de l’Indiana. Des amendements ont réduit la portée du premier projet, qui aurait pu viser plus directement l’usage domestique et imposait un seuil électoral exceptionnel pour lever l’interdiction.

Pourquoi cela compte. La ville cherche moins à réguler un produit disponible qu’à créer un précédent politique. Une mesure municipale peut signaler une inquiétude réelle, mais son application à des services hébergés hors du territoire et sa compatibilité avec les compétences de l’État seront déterminantes.

Lire le compte rendu du vote par l’Indiana Daily Student

🧪 Les « traces » de Grok relancent le débat sur l’anthropomorphisme

Des propos d’Elon Musk datés du 11 octobre ont circulé de nouveau le 9 novembre. Il y comparait certaines traces d’entraînement de Grok à la réaction d’une personne « sous une pression extrême », lorsque le modèle fournit une bonne réponse mais reçoit un signal de récompense indiquant qu’elle est fausse.

Ces traces peuvent révéler un défaut du dispositif d’évaluation ou de la fonction de récompense. Elles ne prouvent cependant ni souffrance ni conscience : attribuer un état mental à un modèle à partir d’un texte produit pendant l’entraînement est une interprétation du dirigeant, pas un résultat scientifique.

Pourquoi cela compte. Le langage employé par les concepteurs façonne la perception publique. Pour auditer un système, il est plus utile de documenter les erreurs du banc de test, les objectifs d’optimisation et les comportements observables que de transformer une métaphore en diagnostic moral.

Retrouver le contexte et la date des déclarations d’Elon Musk

🔁 Demis Hassabis alerte sur l’auto-amélioration sans relecture humaine

Dans un entretien publié le 6 novembre et enregistré en octobre au Masters of Scale Summit, Demis Hassabis distingue l’auto-amélioration actuelle — où l’IA rend un ingénieur plusieurs fois plus productif — d’une boucle fermée dans laquelle le système produirait, testerait et modifierait son propre code sans revue humaine.

Le cofondateur de Google DeepMind juge cette seconde étape beaucoup plus risquée. Il appelle à des environnements d’exécution renforcés, à une meilleure surveillance, à des évaluateurs indépendants et, à terme, à des garanties formelles sur les capacités des systèmes. Il s’agit d’une analyse prospective, non de l’annonce d’un système déjà déployé.

Pourquoi cela compte. Le risque ne vient pas seulement de la puissance du modèle, mais de la fermeture de la boucle : qui définit le critère de réussite, vérifie les changements et peut interrompre le processus ?

Lire la transcription intégrale de l’entretien

🧠 Intelligence et conscience ne sont pas la même chose

Dans le même entretien, Demis Hassabis affirme que les systèmes actuels peuvent être très performants sans être conscients. Il oppose cette intelligence mesurable à des animaux qu’il considère conscients mais moins capables de résoudre des tâches abstraites. Son exemple vise à montrer que les deux propriétés peuvent évoluer séparément.

Il recommande de construire d’abord des outils intelligents plutôt que des entités dotées d’une volonté propre. Selon lui, l’auto-direction entrerait en tension avec la « corrigibilité » : la capacité d’un système à accepter une instruction d’arrêt ou un changement de cap. Il estime qu’une meilleure compréhension neuroscientifique de la conscience pourrait encore demander cinq à dix ans.

Pourquoi cela compte. Une affirmation de conscience formulée par un chatbot ne constitue pas une preuve. La question exige des critères scientifiques, philosophiques et sociaux que le secteur n’a pas encore définis collectivement.

📉 Steve Eisman accuse les laboratoires de chercher un rempart réglementaire

Une intervention de Steve Eisman sur CNBC, diffusée le 17 septembre, a refait surface le 9 novembre. L’investisseur y affirme que les grands laboratoires dramatisent le risque existentiel afin d’obtenir une réglementation qu’ils pourraient transformer en barrière à l’entrée face aux modèles ouverts.

Cette thèse est une opinion sur les motivations des entreprises, non une démonstration. Elle pose néanmoins une question économique légitime : une règle de sécurité peut protéger le public tout en renforçant les acteurs déjà capables d’en supporter le coût. Le débat doit donc distinguer les exigences proportionnées — évaluations, transparence, signalement d’incidents — des obligations qui figeraient artificiellement le marché.

Pourquoi cela compte. La politique de l’IA se joue à la fois sur le risque et sur la concurrence. Examiner qui écrit les règles, qui peut s’y conformer et qui en supporte les coûts évite de réduire la discussion à un choix binaire entre laisser-faire et interdiction.

Voir l’entretien de Steve Eisman sur CNBC

📊 Les chiffres à retenir

• Un comité de directeurs indépendants, assisté d’un conseil juridique extérieur, supervisera l’enquête annoncée par Nvidia.
• Unanimité du conseil municipal de Bloomington en faveur de l’ordonnance 2026-29.
• 91 jours : délai prévu avant l’extinction de l’ordonnance si l’Indiana adopte un cadre équivalent.
• 5 à 10 ans : horizon avancé par Demis Hassabis pour progresser dans la compréhension neuroscientifique de la conscience.

🔗 Pour approfondir dans notre réseau

• L’autonomie des agents face au seuil de confiance
• Agents spécialisés, laboratoires autonomes et crise cyber
• Dans nos archives : Nvidia au cœur de l’économie du calcul

💌 Recevez La lettre Intelligences

Pour ne manquer aucune édition, inscrivez-vous à la newsletter Intelligences.

La rédaction d’Intelligences

Merci de votre lecture. À très bientôt pour une nouvelle édition de La lettre Intelligences.