L'intelligence n'est pas qu'optimisation : ce que Kant oppose à notre vision de l'IA

Lors d'une conférence, un informaticien réputé résumait les grands modèles de langage ainsi : ils optimisent, ils s'améliorent à partir de l'expérience, et « c'est cela, l'intelligence ». Dans la salle, on approuvait. Pour la philosophe Sasha Mudd, dans un essai publié par Aeon, c'est précisément là que le bât blesse : une définition valable pour les machines glisse insensiblement vers une définition de l'intelligence en général, puis de ce que nous sommes.

L'autrice, professeure à l'Université pontificale catholique du Chili, y voit le retour d'une vieille querelle des Lumières. D'un côté, David Hume, pour qui la raison « est et ne doit être que l'esclave des passions » : elle indique le chemin, mais ne choisit pas la destination. De l'autre, Emmanuel Kant, pour qui la raison peut aussi se demander si une fin est digne d'être poursuivie, si elle peut être justifiée devant autrui et si elle respecte les autres comme des personnes, jamais comme de simples moyens.

Or l'IA, explique-t-elle, a ramené la vision de Hume « sous forme de code » : un système est jugé intelligent selon sa capacité à atteindre des objectifs fixés par d'autres. Ce modèle séduit parce qu'il est mesurable et rentable, et parce qu'il nous dispense des questions les plus inconfortables. Mais la question des fins ne disparaît pas : elle passe, sans qu'on y prête attention, entre les mains de ceux qui contrôlent la fonction objectif, et se fige en valeurs par défaut comme la vitesse, la croissance ou l'engagement.

Sasha Mudd retourne aussi le débat sur l'« alignement » des IA. Le danger, écrit-elle, n'est pas seulement que les machines ne s'alignent pas sur nous, mais que nous finissions trop bien alignés sur elles, habitués à être prédits, orientés et servis. Elle rappelle la devise kantienne des Lumières, Sapere aude : ose te servir de ton propre entendement.

Sa conclusion est nette : il est souhaitable que les machines soient des serviteurs intelligents, mais il faut résister à toute pression qui pousse les êtres humains à se concevoir comme de simples outils.

À lire aussi dans notre réseau :

• « La superintelligence est un mythe » : Cal Newport recadre le débat sur les risques de l'IA
• Pourquoi l'intelligence artificielle pourrait fragiliser la méthode scientifique elle-même
• Ni doute performé, ni certitude blindée : ce que Cicéron peut apprendre au bon sceptique
• Le mal du siècle : notre vie optimisée a perdu le sens de l'émerveillement