« Je suis désormais plus inquiet » : pourquoi certains experts durcissent le ton sur le risque lié à l'IA

Dans un essai largement partagé, un observateur du secteur de l'intelligence artificielle explique pourquoi, contrairement à sa position plus mesurée il y a encore quelques mois, il se dit aujourd'hui nettement plus préoccupé par les risques que pose cette technologie.

Le raisonnement s'appuie sur un décalage devenu difficile à ignorer : les capacités des modèles d'intelligence artificielle progressent plus vite que les outils dont on dispose pour les aligner sur des objectifs sûrs, pour surveiller leur comportement et pour les encadrer par des règles adaptées. Ce déséquilibre est aggravé, selon l'auteur, par la pression économique qui pousse les entreprises à intégrer des modèles toujours plus avancés dans des systèmes autonomes, multipliant d'autant les occasions de dérapage.

L'auteur précise qu'il ne s'agit pas nécessairement d'un scénario de science-fiction où l'IA échapperait totalement au contrôle humain : le risque le plus immédiat viendrait plutôt de systèmes encore imparfaits, mais déjà largement déployés et connectés au monde réel, capables de provoquer des dommages concrets bien avant l'apparition d'une intelligence artificielle véritablement autonome. Ce texte s'ajoute à une série de prises de position récentes, y compris au sein même des grands laboratoires d'IA, appelant à un débat plus sérieux sur le rythme de déploiement de ces technologies.

À lire aussi dans notre réseau :

• Dario Amodei appelle l'industrie de l'IA à « ralentir la cadence »
• « La superintelligence est un mythe » : Cal Newport recadre le débat sur les risques de l'IA