Pourquoi l'intelligence artificielle pourrait fragiliser la méthode scientifique elle-même

Une tribune relayée par le New York Times s'alarme d'un recours croissant à l'intelligence artificielle dans le travail scientifique, qui pourrait fragiliser à terme la méthode même sur laquelle repose la recherche.

Le texte pointe un risque déjà documenté par plusieurs chercheurs : les outils d'IA peuvent produire des réponses qui semblent objectives et bien argumentées, sans que l'utilisateur comprenne réellement le raisonnement sous-jacent, créant ce que certains appellent une « illusion de compréhension ». Le problème se double d'un risque de biais : les questions de recherche pourraient se réorienter vers ce qui est facilement quantifiable et compatible avec l'IA, au détriment de phénomènes plus complexes ou de populations sous-représentées dans les jeux de données existants.

Le texte ne plaide pas pour un abandon de ces outils, dont l'apport en matière de rapidité et de puissance de calcul est reconnu, mais pour la mise en place de protocoles rigoureux permettant de détecter les erreurs qu'ils introduisent silencieusement dans les publications. À l'heure où plusieurs grandes conférences scientifiques testent déjà l'évaluation des articles assistée par IA face à un nombre croissant de soumissions, la question de la fiabilité de la science elle-même devient, selon la tribune, aussi urgente que celle des progrès qu'elle promet.

À lire aussi dans notre réseau :

• « La superintelligence est un mythe » : Cal Newport recadre le débat sur les risques de l'IA
• Dario Amodei appelle l'industrie de l'IA à « ralentir la cadence »