L'IA peut-elle « faire » de la science ? Ce que le débat entre experts révèle sur notre futur

Le syndrome de la page blanche et l'assistant fantôme

Dans l'arène académique contemporaine, la pression du « publier ou périr » n'a jamais été aussi implacable. Face à cette injonction d'hyper-productivité, l'émergence des grands modèles de langage (LLM) ressemble à une promesse providentielle : celle d'un assistant infatigable, capable de rédiger, de coder et de synthétiser l'information à une vitesse proprement surhumaine.

Mais derrière l'élégance des paragraphes générés se cache une interrogation majeure : l'IA est-elle un collègue brillant ou un simple assistant fantôme, un miroir déformant qui automatise la forme au détriment du fond ? La Perspective publiée dans PNAS sous le titre How should the advancement of large language models affect the practice of science ? met en scène une confrontation intellectuelle entre quatre groupes de chercheurs de renommée mondiale. Ce dialogue nous force à choisir : voulons-nous une science de résultats ou une science de compréhension ?

Collaborateur intelligent ou simple « perroquet stochastique » ?

Le débat s'ouvre sur une fracture conceptuelle profonde. D'un côté, l'équipe de Schulz et al. propose un saut de foi pragmatique : traiter l'IA non comme un simple logiciel, mais comme un collaborateur humain, à l'image d'un assistant de recherche ou d'un doctorant. Selon eux, l'IA est faillible, certes, mais l'humain l'est tout autant par ses biais et ses erreurs.

À l'inverse, Emily Bender et ses coauteurs rejettent cette anthropomorphisation qu'ils jugent dangereuse. Pour eux, l'IA demeure un « perroquet stochastique », un système qui excelle à prédire la distribution statistique des mots sans jamais accéder au sens ou à l'intention communicative. Elle manipule des « formes vides » dépourvues de substance.

« Il est crucial de reconnaître que les LLM sont simplement des modèles de distributions de formes de mots extraites de textes, et non des modèles de l'information que les gens pourraient obtenir en lisant ces textes. (Bender et al.) »

Cette distinction est le pivot de la crédibilité scientifique : si la science consiste à extraire de l'information réelle du monde, un outil qui ne fait que simuler la structure du langage risque de transformer la recherche en une vaste parodie de savoir.

Le fiasco de « Galactica » et le danger des ours dans l'espace

L'excès de confiance dans la puissance prédictive a connu son « moment Icare » avec Galactica, le modèle de MetaAI conçu spécifiquement pour la science. Lancé avec l'ambition de devenir l'oracle du savoir universel, Galactica a dû être retiré après seulement trois jours de service. Le modèle s'était transformé en une usine à hallucinations, générant des papiers factices crédibles mais totalement inventés, attribués à de vrais auteurs, et des articles encyclopédiques surréalistes détaillant « l'histoire des ours dans l'espace ».

En science, la vraisemblance est l'ennemie de la vérité. L'aptitude des modèles à simuler l'autorité académique sans ancrage factuel crée un risque de pollution du corpus scientifique, où le faux porte le masque du rigoureux.

La crise de reproductibilité 2.0 : le piège des modèles propriétaires

La science repose sur un contrat de transparence : tout résultat doit pouvoir être reproduit. Or l'usage de modèles propriétaires comme GPT-4 introduit une volatilité qui menace ce socle. Les chercheurs se retrouvent face à des « cibles mouvantes ». L'étude de Yax et al., citée dans le débat, est à cet égard alarmante : les scores de raisonnement de certains modèles ont chuté de manière significative seulement trois mois après les tests initiaux, rendant les résultats originaux impossibles à répliquer.

• L'opacité : les architectures et les données d'entraînement sont des boîtes noires industrielles.
• La volatilité : les fournisseurs modifient les algorithmes sans préavis, brisant la continuité des protocoles.
• Le manque de contrôle : l'impossibilité d'exécuter le modèle localement empêche toute vérification indépendante.

Pour Schulz et ses confrères, la seule réponse viable est l'open source. Seule une IA transparente et auditable peut prétendre au statut d'outil de recherche légitime.

Ce que l'IA ne pourra jamais décider : la « limite subjective »

Au-delà de la performance technique, Botvinick et Gershman introduisent une frontière philosophique infranchissable qu'ils nomment la « limite subjective ». Ils rappellent que la science n'est pas un calcul de probabilités, mais un acte normatif. Choisir un sujet de recherche, c'est-à-dire décider de ce qui est intéressant ou significatif, est un acte humain ancré dans une culture, une éthique et une histoire.

L'histoire des sciences en témoigne : notre regard sur certains sujets a évolué radicalement, non par une accumulation de données froides, mais par un changement de nos valeurs morales et sociales. Déléguer la feuille de route scientifique à une IA reviendrait à renoncer à notre agence morale. La machine n'a pas de point de vue ; elle ne peut pas juger de ce qui est juste ou opportun pour l'humanité.

La science est un dialogue social, pas une usine à papier

L'optimisme « tayloriste » qui voit dans l'IA un moyen d'accélérer la cadence de production des articles scientifiques est vivement contesté par Bender et al. Ils soutiennent que l'écriture scientifique n'est pas une corvée administrative à automatiser, mais l'acte même de structurer la pensée. Si l'on automatise l'écriture, on automatise et donc on court-circuite la réflexion.

« La science est un processus social. Elle ne peut être autocomplétée. Ses agents, les véritables scientifiques, sont tout autant le produit de ce processus que les résultats enregistrés dans les articles. (Bender et al.) »

Transformer la recherche en une usine à contenus risque de noyer le savoir sous une masse de publications de basse qualité, générées pour satisfaire des algorithmes plutôt que pour éclairer des esprits.

Vers un « scepticisme approprié »

L'IA n'est ni un oracle omniscient, ni une simple calculatrice. Elle est un instrument d'une puissance inédite qui exige, paradoxalement, une exigence humaine décuplée. La voie de la sagesse semble résider dans un « scepticisme approprié » : accepter l'assistance technique pour les tâches mécaniques, tout en protégeant jalousement nos fonctions souveraines de décision et d'interprétation.

Insights

Ce débat académique décrit exactement ce que je constate dans les organisations : la tentation d'industrialiser la production de livrables avant d'avoir clarifié le raisonnement qui les fonde. Les mêmes garde-fous s'appliquent : traçabilité des modèles, auditabilité des résultats, décision finale assumée par un humain identifié.

Si l'IA finit par nous donner toutes les réponses, quelle valeur accorderons-nous encore à l'effort humain de comprendre le « pourquoi » ? C'est cette question, et non la performance des modèles, qui déterminera la qualité des décisions de demain.