Les mathématiciens ne peuvent pas boycotter l’IA, mais ils ont raison d’essayer

Est-ce un réflexe corporatiste lorsqu’une profession dit non à la machine qui veut son travail ? Parfois. Mais quand cette profession est les mathématiques, la seule discipline où « faites-moi confiance » n’est pas un argument recevable, on devrait au moins écouter l’objection.

Voici ce qui s’est passé. Comme le rapporte t3n, plus de 1 000 mathématiciens se sont engagés à renoncer entièrement à l’IA au sein de l’Association for Human Mathematics (AHM), fondée récemment. Sa mission affichée est de protéger les mathématiques en tant qu’entreprise humaine et de préserver l’indépendance de la communauté face aux intérêts des entreprises. Les critiques les plus vives visent des sociétés comme OpenAI. Selon The Decoder, l’AHM reproche à OpenAI de bafouer des normes essentielles de la recherche scientifique en publiant des preuves générées par IA, et exhorte les mathématiciens à cesser de travailler avec l’entreprise. Euronews indique qu’OpenAI a répondu à la fronde par un don de cinq millions.

L’objection porte sur les normes, pas sur la nostalgie

La lecture facile est que les mathématiciens ont peur d’être automatisés. Nous pensons que cela passe à côté de ce que dit réellement l’AHM. Le grief, tel que le groupe le formule, est qu’une entreprise a publié un vaste lot de preuves dont la communauté n’avait jamais fait la demande, et que celle-ci est désormais censée les digérer. La ligne de l’AHM elle-même, telle que la résume Euronews, est que les mathématiciens n’ont pas commandé ce travail.

Cela compte parce que les mathématiques reposent sur un processus social. Une preuve compte lorsque d’autres personnes la lisent, la vérifient et y apposent leur nom. À notre avis, un laboratoire qui publie des résultats à un volume industriel risque de reporter le coût de la vérification sur les relecteurs de la communauté. C’est un grief légitime, et un don n’y répond pas. Faire un chèque à la communauté que l’on vient de surcharger relève davantage des relations publiques que d’un système d’évaluation par les pairs.

Un engagement d’abstention est un levier faible

Voici maintenant la partie inconfortable. Un engagement est une déclaration de valeurs, et une bonne. Mais c’est un mauvais outil pour orienter une technologie que d’autres continueront de développer et d’utiliser.

Il y a même un problème de définition. Un média note que le débat va jusqu’à la question de ce qui compte, d’emblée, comme usage de l’IA. Un chatbot qui explique un lemme est-il exclu ? Un moteur de recherche dont le classement repose sur l’apprentissage automatique ? Un engagement incapable de tracer nettement cette frontière sera probablement difficile à faire respecter et facile à tourner en dérision. C’est une prédiction de notre part, pas un résultat documenté.

Il y a ensuite la salle de classe, où l’abstention ressemble déjà à une partie perdue. Comme le rapporte t3n, Richard Borcherds, de l’UC Berkeley, ne voit plus l’intérêt de noter les devoirs de ses étudiants, car l’usage de l’IA est devenu inévitable. Une enquête de la Hochschule Darmstadt a montré que 92 % des répondants en Allemagne utilisent au moins occasionnellement des outils comme ChatGPT. Cette enquête ne porte pas spécifiquement sur les mathématiques, mais nous soupçonnons que la prochaine génération de mathématiciens apprend aussi avec ces outils, quoi que s’engagent à faire les chercheurs confirmés. Une profession qui se retire de la conversation ne l’empêchera pas. Elle aura simplement moins son mot à dire sur la façon dont les choses se déroulent.

Le vrai combat porte sur la preuve, la paternité et la question de qui vérifie

Si nous conseillions l’AHM, nous l’inciterions à utiliser ses plus de 1 000 signataires comme levier pour obtenir des règles plutôt que de l’abstinence. Trois questions méritent qu’on exige des réponses:

• Vérification: quel est le critère pour accepter une preuve générée par une machine, et qui supporte le coût de sa vérification ?
• Crédit: comment les contributions humaines et machine sont-elles signalées, pour que la paternité d’un travail veuille encore dire quelque chose ?
• Indépendance: comment la communauté évite-t-elle de dépendre de la bonne volonté d’une seule entreprise, ou de ses dons ?

Aucune de ces questions ne se règle en restant hors de la pièce. Elles se règlent quand les revues, les départements et les organismes de financement rédigent des normes avant l’arrivée du déluge. Ironie du sort, la meilleure carte de l’AHM est précisément ce qu’elle dit défendre: les mathématiciens sont les mieux placés pour dire ce qu’est un argument valide.

Notre verdict

L’engagement n’est pas un réflexe corporatiste, ou du moins pas seulement. C’est une défense rationnelle d’un processus social fragile face à ce que l’AHM perçoit comme une entreprise qui a ignoré les normes de la communauté. Comme signal, il fonctionne, et il devrait pousser les laboratoires à réfléchir davantage à la manière dont ils publient leurs résultats.

Comme stratégie, il est insuffisant. Les mathématiques ne seront pas sauvées par l’abstinence individuelle, et un test de pureté devient plus difficile à tenir à chaque semestre. Notre recommandation aux mathématiciens, et aux revues qui les servent: gardez l’engagement comme ancrage moral, mais consacrez l’effort réel à écrire les règles de vérification et de crédit. Si vous signez puis laissez ces règles à d’autres, les humains de la « mathématique humaine » auront perdu le débat qui leur tenait le plus à cœur.