I matematici non possono boicottare l'IA, ma fanno bene a provarci

È un riflesso corporativo quando una professione dice no alla macchina che vuole il suo lavoro? A volte sì. Ma quando la professione è la matematica, l'unica disciplina in cui «fidati di me» non è un argomento accettabile, almeno l'obiezione conviene ascoltarla.

Ecco cos'è successo. Come riferisce t3n, più di 1.000 matematici si sono impegnati a rinunciare del tutto all'IA attraverso la neonata Association for Human Mathematics (AHM). La sua missione dichiarata è proteggere la matematica come impresa umana e tenere la comunità indipendente dagli interessi aziendali. Le critiche più dure sono rivolte ad aziende come OpenAI. Secondo The Decoder, l'AHM accusa OpenAI di ignorare norme fondamentali della ricerca scientifica pubblicando dimostrazioni generate dall'IA, e invita i matematici a smettere di lavorare con l'azienda. Euronews riferisce che OpenAI ha risposto alle polemiche con una donazione di cinque milioni.

L'obiezione riguarda le norme, non la nostalgia

La lettura facile è che i matematici abbiano paura di essere automatizzati. Secondo noi questo non coglie ciò che l'AHM dice davvero. La lamentela, per come la formula il gruppo, è che un'azienda ha pubblicato un grande lotto di dimostrazioni che la comunità non aveva mai chiesto, e ora la comunità dovrebbe digerirle. La linea dell'AHM stessa, come la riassume Euronews, è che i matematici non hanno commissionato questo lavoro.

È importante perché la matematica funziona attraverso un processo sociale. Una dimostrazione conta quando altre persone la leggono, la controllano e ci mettono il proprio nome. A nostro avviso, un laboratorio che pubblica risultati a volume industriale rischia di scaricare il costo del controllo sui revisori della comunità. È un'accusa fondata, e una donazione non la risolve. Staccare un assegno alla comunità che hai appena gravato di lavoro somiglia più a pubbliche relazioni che a un sistema di revisione paritaria.

Un impegno di astensione è una leva debole

Ora la parte scomoda. Un impegno è una dichiarazione di valori, e buona. Ma è uno strumento scadente per orientare una tecnologia che altri continueranno a costruire e a usare.

C'è persino un problema di definizione. Una testata osserva che il dibattito arriva fino alla domanda su cosa conti, in primo luogo, come uso dell'IA. Un chatbot che spiega un lemma è off limits? Un motore di ricerca con un ranking basato sul machine learning? Un impegno che non sa tracciare con chiarezza questo confine sarà probabilmente difficile da far rispettare e facile da prendere in giro. È una nostra previsione, non un esito documentato.

Poi c'è l'aula, dove l'astensione sembra già una partita persa. Come riferisce t3n, Richard Borcherds della UC Berkeley non vede più senso nel valutare i compiti dei suoi studenti, perché l'uso dell'IA è diventato inevitabile. Un sondaggio della Hochschule Darmstadt ha rilevato che il 92% degli intervistati in Germania usa strumenti come ChatGPT almeno occasionalmente. Quel sondaggio non riguarda specificamente la matematica, ma sospettiamo che anche la prossima generazione di matematici impari con questi strumenti, qualunque cosa promettano i ricercatori senior. Una professione che si sfila dalla conversazione non lo impedirà. Avrà solo meno voce in capitolo su come si svolge.

La vera battaglia riguarda la dimostrazione, il merito e chi controlla

Se dovessimo consigliare l'AHM, la spingeremmo a usare i suoi oltre 1.000 firmatari come leva per ottenere regole anziché astinenza. Vale la pena pretendere risposte a tre domande:

• Verifica: qual è lo standard per accettare una dimostrazione generata da una macchina, e chi sostiene il costo di controllarla?
• Riconoscimento: come vengono dichiarati i contributi umani e quelli della macchina, in modo che l'autorialità continui a significare qualcosa?
• Indipendenza: come evita la comunità di dipendere dalla buona volontà di una sola azienda, o dalle sue donazioni?

Nessuna di queste questioni si risolve restando fuori dalla stanza. Le risolvono riviste, dipartimenti ed enti finanziatori che scrivono norme prima dell'arrivo dell'ondata. Ironia della sorte, la carta migliore dell'AHM è proprio ciò che dice di difendere: i matematici sono le persone più qualificate per dire cosa sia un argomento valido.

Il nostro verdetto

L'impegno non è un riflesso corporativo, o almeno non solo. È una difesa razionale di un processo sociale fragile contro ciò che l'AHM vede come un'azienda che ha ignorato le norme della comunità. Come segnale funziona, e dovrebbe spingere i laboratori a riflettere meglio su come rilasciano i risultati.

Come strategia, non basta. La matematica non si salverà con l'astinenza individuale, e un test di purezza diventa più difficile da mantenere a ogni semestre. Il nostro consiglio ai matematici, e alle riviste che li servono: tenete l'impegno come àncora morale, ma impiegate lo sforzo vero nello scrivere le regole su verifica e riconoscimento. Se firmate e poi lasciate quelle regole agli altri, gli umani della «matematica umana» avranno perso la discussione a cui tenevano di più.