Il finale «terribile» di Altman mostra perché parlare di scenari non è sicurezza dell'IA

Come si chiama un CEO che delinea tre possibili finali della corsa che sta correndo, boccia il peggiore e poi spiega perché la sua azienda non può permettersi di fare molto riguardo agli altri due? Noi lo chiameremmo onestà, e anche un'etichetta di avvertenza.

I tre finali di Altman sono un menu da cui non può ordinare

Secondo The Information, Sam Altman ha descritto tre scenari finali della corsa all'IA durante una riunione interna. Il primo è un organismo internazionale sul modello dell'AIEA, con il potere di ispezionare i sistemi e richiedere audit. Il secondo è il «Piano Demis», in cui i principali laboratori si fondono o lavorano sotto lo stesso tetto. Il terzo è il «Piano Eliezer»: uno sviluppatore ottiene per primo un'IA che si migliora da sola e sfrutta quel vantaggio per privare tutti i rivali della potenza di calcolo, il che, secondo la frase circolata, scioglierebbe le GPU di tutti. Altman avrebbe definito questo esito, con le parole del resoconto di 36Kr, «assolutamente terribile».

Il resoconto si basa su fonti anonime, quindi i dettagli vanno presi con cautela. Ma il dettaglio più importante non è quello che spaventa. Come riferisce Martin Cid, due delle tre idee riprendono un post di OpenAI del 2023, e nessuna è mai stata attuata. Altman avrebbe inoltre detto che le prime due opzioni richiedono un coordinamento profondo e che OpenAI non può cedere terreno adesso, con lei e Anthropic dirette verso la quotazione in borsa.

Il finale «terribile» è la via predefinita, non l'eccezione

Rileggilo. I finali buoni richiedono cooperazione. Quello cattivo richiede solo che qualcuno vinca. In una corsa in cui nessuno vuole essere quello che rallenta, crediamo che la strada del «chi vince prende tutto» non sia un rischio remoto: è dove portano gli incentivi, a meno che qualcuno non paghi per cambiarli. A nostro avviso, la posizione attribuita ad Altman si riduce a questo: è contrario all'esito, ma anche a rinunciare al terreno che potrebbe aiutare a evitarlo.

Non è tanto ipocrisia quanto una trappola strutturale, e lui non è certo il solo a caderci. All'inizio di quest'autunno, ricordava 01net, Altman disse di condividere l'appello di Dario Amodei di Anthropic a rallentare, ma di non voler essere l'unico a tirare il freno. Tutti sono disposti a frenare, purché qualcun altro freni per primo.

Gli scenari senza impegni sono PR

Ecco la nostra posizione: descrivere futuri costa poco, vincolarsi costa caro. Le prove riferite di vincoli reali sono scarse. L'organismo di autoregolamentazione che OpenAI, Google e Anthropic starebbero costruendo, la Standards Authority for Frontier AI, è descritto come privo di poteri sanzionatori, e i laboratori sarebbero ancora in disaccordo su chi debba testare i nuovi modelli. Negli Stati Unity un esposto per cartello sostiene già che il coordinamento sulla sicurezza tra laboratori sia collusione. Intanto i vertici di Meta e Nvidia sosterrebbero che simili regole proteggano soprattutto chi è già affermato.

Alcune di queste obiezioni meritano ascolto. Un unico superlaboratorio nato da una fusione, il «Piano Demis», concentrerebbe un potere enorme, e un'ispezione internazionale richiede che Washington e Pechino facciano entrare gli ispettori nei loro laboratori più sensibili. Forbes, come riportato nello stesso resoconto, osserva che perfino una proposta USA perché i due Paesi si avvisino a vicenda sugli incidenti pericolosi legati all'IA è ancora solo una bozza, non un accordo. E nell'intervista a Politico, come la riferisce 01net, lo stesso Altman ha respinto l'idea che un solo laboratorio di San Francisco debba detenere questa tecnologia, il che va contro anche l'idea della fusione.

Ma «ogni soluzione ha dei problemi» è proprio il motivo per cui gli impegni contano. Un'azienda che prendesse sul serio il finale terribile metterebbe sul tavolo qualcosa di costoso: un meccanismo che faccia scattare una pausa, un revisore esterno con accesso reale, un tetto alla potenza di calcolo che accetta per prima. Una presentazione ai dipendenti non basta.

Giudica i laboratori da ciò a cui rinuncerebbero

Non dobbiamo essere cinici di fronte alla franchezza. È utile che qualcuno dall'interno dica ad alta voce che l'allineamento non è risolto; Lefilia riferisce che Altman ritiene sandbox e monitoraggio solo rimedi temporanei. Ma la franchezza sul rischio unita al rifiuto di essere il primo a limitarsi è la descrizione del problema, non una soluzione.

Il nostro verdetto: giudica i laboratori da ciò a cui rinuncerebbero, non dagli scenari che sanno articolare. Finché uno di loro non accetterà, prima di una quotazione in borsa, un limite che danneggi la propria posizione, i tre finali restano uno spunto di conversazione, e il terzo resta l'impostazione predefinita.