Cancellare dati di addestramento piratati quando incombe una causa è un problema di fiducia

Se i tuoi dati di addestramento sono puliti, perché mai dovresti cancellarli? È la domanda che aleggia sull'ultimo colpo di scena della saga sul copyright di Meta, e «stavamo facendo attenzione» non è una risposta soddisfacente.

Che cosa è emerso

Un ex ricercatore di Meta, Stephen Roller, che ha lavorato nell'azienda dal 2017 al 2023, ha testimoniato di aver scaricato con BitTorrent un dataset di addestramento per l'IA che include la raccolta piratata Books3. Secondo un riassunto della sua deposizione, ha cancellato la sua copia mentre le cause si moltiplicavano. Hacker News ha ripreso la notizia con un titolo che dice tutto: cancellato «a causa del contenzioso».

Lo sfondo è un mucchio di cause davanti a un tribunale federale della California sui dati di addestramento di Llama. Gli attori sostengono che Meta abbia prelevato circa 80,6 terabyte da LibGen e circa 35,7 terabyte da Anna's Archive, secondo il riassunto di BigGo degli atti. Un giudice magistrato ha ora ordinato a Meta di indicare chi ha approvato quell'approvvigionamento. Qui riportiamo accuse, non accertamenti. Meta non è stata ritenuta responsabile per l'uso dei torrent.

Cancellare le prove è il riflesso sbagliato, anche se non è la prova decisiva

Dalla documentazione non possiamo dire se questa cancellazione abbia violato qualche regola, e non faremo finta di saperlo. Possiamo però dire che effetto fa, e in un business fondato sulla fiducia l'apparenza è il prodotto. Un laboratorio di IA ci chiede di accettare che i suoi modelli siano stati costruiti in modo responsabile. Quando un dataset al centro della disputa viene cancellato mentre le cause si accumulano, la reazione ragionevole è il sospetto. Forse il motivo è innocente. L'effetto è lo stesso.

C'è anche un problema più profondo. Non sappiamo quali registri Meta abbia conservato, ma questo episodio mostra quanto sia fragile l'alternativa: se l'origine di un dataset vive nella cartella dei download di un ricercatore, può sparire con un solo comando. Non è un sistema di tracciabilità. È un sistema basato sulla parola data, e questi sistemi tendono a rompersi proprio quando la posta in gioco è alta.

La difesa del «è colpa dei dipendenti» peggiora le cose

Ars Technica riferisce che Meta ha passato settimane a dare la colpa ai dipendenti per l'uso dei torrent e ora ha l'ordine di nominare i dirigenti che lo hanno autorizzato. La nostra lettura: è ciò che tende a succedere quando le decisioni sui dati non sono registrate con chiarezza. La responsabilità ricade per default su chi ha premuto il pulsante. Il ricercatore diventa la notizia e chi ha deciso resta nella nebbia.

È un male per i ricercatori, che rischiano di essere esposti per scelte che forse non erano loro. È un male per le aziende, che sembrano evasive. Ed è un male per gli autori, che non riescono a ricostruire con facilità che cosa sia stato usato a partire dalle loro opere. Atti giudiziari citati da Tom's Hardware mostrano che un ricercatore senior di IA espresse dubbi già nell'ottobre 2022. Se è vero, un sistema che avesse registrato quei dubbi e le risposte ricevute sarebbe valso più di qualsiasi cancellazione.

Come sarebbe la verificabilità per impostazione predefinita

Non serve un'ingegneria esotica. I laboratori possono tenere un manifesto di ogni corpus: da dove proviene, chi lo ha approvato, con quale licenza o tesi giuridica e un'impronta crittografica del contenuto. I file veri e propri si possono eliminare, se necessario. Il registro di ciò che erano, no. Conservare la ricevuta, non necessariamente la merce.

I laboratori obietteranno che i manifesti diventano materiale per la fase di discovery. Probabilmente è vero, e crediamo che sia proprio questo il punto. Il quadro giuridico è instabile. In Kadrey v. Meta, secondo il tracker di Fiund, Meta ha ottenuto un summary judgment favorevole sul fair use per l'addestramento di Llama con i libri di tredici autori, ma la giudice lo ha presentato come un avvertimento, non come una benedizione, e una richiesta separata sull'uso dei torrent resta irrisolta. Intanto quasi 300 autori chiedono un processo con giuria e il massimo di 150.000 dollari per ogni violazione, riferisce Publishers Weekly, e l'avvocato coinvolto dice che arriveranno molte altre cause. In questo contesto, un laboratorio che può dimostrare una provenienza pulita ha un asset. Uno che non può ha una passività che ha cercato di cancellare.

Il nostro verdetto

Il fair use può proteggere l'addestramento, come ha suggerito una sentenza su un gruppo ristretto di libri. Non protegge una filiera opaca dai danni di reputazione. Se il settore vuole il beneficio del dubbio, deve guadagnarselo con registri che sopravvivano a una causa, non con hard disk che non ci riescono. Autorità di regolamentazione e clienti dovrebbero iniziare a chiedere manifesti di provenienza come chiedono gli audit di sicurezza. E qualunque laboratorio che consideri la cancellazione la propria strategia di documentazione deve aspettarsi che si pensi il peggio su ciò che è stato cancellato.