Borrar datos pirateados de entrenamiento ante una demanda es un problema de confianza

Si tus datos de entrenamiento están limpios, ¿por qué ibas a necesitar borrarlos? Esa es la pregunta que planea sobre el último giro del culebrón de los derechos de autor de Meta, y «estábamos siendo cuidadosos» no es una respuesta que convenza.

Qué ha salido a la luz

Un extrabajador de Meta, Stephen Roller, que estuvo en la empresa de 2017 a 2023, declaró que descargó mediante BitTorrent un conjunto de datos de entrenamiento de IA que incluye la colección pirata Books3. Según un resumen de su declaración, borró su copia a medida que se multiplicaban las demandas. Hacker News se hizo eco con un titular que lo dice todo: borrado «por el litigio».

El telón de fondo es un aluvión de casos en un tribunal federal de California sobre los datos de entrenamiento de Llama. Los demandantes alegan que Meta extrajo unos 80,6 terabytes de LibGen y unos 35,7 terabytes de Anna's Archive, según el resumen de BigGo de los escritos judiciales. Un juez magistrado ha ordenado ahora a Meta que identifique a las personas que aprobaron ese aprovisionamiento. Aquí trasladamos acusaciones, no conclusiones: Meta no ha sido declarada responsable del uso de torrents.

Borrar las pruebas es el reflejo equivocado, aunque no sea la prueba definitiva

No podemos saber, con la documentación disponible, si este borrado infringió alguna norma, y no vamos a fingir que sí. Lo que sí podemos decir es qué aspecto tiene, y en un negocio basado en la confianza, el aspecto es el producto. Un laboratorio de IA nos pide que aceptemos que sus modelos se construyeron de forma responsable. Cuando se borra un conjunto de datos que está en el centro de la disputa mientras se acumulan las demandas, lo razonable es sospechar. Quizá el motivo sea inocente. El efecto es el mismo.

Hay además un problema de fondo. No sabemos qué registros conservó Meta, pero este episodio muestra lo frágil que es la alternativa: si el origen de un conjunto de datos vive en la carpeta de descargas de un investigador, puede desaparecer con un solo comando. Eso no es un sistema de trazabilidad. Es un sistema basado en la palabra de honor, y esos sistemas suelen romperse justo cuando más se juega.

La defensa de «la culpa es de los empleados» lo empeora

Ars Technica informa de que Meta lleva semanas culpando a su plantilla del uso de torrents y ahora se le ha ordenado nombrar a los directivos que lo autorizaron. Nuestra lectura: eso es lo que suele pasar cuando las decisiones sobre datos no quedan claramente registradas. La responsabilidad recae por defecto en quien pulsó el botón. El investigador se convierte en la noticia y quienes tomaron las decisiones siguen entre la niebla.

Eso es malo para los investigadores, que corren el riesgo de quedar expuestos por decisiones que quizá no eran suyas. Es malo para las empresas, que parecen evasivas. Y es malo para los autores, que no pueden reconstruir con facilidad qué se usó con su obra. Los documentos judiciales citados por Tom's Hardware muestran que un investigador sénior de IA expresó sus reparos ya en octubre de 2022. Si eso es cierto, un sistema que hubiera registrado esas dudas y las respuestas habría valido más que cualquier borrado.

Cómo sería la auditabilidad por defecto

No hace falta una ingeniería exótica. Los laboratorios pueden mantener un manifiesto de cada corpus: de dónde procede, quién lo aprobó, con qué licencia o razonamiento jurídico y una huella criptográfica de su contenido. Los archivos en sí pueden eliminarse si hace falta. El registro de lo que eran, no. Hay que conservar el recibo, no necesariamente la mercancía.

Los laboratorios objetarán que los manifiestos acaban siendo munición para la fase de pruebas del proceso. Probablemente sea cierto, y creemos que ese es el objetivo. El panorama jurídico es incierto. En Kadrey v. Meta, según el seguimiento de Fiund, Meta obtuvo una sentencia sumaria favorable sobre uso legítimo (fair use) por entrenar Llama con libros de trece autores, pero la jueza lo planteó como una advertencia, no como una bendición, y una reclamación aparte por el uso de torrents sigue sin resolverse. Mientras tanto, cerca de 300 autores piden un juicio con jurado y el máximo de 150.000 dólares por cada infracción, según Publishers Weekly, y el abogado implicado asegura que vienen muchos más casos. En ese contexto, un laboratorio que puede demostrar un origen limpio tiene un activo. Uno que no puede tiene un pasivo que intentó borrar.

Nuestro veredicto

El uso legítimo puede amparar el entrenamiento, como sugirió una sentencia para un conjunto reducido de libros. No protege a una cadena de suministro opaca del daño reputacional. Si el sector quiere el beneficio de la duda, debe ganárselo con registros que sobrevivan a una demanda, no con discos duros que no lo hacen. Reguladores y clientes deberían empezar a exigir manifiestos de procedencia como exigen auditorías de seguridad. Y cualquier laboratorio que trate el borrado como su estrategia de documentación debe esperar que la gente dé por hecho lo peor sobre lo que se borró.