Effacer des données piratées à l’approche d’un procès : un problème de confiance

Si vos données d’entraînement sont propres, pourquoi auriez-vous besoin de les supprimer ? C’est la question qui plane sur le dernier rebondissement de la saga du droit d’auteur chez Meta, et « nous faisions preuve de prudence » n’est pas une réponse satisfaisante.

Ce qui a été révélé

Un ancien chercheur de Meta, Stephen Roller, qui a travaillé dans l’entreprise de 2017 à 2023, a déclaré sous serment avoir téléchargé via BitTorrent un jeu de données d’entraînement d’IA incluant la collection piratée Books3. Selon un résumé de sa déposition, il a supprimé sa copie à mesure que les poursuites se multipliaient. Hacker News a relayé l’affaire sous un titre qui dit tout: supprimé « en raison du litige ».

Le contexte est un amas de dossiers devant un tribunal fédéral de Californie au sujet des données d’entraînement de Llama. Les plaignants affirment que Meta a récupéré environ 80,6 téraoctets auprès de LibGen et environ 35,7 téraoctets auprès d’Anna's Archive, d’après le résumé de BigGo des pièces de procédure. Un juge magistrat a désormais ordonné à Meta de nommer les personnes qui ont approuvé cet approvisionnement. Nous relayons ici des allégations, non des conclusions. Meta n’a pas été reconnue responsable du recours aux torrents.

Supprimer les preuves est le mauvais réflexe, même si ce n’est pas la preuve décisive

La documentation ne permet pas de dire si cette suppression a enfreint une règle, et nous n’allons pas prétendre le contraire. Nous pouvons en revanche dire ce que cela donne, et dans un métier de confiance, l’apparence est le produit. Un labo d’IA nous demande d’admettre que ses modèles ont été conçus de façon responsable. Quand un jeu de données au cœur du litige est effacé alors que les poursuites s’accumulent, la réaction raisonnable est la méfiance. La raison est peut-être innocente. L’effet est le même.

Il y a aussi un problème plus profond. Nous ignorons quels registres Meta a conservés, mais cet épisode montre la fragilité de l’alternative: si l’origine d’un jeu de données se trouve dans le dossier de téléchargements d’un chercheur, elle peut disparaître d’une seule commande. Ce n’est pas un système de traçabilité. C’est un système fondé sur la parole donnée, et ces systèmes cèdent précisément quand les enjeux montent.

La défense du « c’est la faute des employés » aggrave les choses

Ars Technica rapporte que Meta rejette depuis des semaines la faute sur ses employés pour les torrents, et qu’elle doit maintenant nommer les dirigeants qui les ont autorisés. Notre lecture: c’est ce qui arrive souvent quand les décisions sur les données ne sont pas consignées clairement. La responsabilité retombe par défaut sur celui qui a appuyé sur le bouton. Le chercheur devient l’histoire, et les décideurs restent dans le brouillard.

C’est mauvais pour les chercheurs, qui risquent d’être exposés pour des choix qui n’étaient peut-être pas les leurs. C’est mauvais pour les entreprises, qui paraissent évasives. Et c’est mauvais pour les auteurs, qui ne peuvent guère reconstituer ce qui a été utilisé à partir de leurs œuvres. Des pièces judiciaires citées par Tom's Hardware montrent qu’un chercheur senior en IA avait exprimé des réserves dès octobre 2022. Si c’est exact, un système qui aurait consigné ces réserves et les réponses apportées aurait eu plus de valeur que n’importe quelle suppression.

À quoi ressemblerait l’auditabilité par défaut

Il n’y a rien d’exotique sur le plan technique. Les labos peuvent tenir un manifeste de chaque corpus: sa provenance, qui l’a approuvé, sous quelle licence ou quelle théorie juridique, et une empreinte cryptographique de son contenu. Les fichiers eux-mêmes peuvent être purgés si nécessaire. La trace de ce qu’ils étaient ne devrait pas l’être. Conserver le reçu, pas forcément la marchandise.

Les labos objecteront que les manifestes alimenteront la phase de communication des pièces. C’est probablement vrai, et nous pensons que c’est justement le but. Le paysage juridique est instable. Dans l’affaire Kadrey v. Meta, selon le suivi de Fiund, Meta a obtenu un jugement sommaire favorable sur le fair use pour l’entraînement de Llama avec les livres de treize auteurs, mais la juge l’a présenté comme un avertissement, non comme une bénédiction, et un grief distinct sur les torrents reste en suspens. Pendant ce temps, près de 300 auteurs réclament un procès devant jury et le maximum de 150 000 dollars par acte de contrefaçon, selon Publishers Weekly, et l’avocat concerné assure que bien d’autres dossiers arrivent. Dans ce contexte, un labo capable de prouver une provenance propre détient un atout. Celui qui en est incapable porte un passif qu’il a tenté d’effacer.

Notre verdict

Le fair use peut protéger l’entraînement, comme l’a suggéré une décision portant sur un petit ensemble de livres. Il ne protège pas une chaîne d’approvisionnement opaque des dégâts de réputation. Si le secteur veut le bénéfice du doute, il doit le mériter avec des registres qui survivent à un procès, pas avec des disques durs qui n’y survivent pas. Régulateurs et clients devraient commencer à exiger des manifestes de provenance comme ils exigent des audits de sécurité. Et tout labo qui fait de la suppression sa stratégie de documentation doit s’attendre à ce qu’on suppose le pire sur ce qui a été supprimé.