Trainingsdaten aus Raubkopien löschen, wenn eine Klage droht: ein Vertrauensproblem

Wenn die Trainingsdaten sauber sind, warum sollte man sie dann je löschen müssen? Diese Frage steht über der jüngsten Wendung in der Urheberrechtsaffäre um Meta, und „Wir waren vorsichtig“ ist keine befriedigende Antwort.

Was ans Licht kam

Ein ehemaliger Meta-Forscher, Stephen Roller, der von 2017 bis 2023 im Unternehmen arbeitete, sagte aus, er habe per BitTorrent einen KI-Trainingsdatensatz heruntergeladen, der die raubkopierte Sammlung Books3 enthält. Laut einer Zusammenfassung seiner Aussage löschte er seine Kopie, als sich die Klagen häuften. Hacker News griff das Thema mit einer Schlagzeile auf, die alles sagt: gelöscht „wegen des Rechtsstreits“.

Hintergrund ist eine Vielzahl von Verfahren vor einem Bundesgericht in Kalifornien zu den Trainingsdaten von Llama. Die Kläger werfen Meta vor, rund 80,6 Terabyte von LibGen und etwa 35,7 Terabyte von Anna's Archive bezogen zu haben, so die Zusammenfassung von BigGo der Gerichtsunterlagen. Ein Magistrate Judge hat Meta nun angewiesen, die Personen zu benennen, die diese Beschaffung genehmigt haben. Wir geben hier Vorwürfe wieder, keine Feststellungen. Meta wurde für das Torrenting nicht haftbar gemacht.

Beweise zu löschen ist der falsche Reflex, auch wenn es kein endgültiger Beleg ist

Aus den vorliegenden Unterlagen lässt sich nicht sagen, ob diese Löschung gegen eine Regel verstieß, und das wollen wir auch nicht vortäuschen. Wir können aber sagen, wie es aussieht, und in einem Geschäft, das auf Vertrauen beruht, ist der Anschein das Produkt. Ein KI-Labor verlangt von uns, dass wir glauben, seine Modelle seien verantwortungsvoll gebaut worden. Wird ein Datensatz im Zentrum des Streits gelöscht, während sich die Klagen häufen, ist Misstrauen die vernünftige Reaktion. Vielleicht ist der Grund harmlos. Die Wirkung ist dieselbe.

Hinzu kommt ein tieferes Problem. Wir wissen nicht, welche Unterlagen Meta aufbewahrt hat, doch diese Episode zeigt, wie brüchig die Alternative ist: Wenn die Herkunft eines Datensatzes im Download-Ordner eines einzelnen Forschers liegt, kann sie mit einem einzigen Befehl verschwinden. Das ist kein Herkunftsnachweis. Es ist ein Ehrensystem, und Ehrensysteme versagen meist genau dann, wenn viel auf dem Spiel steht.

Die Verteidigung „Die Mitarbeiter sind schuld“ macht es schlimmer

Ars Technica berichtet, Meta habe wochenlang Mitarbeitern die Schuld für das Torrenting gegeben und müsse nun die Führungskräfte nennen, die es genehmigt haben. Unsere Lesart: Genau das passiert häufig, wenn Entscheidungen über Daten nicht klar dokumentiert sind. Die Verantwortung fällt automatisch auf den, der den Knopf gedrückt hat. Der Forscher wird zur Geschichte, die Entscheider bleiben im Nebel.

Das ist schlecht für Forscher, die für Entscheidungen bloßgestellt werden könnten, die sie womöglich gar nicht verantwortet haben. Es ist schlecht für Unternehmen, die ausweichend wirken. Und es ist schlecht für Autoren, die kaum nachvollziehen können, was für ihre Werke verwendet wurde. Gerichtsunterlagen, die Tom's Hardware zitiert, zeigen, dass ein leitender KI-Forscher bereits im Oktober 2022 Bedenken äußerte. Falls das stimmt, wäre ein System, das diese Bedenken und die Antworten darauf festgehalten hätte, mehr wert gewesen als jede Löschung.

Wie „standardmäßig prüfbar“ aussähe

Das ist keine exotische Technik. Labore können für jeden Korpus ein Manifest führen: woher er stammt, wer ihn genehmigt hat, unter welcher Lizenz oder Rechtsauffassung und mit einem kryptografischen Fingerabdruck der Inhalte. Die Dateien selbst können gelöscht werden, wenn es sein muss. Der Nachweis darüber, was sie waren, sollte bleiben. Den Beleg aufbewahren, nicht unbedingt die Ware.

Die Labore werden einwenden, Manifeste lieferten Material für die Beweisaufnahme. Vermutlich stimmt das, und genau darin sehen wir den Sinn. Die Rechtslage ist ungeklärt. Im Verfahren Kadrey v. Meta erhielt Meta, laut dem Tracker von Fiund, ein Summary Judgment zugunsten von Fair Use für das Training von Llama mit Büchern von dreizehn Autoren, doch die Richterin verstand das als Warnung, nicht als Segen, und ein separater Anspruch wegen des Torrentings ist weiterhin offen. Währenddessen fordern knapp 300 Autoren einen Geschworenenprozess und den Höchstbetrag von 150.000 US-Dollar pro Rechtsverletzung, berichtet Publishers Weekly, und der beteiligte Anwalt sagt, viele weitere Fälle würden folgen. In diesem Umfeld ist ein Labor, das saubere Herkunft belegen kann, im Vorteil. Eines, das das nicht kann, trägt ein Risiko, das es zu löschen versuchte.

Unser Urteil

Fair Use mag das Training schützen, wie ein Urteil für eine kleine Auswahl von Büchern nahelegte. Eine undurchsichtige Lieferkette schützt es nicht vor Reputationsschäden. Wenn die Branche Vertrauensvorschuss will, sollte sie ihn sich mit Aufzeichnungen verdienen, die eine Klage überstehen, nicht mit Festplatten, die das nicht tun. Aufsichtsbehörden und Kunden sollten Herkunftsmanifeste so einfordern, wie sie Sicherheitsaudits einfordern. Und jedes Labor, das Löschen als Dokumentationsstrategie betrachtet, muss damit rechnen, dass man das Schlimmste über das Gelöschte annimmt.