Mosseri hat zum KI-Backlash recht, doch eine Prognose ist noch kein Plan

Wenn der Mann, der einen der größten Feeds der Welt verantwortet, sagt, die Menschen würden noch wütender auf KI werden: Ist das eine Warnung oder ein Alibi? Wahrscheinlich beides. Und die zweite Lesart verdient mehr Aufmerksamkeit.

Das ist der Stand. Wie The Verge berichtet, sagte Instagram-Chef Adam Mosseri in einem Interview, er rechne damit, dass Frust und Wut auf KI weiter zunehmen, und zwar nicht nur in den Kreativbranchen. Explainx zufolge umfasst seine Liste an Sorgen das Training mit den Werken von Kreativen, Deepfakes und Arbeitsplätze. Andere Medien berichten, er habe die Äußerungen im Podcast Colin and Samir gemacht, vor allem im Gespräch über Instagrams neuen Breitbild- und Langvideo-Start.

Er hat recht, und die Belege liegen längst außerhalb des Feeds

Man muss Mosseri nicht beim Wort nehmen. Die Wut zeigt sich an Orten, die mit Instagram nichts zu tun haben. Channel NewsAsia berichtet, dass das chinesische Unternehmen Lao Gan Ma angesichts öffentlicher Empörung Massenentlassungen im Zusammenhang mit KI dementierte. In Mississippi beklagen Anwohner der KI-Rechenzentren von Elon Musk laut einer Recherche des Guardian und Berichten von Mississippi Today, wiedergegeben vom italienischen Portal Online-News, Lärm und Vibrationen, und einige wehren sich gegen Kaufangebote, die sie zum Verzicht auf eine Sammelklage bewegen sollen.

Unterschiedliche Geschichten, dasselbe Muster: KI hört auf, eine Abstraktion zu sein, sobald sie den Job, den Schlaf oder die Timeline eines Menschen trifft. Unserer Ansicht nach ist der Backlash keine irrationale Technikfeindlichkeit. Es sind Menschen, die auf Kosten reagieren, die sie nicht gewählt haben, während der Nutzen in Keynotes beschrieben wird. Mosseris Prognose ist weniger eine steile These als ein Wetterbericht.

Wut vorherzusagen ist der leichte Teil

Hier trennen wir uns vom Ton der Berichterstattung. Ein Plattformmanager, der öffentlichen Zorn über Deepfakes und KI-Inhalte prognostiziert, beschreibt aus unserer Sicht ein Problem, an dessen Entstehung seine eigene Branche mitgewirkt hat. Feeds waren der Verbreitungskanal. Ranking-Systeme entschieden, was gesehen wurde. Wenn das Vertrauen schwindet, und Berichten über Mosseris Äußerungen zufolge zersetzt die Flut von KI-Bildern das Vertrauen in Instagram, während Nutzer rohe, unperfekte Inhalte als Echtheitsbeweis zu schätzen beginnen, dann hat das Unternehmen mit dem Megafon eine Pflicht, die über Kommentare hinausgeht.

Mosseri selbst hat laut der Zusammenfassung von MSN offen eingeräumt: Wegen KI werde es unmöglich, echte von gefälschten Fotos zu unterscheiden. Dem stimmen wir zu. Doch dieses Eingeständnis spricht gegen die Vorstellung, die Last liege bei Nutzern, die auf Pixel starren. Wenn man es dem Bild nicht ansieht, muss die Plattform es sagen. Das heißt: sichtbare, einheitliche und schwer zu umgehende Kennzeichnungen sowie klare Angaben dazu, wer was erstellt hat. Berichten zufolge führt Meta neue Labels und Informationen zu Urhebern ein. Die Frage ist, ob sie stark genug sind, um dem Kontakt mit Menschen standzuhalten, die täuschen wollen.

Es gibt auch einen Aspekt der Fairness. Mosseri merkt Berichten zufolge an, dass sich Menschen gern über KI-Schrott beklagen, obwohl viele KI-Inhalte großartig sind. Das ist ein berechtigter Punkt, und niemand Ernstzunehmendes will das Gute verbieten. Aber gerade weil „manches großartig ist“, kommt es aufs Sortieren an. Gute KI-Inhalte verlieren durch eine ehrliche Kennzeichnung nichts. Nur die täuschenden.

„Kontrolle“ muss mehr bedeuten als einen klügeren Algorithmus

Die aufschlussreichste Aussage der Diskussion ist, wie die italienische Seite iGizmo sie darstellt, die Idee, dass man KI nicht im Feed haben sollte, wenn man sie nicht mag. Klingt vernünftig. Der Haken ist, wie das Portal anmerkt: Überlässt man die Auswahl dem Algorithmus, erhalten Nutzer nur indirekte, keine absolute Kontrolle. Wir würden weiter gehen: Ein Ranking-System, das Vorlieben aus dem Verhalten errät, ist keine Einstellung. Es ist ein Vorschlag, den man nicht überprüfen kann.

Echte Kontrolle sähe unspektakulär und konkret aus. Ein Schalter, der KI-generierte Inhalte reduziert. Kennzeichnungen, nach denen sich filtern lässt. Ein Schutz des eigenen Abbilds, der auch für Menschen funktioniert, die nie in einem synthetischen Video auftauchen wollten. Die Berichterstattung von Explainx erwähnt die Erkennung von Abbildern auf der Plattform und die Feed-Steuerung „Your Algorithm“ von Facebook, was darauf hindeutet, dass die Werkzeuge keine Science-Fiction sind. Was nach unserer Einschätzung fehlt: Sie müssten Standard sein und nicht ein Menüpunkt, den man nach einem Skandal entdeckt.

Unser Urteil

Mosseris Warnung ist ernst zu nehmen, denn er hat vermutlich recht. Als Führungsleistung sollte sie aber nicht durchgehen. Einen Backlash vorherzusagen ist das, was man sagt, wenn man Anerkennung für die Weitsicht will, ohne Verantwortung für die Ursache zu übernehmen. Wenn Instagram und der Rest von Meta wollen, dass die Wut abflaut, ist die Abfolge einfach: konsequent kennzeichnen, das Abbild der Menschen schützen und Nutzern echte Schalter statt probabilistischer Anstupser geben.

Für Leserinnen und Leser ist der praktische Rat weniger glamourös. Nicht gekennzeichnete, zu perfekte Bilder mit Skepsis betrachten, Kreative bevorzugen, die ihren Arbeitsprozess zeigen, und die heute vorhandenen Feed-Einstellungen nutzen. Und für die Plattformen gilt: Der Backlash kommt nicht erst. Er ist da. Offen ist nur, ob sie ihm zuvorkommen oder ihn weiter nur kommentieren.