Altmans „schreckliches“ Ende zeigt: Szenariengerede ist keine KI-Sicherheit

Wie nennt man einen Konzernchef, der drei mögliche Enden des Rennens skizziert, an dem er selbst teilnimmt, das schlimmste ablehnt und dann erklärt, warum sich sein Unternehmen bei den beiden anderen kaum etwas leisten kann? Wir würden es Ehrlichkeit nennen – und zugleich ein Warnschild.

Altmans drei Enden sind eine Speisekarte, von der er nicht bestellen kann

Laut The Information beschrieb Sam Altman bei einem internen Treffen drei Endspiele des KI-Rennens. Das erste ist eine internationale Behörde nach dem Vorbild der IAEA, die Systeme prüfen und Audits verlangen darf. Das zweite ist der „Demis-Plan“, bei dem die führenden Labore fusionieren oder unter einem Dach arbeiten. Das dritte ist der „Eliezer-Plan“: Ein Entwickler erreicht als Erster eine sich selbst verbessernde KI und nutzt diesen Vorsprung, um allen Rivalen die Rechenleistung zu entziehen – in der kursierenden Formulierung würden damit die GPUs aller anderen schmelzen. Altman soll das, so der Bericht von 36Kr, als „absolut schreckliches“ Ergebnis bezeichnet haben.

Der Bericht stützt sich auf anonyme Quellen, die Details sind daher mit Vorsicht zu behandeln. Doch das wichtigste Detail ist nicht das beängstigende. Wie Martin Cid berichtet, greifen zwei der drei Ideen einen Beitrag von OpenAI aus dem Jahr 2023 auf, und keine wurde je umgesetzt. Altman soll außerdem gesagt haben, die ersten beiden Optionen erforderten tiefgreifende Koordination, und OpenAI könne jetzt keinen Boden abgeben, da es und Anthropic auf einen Börsengang zusteuern.

Das „schreckliche“ Ende ist der Normalfall, nicht der Ausreißer

Lesen Sie das noch einmal. Die guten Enden erfordern Kooperation. Das schlechte erfordert nur, dass jemand gewinnt. In einem Rennen, in dem niemand derjenige sein will, der bremst, ist der Weg „Der Gewinner bekommt alles“ unserer Ansicht nach kein fernes Randrisiko, sondern das, wohin die Anreize führen, solange niemand dafür zahlt, sie zu ändern. Nach unserer Lesart läuft Altmans berichtete Haltung darauf hinaus: Er ist gegen das Ergebnis, aber auch dagegen, Boden aufzugeben, der helfen könnte, es zu vermeiden.

Das ist weniger Heuchelei als eine strukturelle Falle, und er steckt keineswegs allein darin. Wie 01net erinnerte, sagte Altman Anfang dieses Herbstes, er stimme Anthropic-Chef Dario Amodeis Forderung nach einem langsameren Tempo zu, wolle aber nicht der Einzige sein, der das Tempo drosselt. Alle sind bereit zu bremsen – vorausgesetzt, jemand anderes bremst zuerst.

Szenarien ohne Zusagen sind PR

Unsere Position: Zukunftsbilder zu zeichnen ist billig, sich zu binden ist teuer. Die berichteten Belege für Verbindlichkeit sind dünn. Das Selbstregulierungsgremium, das OpenAI, Google und Anthropic Berichten zufolge aufbauen, die Standards Authority for Frontier AI, soll keine Durchsetzungsbefugnis haben, und die Labore sind sich offenbar weiterhin uneins, wer neue Modelle testen soll. In den USA argumentiert bereits eine Kartellbeschwerde, Sicherheitsabsprachen zwischen Laboren seien eine unzulässige Absprache. Die Chefs von Meta und Nvidia wiederum sollen argumentieren, solche Regeln schützten vor allem etablierte Anbieter.

Einige dieser Einwände verdienen Gehör. Ein einziges fusioniertes Superlabor, der „Demis-Plan“, würde enorme Macht bündeln, und eine internationale Inspektionsbehörde setzt voraus, dass Washington und Peking Inspektoren in ihre sensibelsten Labore lassen. Forbes weist, wie im selben Bericht wiedergegeben, darauf hin, dass selbst ein US-Vorschlag, wonach sich beide Länder gegenseitig über gefährliche KI-Vorfälle informieren sollen, bislang nur ein Entwurf und keine Vereinbarung ist. Und in seinem Politico-Interview wandte sich Altman selbst, wie 01net berichtet, gegen die Vorstellung, ein einzelnes Labor in San Francisco solle diese Technologie kontrollieren – was auch gegen die Fusionsidee spricht.

Aber gerade „jede Lösung hat Probleme“ ist der Grund, warum Verpflichtungen wichtig sind. Ein Unternehmen, das das schreckliche Ende ernst nähme, würde etwas Kostspieliges auf den Tisch legen: einen Auslöser für eine Pause, einen externen Prüfer mit echtem Zugang, eine Obergrenze für Rechenleistung, die es zuerst akzeptiert. Eine Präsentation vor der Belegschaft genügt dafür nicht.

Labore daran messen, worauf sie verzichten würden

Wir sollten der Offenheit gegenüber nicht zynisch sein. Es ist nützlich, wenn ein Insider offen ausspricht, dass das Alignment-Problem ungelöst ist; Lefilia berichtet, Altman halte Sandboxes und Überwachung nur für Notbehelfe. Doch Offenheit über das Risiko, verbunden mit der Weigerung, sich als Erster selbst zu beschränken, ist eine Beschreibung des Problems, keine Lösung.

Unser Urteil: Labore sollten daran gemessen werden, worauf sie verzichten würden, nicht daran, welche Szenarien sie formulieren können. Solange keines von ihnen vor einem Börsengang eine Grenze akzeptiert, die der eigenen Position schadet, sind die drei Enden ein Gesprächsanlass – und das dritte bleibt die Standardeinstellung.