OpenAI fordert einen Standardsmechanismus und eine Meldepflicht
Serguey Asael Shinder2 Min. LesezeitOpenAI hat am 21. September einen Beitrag aus dem Bereich Global Affairs veröffentlicht, der nicht um ein allgemeines Sicherheitsversprechen bittet, sondern um zwei konkrete Apparate: einen Mechanismus, durch den nationale und internationale Standards für Spitzenmodelle sich ergänzen statt zu konkurrieren, und einen gemeinsamen Satz von Messgrößen samt Meldeprotokoll für Vorfälle, damit Labore und Regierungen denselben Vorgang mit denselben Begriffen beschreiben können. Bei beidem solle die USA vorangehen. Bemerkenswerter ist, wofür diese Apparate laut Beitrag gebraucht werden: für rekursive Selbstverbesserung, dort als RSI geführt und als der Zustand definiert, in dem KI-Systeme so viel von der Arbeit an ihren Nachfolgern übernehmen, dass das Tempo nicht mehr von menschlicher Kapazität bestimmt wird.
An dieser Stelle bezieht der Text eine ungewöhnlich überprüfbare Position: vollständig autonome RSI finde heute nicht statt und solle nicht verfolgt werden, solange sie nicht sicher machbar sei - abhängig davon, ob menschliche Kontrolle erhalten bleibt und ob eine informierte demokratische Entscheidung vorliegt, nicht davon, ob die Fähigkeit verfügbar wird. Als Vorgeschmack auf diese Risikoklasse verweist OpenAI auf den von ihm selbst offengelegten Hugging-Face-Vorfall, sagt aber ausdrücklich, dieser sei nicht durch RSI entstanden.
Was das bedeutet
Die Meldepflicht ist die interessantere der beiden Forderungen, weil nur sie Belege erzeugt, die sich von außen zählen lassen. Standardsgremien arbeiten langsam, sind umstritten und lassen sich auf dem Papier bedienen; ein Meldeprotokoll liefert entweder einen Strom datierter, vergleichbarer Einträge oder eben nicht, und der Abstand zwischen heutiger freiwilliger Offenlegung und einer Pflicht ist messbar. Genau deshalb ist es die schwerere Bitte: sie verwandelt die Einschätzung eines Unternehmens, was als Vorfall gilt, in eine Pflicht zur Meldung.
Die RSI-Definition arbeitet auch für OpenAI selbst, und das gehört dazugesagt. Indem der gefährliche Fall eng gefasst wird - volle Autonomie in der Selbstverbesserungsschleife -, bleibt alles darunter gewöhnlicher Betrieb, einschließlich der KI-gestützten Forschung, die laut Beitrag die eigene Entwicklung bereits beschleunigt und zu Arbeiten am Navier-Stokes-Problem beigetragen hat. Wo genau die Grenze liegt, erfährt man hier nicht. Was man erfährt, ist die erste Hälfte eines Arguments dafür, dass die Grenze nicht das Labor ziehen soll - und das ist von einem Spitzenentwickler protokolliert nützlicher als eine weitere Beteuerung, Sicherheit sei wichtig.