Dev News Daily ENDE

OpenAI Control Room stoppt Forschungs-Jobs binnen 35 Sekunden und fällt sicher aus

OpenAI hat Control Room beschrieben, ein zentrales System, das Modell-Arbeitslasten in der Forschungsinfrastruktur verfolgt und sie bei Sicherheitsbedenken stoppen kann. Nach Angaben des Unternehmens erfasst es jede Inferenz-Arbeitslast der Forschung, darunter agentisches Sampling für Training und Evaluierung sowie Datenverarbeitung, und beendet die Ausgabe eines Modells binnen 35 Sekunden nach der Entscheidung, einen Job zu stoppen oder anzuhalten. Es läuft in der gesamten Forschungsinfrastruktur; der externe Serving-Stack sei ohnehin zentralisiert und habe eigene Wege, Bereitstellungen abzuschalten.

Der Aufbau hat drei Teile. Eine Arbeitslast, etwa ein Reinforcement-Learning-Lauf oder eine Evaluierung, holt sich beim Start eine job_id von Control Room; jede Forschungs-Arbeitslast mit agentischer Inferenz muss an einen genehmigten Safety Case gebunden sein. Will die Arbeitslast Tokens, schickt sie die job_id mit der Anfrage an eine Inferenz-Engine. Die Engine fragt Control Room, ob der Job weiterlaufen darf; ist er beendet, wird die Anfrage abgelehnt und keine weitere Ausgabe erzeugt.

Das Stoppsignal kann aus der Überwachung kommen. Alle Frontier-RL-Jobs laufen mit einem Monitor, einem weiteren Modell, das beobachtet, was das trainierte Modell tut, und Alarm schlägt. Beschließt das Überwachungssystem, einen Job zu stoppen, meldet es das an Control Room, und die nächste Inferenz-Anfrage dieses Jobs wird auf jeder Engine verweigert. Die 35 Sekunden im schlechtesten Fall stammen aus einem Cache für Autorisierungsentscheidungen, der für das Anfragevolumen nötig ist; OpenAI will den Wert auf null senken.

Zwei technische Entscheidungen fallen auf. Die Prüfung sitzt in der Inferenzschicht statt im Code der Arbeitslasten, weil dieser vielfältig ist und sich oft ändert, während es nur wenige, einheitlich ausgerollte Inferenz-Codepfade gibt. OpenAI sucht zudem regelmäßig nach Engines, die ohne die Prüfung gestartet wurden. Und das System fällt sicher aus: Ist Control Room durch Fehler, bewusstes Abschalten oder Manipulation nicht erreichbar, verweigern die Engines jede Anfrage, bis es zurück ist. Für Frontier-Forschungsjobs ist das aktiv, für den Rest wird es ausgerollt.

OpenAI Control Room stoppt Forschungs-Jobs binnen 35 Sekunden und fällt sicher aus
OpenAI Control Room stoppt Forschungs-Jobs binnen 35 Sekunden und fällt sicher aus — Dev News Daily

Warum das wichtig ist

Den Notschalter auf den schmalsten gemeinsamen Pfad zu setzen und sein Fehlen alles anhalten zu lassen, folgt derselben Logik wie ein Leitungsschutzschalter. Aus einer Richtlinie wird eine Eigenschaft der Infrastruktur.

Geschrieben von Victoria Shinder.