Google Research gibt Sprachmodellen eine Schlafphase zum Weiterlernen
Victoria Shinder1 Min. LesezeitGoogle Research hat ein „Sleep Framework“ für kontinuierliches Lernen beschrieben: Ein eingesetztes Sprachmodell wechselt zwischen einer aktiven Phase, in der es Eingaben verarbeitet und Neues im schnellen Kurzzeitspeicher hält, und einer Offline-Phase, in der es keine Eingaben annimmt und diese Informationen in seine Gewichte überführt. Nach Angaben der Autoren erwirbt das Modell so fortlaufend Fakten, behält Wissen aus langem Kontext bis zu 10 Millionen Token und schließt besser bei komplexen Aufgaben — bei begrenztem katastrophalem Vergessen, also dem Verlust alter Fähigkeiten durch Training auf neuen Daten.
Die Schlafphase hat zwei Stufen. Bei der Konsolidierung schaltet das Modell vorab reservierte, niedrigrangige Mixture-of-Experts-Blöcke frei und schreibt das Kurzzeitwissen dort hinein, sodass ältere Parameter nicht überschrieben werden. Die Übertragung nutzt On-Policy-Distillation und eine Imitationsbelohnung auf Basis semantischer Ähnlichkeit und Levenshtein-Distanz; danach werden die temporären Parameter zurückgesetzt. In der „Traum“-Stufe aktiviert der Router gezielt ungewöhnliche Experten, um synthetische Trainingsbeispiele zu erzeugen, wählt die nützlichsten per Gradienten-Auswahl aus, trainiert darauf nach und prüft, ob sich die Leistung verbessert.
Der Beitrag betont, dass das Vokabular aus der Neurowissenschaft eine Metapher ist: Die Architektur bleibt fest, die Trainingsregeln sind von Menschen gesetzt, der Ablauf ist eine automatisierte Nachtrainingsschleife.
Was das bedeutet
Bemerkenswert ist nicht die Analogie, sondern die Technik: Kapazität wird vorab reserviert und erst bei der Konsolidierung eingeschaltet — so verdrängt neues Wissen keine alten Gewichte. Für den Betrieb bedeutet das eine dritte Option neben „neu trainieren“ und „Kontextfenster füllen“: geplante Offline-Updates eines laufenden Modells. Es handelt sich um eine Forschungsbeschreibung, keine Produktankündigung; ob und wann das ein gehostetes Modell erreicht, steht dort nicht.