Apertus 1.5: Bilder und Audio per Early Fusion, 262k Kontext und alle Trainingsstufen offen
Victoria Shinder2 Min. LesezeitDas Schweizer KI-Team hinter Apertus hat auf Hugging Face Release Notes zu Apertus 1.5 veröffentlicht, zusammen mit einem technischen Bericht (arXiv:2610.15542, datiert 11. Oktober 2026). Die aktualisierten Gewichte für 8B und 70B erschienen bereits am 24. Juli 2026 unter der Lizenz Apache 2.0; der neue Beitrag fasst zusammen, wie sie trainiert und bewertet wurden.
Was 1.5 hinzufügt. Apertus 1.5 ist ein fortgesetztes Pretraining der ersten Modellgeneration. Das 8B-Modell erhielt 4 Billionen zusätzliche Tokens aus Text- und multimodalen Daten, das 70B-Modell 2 Billionen – insgesamt 19 beziehungsweise 17 Billionen. Neu sind Bild- und Audioverständnis (Audio gilt als experimentell), ein optionaler Denkmodus, ein Kontextfenster von 262.144 Tokens – das Vierfache von Apertus 1.0 – sowie bessere Befolgung von Anweisungen und Werkzeugnutzung. Die Modelle verstehen Bilder und Audio, erzeugen aber nur Text.
Early Fusion statt Vision-Encoder. Bilder und Audio gelangen als diskrete Tokens in dieselbe Sequenz wie der Text. Bilder werden mit dem Emu3.5-Tokenizer zerlegt, ein Bild mit 512×512 Pixeln ergibt 1.024 Tokens; für Audio dient WavTokenizer mit 40 Tokens pro Sekunde. Weil nur das Vokabular erweitert wird, bleibt die Architektur nach Angaben des Teams unverändert, und das Training läuft so schnell wie mit reinem Text. Das fortgesetzte Pretraining hatte vier Phasen: ungepaarte Daten, gepaarte Bild-Beschreibungs- und Audio-Transkript-Daten, eine Cooldown-Phase mit mehr Mathematik und Code sowie eine Langkontext-Phase, in der das Fenster von 8k auf 262k Tokens wuchs. Mehr als die Hälfte der Trainings-Tokens ist reiner Text. Für die Daten gelten die bisherigen Regeln: öffentlich verfügbar, frei lizenziert, robots.txt-Ausschlüsse rückwirkend beachtet, jede Quelle im Repository apertus-data-transparency aufgeführt.
Nachtraining in fünf Stufen. SFT mit 3,7 Millionen Textbeispielen plus Bild- und Sprachdaten, Langkontext-SFT im vollen Fenster, Reinforcement Learning mit überprüfbaren Belohnungen auf rund 350.000 Prompts, DPO mit von Judges bewerteten Präferenzpaaren und beim 8B-Modell die Ausrichtung auf die Apertus-Charta per SDPO. Der SFT-Textmix, der Präferenzpool und die Präferenzpaare sind veröffentlicht, die Zwischenstände – Basis, SFT, RLVR und DPO – liegen in der Hugging-Face-Sammlung des Projekts.
Einordnung. Das Team schreibt, die Modelle lägen weiter hinter den führenden Open-Weight-Modellen, das 8B-Modell übertreffe aber gleich große offene Modelle bei Anweisungsbefolgung und mehrsprachigen Aufgaben, und die multimodale Leistung liege näher an Gemma 4 12B. Externe Prüfer berichten von Ergebnissen bei Schweizer Rechtsaufgaben auf dem Niveau führender offener Modelle und bei einem Übersetzungsbenchmark von einem 8B-Modell gleichauf mit GPT-OSS-20B.
Bewertungsprotokolle. Die Ergebnisse erscheinen als Evaluation Cards im Schema Every Eval Ever (EEE) der EvalEval Coalition, das festhält, wer eine Bewertung durchgeführt hat, wie auf das Modell zugegriffen wurde und mit welchen Generierungseinstellungen. Der Beitrag verweist auf EvalEvals Befund, dass das Schema 56 von 60 Berichtselementen abbilden kann, die Artikel 55 des EU AI Act und der GPAI-Verhaltenskodex verlangen.
Wie es weitergeht. Das Team meldet fünf Millionen Downloads und eine Roadmap für Apertus 2.0: eine Sparse-Mixture-of-Experts-Architektur mit rund 600 Milliarden Parametern insgesamt, Schwerpunkte Agenten, Mathematik und Programmierung.
Quelle: Hugging Face Blog, „Apertus 1.5 Release Notes“ — https://huggingface.co/blog/swiss-ai/apertus-v15-release-notes