LiquidAI beschleunigt sein Vision-Modell um bis zu das 3,13-Fache
Victoria Shinder1 Min. LesezeitLiquidAI hat am 24. September 2026 auf Hugging Face ein experimentelles DSpark-Entwurfsmodell fuer sein Vision-Language-Modell LFM2.5-VL-3B veroeffentlicht. Es folgt dem Muster der frueheren LFM2.5-DSpark-Drafter des Teams: ein Pfad fuer spekulatives Dekodieren, der an ein bestehendes Modell angesetzt wird und einen geringen Zuwachs beim Speicherbedarf gegen einen deutlich groesseren Geschwindigkeitsgewinn tauscht, bei unveraenderter Ausgabequalitaet.
Genannt werden Decode-Beschleunigungen von bis zu 3,13-fach auf dem Geraet und 2,66-fach auf einer H100 sowie Gewinne ueber die gesamte Anfrage von bis zu 2,62-fach beziehungsweise 2,27-fach.
Was das bedeutet
Der Abstand zwischen der Decode-Zahl und der Gesamtzahl ist der ehrliche Teil dieser Veroeffentlichung. Aus 3,13-fach in der Decode-Schleife werden 2,62-fach, sobald alles Uebrige der Anfrage mitzaehlt, denn spekulatives Dekodieren beschleunigt eine Stufe und laesst Bildvorverarbeitung, Prefill und Transport, wo sie waren. Wer eine Installation dimensioniert, rechnet mit der zweiten Zahl.
Spekulatives Dekodieren ist zudem eine seltene Optimierung, die keine schlechtere Antwort verlangt. Quantisierung, Distillation und Pruning tauschen irgendwo Qualitaet gegen Kosten; beim Drafter werden Vorschlaege entweder angenommen oder nicht, und der Pruefer entscheidet. Diese Eigenschaft macht das Etikett experimentell vertretbar: Der Fehlerfall ist ein kleinerer Gewinn, nicht ein anderes Modell.