← News-Übersicht | Spotmarkthalle

14x schnellere Inferenz durch weniger Lesen statt schnelleres Lesen: Corbenics Galahad macht SSDs zum KI-Speicher

2026-11-05 · Quelle:TechRadar

14x schnellere Inferenz durch weniger Lesen statt schnelleres Lesen: Corbenics Galahad macht SSDs zum KI-Speicher

Das belgische Startup verspricht exakte, verschlüsselte KV-Cache-Wiederverwendung für vLLM, SGLang und Llama.cpp – doch LMCache, Nvidia und Phison haben am Tisch längst ihre Plätze.

Vierzehnmal schneller ist die Zahl, mit der Corbenic aufwartet. Die Galahad-Software des belgischen Startups macht die SSD eines Servers zum KI-Speicher für den Betrieb großer Sprachmodelle, und das Unternehmen sagt offen, woher seine 14x-Beschleunigung tatsächlich stammt: nicht aus schnellerem Lesen der Daten, sondern aus dem Lesen weniger davon.

Corbenics eigene Maxime greift den Mechanismus: Die GPU liest denselben Text nie zweimal. Galahad ist um die Wiederverwendung des KV-Cache herum gebaut – der Zwischenzustand, den ein Modell beim Verarbeiten eines Prompts erzeugt, wird erfasst, auf der SSD persistiert und wieder geladen, statt neu berechnet zu werden. Wiederholen oder überlappen sich Eingaben, überspringt der Accelerator redundante Arbeit vollständig. Diese Unterscheidung ist für jeden relevant, der SSD-basiertes Caching evaluiert, denn der Performance-Claim beruht auf vermiedener Berechnung, nicht auf Speicherbandbreite, die DRAM übertrifft.

Das Produkt verspricht exakte, verschlüsselte KV-Cache-Wiederverwendung über drei der am weitesten verbreiteten Inferenz-Stacks hinweg: vLLM, SGLang und Llama.cpp. Exaktheit steht für Treue – zwischengespeicherter Zustand wird wortgetreu statt näherungsweise wiederverwendet –, während die Verschlüsselung die Vertraulichkeitsfrage adressiert, die in dem Moment entsteht, in dem Prompt-Material auf persistenten Speicher geschrieben wird.

Corbenic ist allerdings nicht der Erste am Tisch. LMCache, Nvidia und Phison besetzen den runden Tisch zum KV-Cache-Offload bereits.

Die Wettkampfaufstellung ist selbst aufschlussreich. LMCache nähert sich dem Problem von der Caching-Software-Seite, Nvidia von der Accelerator-Schicht und Phison von den Speichercontrollern – der belgische Neueinsteiger trifft also auf potenzielle Rivalen an jedem Hop zwischen GPU und Laufwerk. Seine Differenzierung ruht auf der Verbindung von exakter Wiederverwendung mit Verschlüsselung, angewandt auf Open-Source-Frameworks, die viele Betreiber bereits produktiv fahren.

Für Käufer von KI-Infrastruktur ist Galahad ein Datenpunkt in einer breiteren Neupositionierung der SSD: vom Massenspeicher zu einer Speicherebene, die die Inferenzökonomie prägt. Corbenics Ehrlichkeit über die Quelle seiner 14x-Zahl ist ein nützlicher Maßstab für die gesamte Kategorie. Jeder Betreiber, der Hersteller-Claims hier abwägt, sollte auf dieselbe Frage drängen – wie viel der Beschleunigung stammt aus schlauerem Caching, und wie viel aus der Hardware selbst?

Tags: Corbenic · Galahad · KV Cache · SSD Storage · vLLM · Nvidia


Weitere Meldungen


萬安算交所 AIXX · AIXX · Verifizierte Computing-Börse · Zur Spotmarkthalle