Was ist ein Cache-Treffer?
Ein Anbieter kann frühere Berechnungen wiederverwenden, wenn deine Anfrage zu einem gespeicherten Eingabepräfix passt. Gemeinsame Anweisungen oder Gesprächsverläufe sind typische Beispiele. Das Modell erzeugt weiterhin eine neue Antwort.
Ein Cache-Treffer benötigt ein gespeichertes Präfix, das die Abgleichregeln des Anbieters erfüllt.
So funktioniert der Preis
Passende Eingaben werden zum Cache-Preis berechnet. Nicht passende Eingaben zum regulären Eingabepreis, erzeugte Tokens zum Ausgabepreis.
10.000 Eingabe-Tokens: 8.000 gecacht + 2.000 ungecacht.
Bei 0,02 $ je 1 Mio. gecachten und 0,20 $ je 1 Mio. ungecachten Tokens kosten die Eingaben $0.00056: (8.000 × 0,02 $ + 2.000 × 0,20 $) ÷ 1.000.000. Die Ausgabe wird separat berechnet.
Warum eine Anfrage den Cache verfehlen kann
Ein geändertes Präfix, ein nicht verfügbarer Cache-Eintrag oder eine andere Anbieterroute kann Wiederverwendung verhindern. Das Verhalten ist dienstabhängig. DeepSeek beschreibt Caching als Best-Effort; prüfe gemeldete Cache-Treffer und -Fehlschläge, statt jeden wiederholten Aufruf als Treffer anzunehmen.
In unserem Abonnementvergleich verbrauchen bei Flash gecachte und ungecachte Eingabe sowie Ausgabe das gemeinsame Kontingent jeweils mit Faktor 1×. Der angezeigte Abonnementpreis setzt volle Kontingentauslastung voraus.
Cache und FP8 können zusammenwirken
Caching verwendet Eingabeberechnungen wieder. FP8 beschreibt die numerische Darstellung bei der Inferenz. Eine FP8-Route kann Cache-Treffer und -Fehlschläge haben. Mehr über FP8 →
Weiterlesen
Unabhängige Erklärung · Geprüft am 5. November 2026.