LLM CFO

Tokenkosten von JSON-Modus und Schemas

Aktualisiert: September 1, 2026

Vom LLM-CFO-Team

Strukturierte Ausgabe wirkt wie eine Formatentscheidung. Auf der Rechnung ist sie eine Mengenentscheidung, und zwar an drei Stellen gleichzeitig.

Das Schema kostet bei jeder Anfrage Eingabe-Tokens

Das Schema wird in die Anfrage serialisiert. Ein bescheidenes Schema sind ein paar hundert Tokens — multipliziert mit jedem Aufruf, jedem Turn, über die gesamte Lebensdauer der Funktion. 400 Tokens mal einer Million Aufrufe sind 400 Millionen Eingabe-Tokens für eine Form, die sich nie ändert.

Schlimmer: steht das Schema nach dem volatilen Teil des Prompts, zerstört es das gecachte Präfix und damit den Rabatt auf alles davor.

Syntax kostet Ausgabe-Tokens

Jede Klammer, jedes Anführungszeichen, jeder Feldname ist ein generiertes Token zum Ausgabepreis. Lange Feldnamen sind eine dauerhafte laufende Gebühr.

Wiederholungen sind der teure Teil

Jeder Validierungsfehler kostet einen vollen Retry: die gesamte Eingabe und die gesamte Ausgabe erneut. 2% ungültige Antworten sind 2% Mehrkosten ohne Gegenwert.

Was zu tun ist

Schema ins stabile Präfix, damit es gecacht wird; nur Felder anfordern, die Sie auch verwenden; kurze Namen und flache Strukturen; und die Fehlerquote der Validierung messen.

Weiterführend

← Zurück zu llmcfo.com