Wie Prompt-Stil auf der Rechnung erscheint
Aktualisiert: September 1, 2026
Prompts wachsen wie Konfigurationsdateien: jemand ergänzt eine Anweisung wegen eines Fehlers, jemand ein Beispiel, ein Dritter einen erklärenden Absatz. Entfernt wird nie etwas. Ein halbes Jahr später hat der System-Prompt dreitausend Tokens und niemand weiß, welche zweihundert davon tragen.
Warum sich das aufsummiert
Anders als die Ausgabe wird der Prompt-Overhead bei jeder Anfrage identisch bezahlt, dauerhaft. Tausend verschwendete Tokens bei zehn Millionen Aufrufen im Monat sind zehn Milliarden Tokens reiner Formatierung pro Monat.
In Mehrturn-Dialogen ist es schlimmer: Der System-Prompt geht bei jedem Turn erneut mit. In Agenten-Schleifen wird derselbe aufgeblähte Vorspann für eine Nutzeraktion ein Dutzend Mal abgerechnet.
Was wirklich verschwendet
Nicht die Höflichkeit. Das Gewicht liegt in redundanten Anweisungen, defensivem Boilerplate für eine längst abgelöste Modellgeneration, sich duplizierenden Beispielen und Erklärungen für menschliche Leser der Datei.
Als Code mit Budget behandeln
Messen Sie den festen Prompt als Anteil der durchschnittlichen Anfrage. Stabilen Teil nach vorn, damit Caching greift. Dann per Ablation kürzen: einen Block entfernen, Evals laufen lassen, streichen wenn die Qualität hält.