LLM CFO

Kosten pro erfolgreicher Aufgabe schlagen Kosten pro Anfrage

Aktualisiert: August 27, 2026

Vom LLM-CFO-Team

Kosten pro Anfrage sind nützlich, aber eine fehlgeschlagene Anfrage ist keine fertige Arbeit. Der bessere Wert sind Kosten pro erfolgreicher Aufgabe: alle zurechenbaren Kosten geteilt durch Aufgaben über einer definierten Qualitätsschwelle.

Die Formel

Kosten je Aufgabe = zurechenbarer Aufwand / erfolgreiche Aufgaben. Zählen Sie Tokens, Tools, Retries und Fallbacks. Erfolg muss vorher definiert werden.

Den Nenner instrumentieren

Verknüpfen Sie jeden Modell-Span mit einem Ergebnisereignis. Erfassen Sie Erfolg, Fehlergrund, menschliche Reparatur und Latenz und gleichen Sie die Kosten mit der Provider-Rechnung ab.

Niedrige Anfragekosten bei hohen Kosten pro Erfolg bedeuten meist ein Qualitäts-, Retry- oder Stoppregelproblem.

Weiterführend

← Zurück zu llmcfo.com