Die Retry-Schleife belastet das KI-Budget
Aktualisiert: August 27, 2026
Retries gelten oft als Zuverlässigkeit, sind aber kostenpflichtige Modellaufrufe. Ein Agent kann einen fehlgeschlagenen Ablauf in mehrere Versuche verwandeln.
Die Steuer messen
Teilen Sie Retry- und Fallback-Kosten durch die gesamte Inferenz, nach Produkt und Fehlerklasse. Steigende Werte zeigen Timeouts, schwache Validierung oder fehlende Stop-Regeln.
Kosten mit Ergebnis verbinden
Vergleichen Sie Anfragekosten mit Kosten je erfolgreicher Aufgabe. Ein Retry ist sinnvoll, wenn sein Ergebnis messbaren Wert rettet; sonst belastet er die Marge.
Grenzen fordern
Definieren Sie Dollar-, Versuch- und Eskalationsgrenzen. Harte Grenzen müssen zur Laufzeit stoppen.