LLM CFO

Boucle de reprises et coût d’inférence

Mis à jour: August 27, 2026

Par l’équipe LLM CFO

Une reprise est un nouvel appel modèle, pas une résilience gratuite. Mesurez sa taxe: dépenses de reprises et bascules divisées par toute l’inférence.

Tracer l’arbre

Conservez requête parente, tentative, fournisseur, modèle, outil, erreur, tokens et résultat. Les appels imbriqués doivent garder leur relation parent-enfant.

Limiter la boucle

Attribuez à chaque classe d’erreur un nombre maximal de tentatives, un plafond de tokens, un plafond financier et une durée maximale. Une erreur déterministe ne doit pas être rejouée sans changement.

Ne supprimez pas toutes les reprises: rendez chaque tentative visible, bornée et justifiée par un meilleur résultat.

À lire aussi

← Retour à llmcfo.com