Ausweichstrategie

Fallback-Strategie

Fallbacks halten Systeme sicher, wenn LLMs ausfallen oder sich verschlechtern.

Unternehmensmuster: Timeouts, gestaffeltes Routing, zwischengespeicherte Antworten und sichere Degradationsmodi.

Siehe auch

FAQ

Was ist ein Fallback?
Ein sichererer alternativer Pfad, wenn das LLM ausfällt, sich verschlechtert oder ein Timeout auftritt.

Was sind gängige Fallback-Modi?
Einfacheres Modell, zwischengespeicherte Antworten, regelbasierte Antworten oder Ablehnung/Eskalation an einen Menschen.

Woher wissen wir, dass Fallbacks funktionieren?
Messen Sie die Fallback-Rate, die Erfolgsrate und die Auswirkungen auf Ergebnisse und Kosten.

Was ist ein häufiger Fehlerfall?
Kein Fallback → Benutzer sehen Fehler oder instabiles Verhalten unter Last.

Was ist die erste Verbesserung?
Fügen Sie Timeouts und einen deterministischen Fallback-Pfad für kritische Abläufe hinzu.