Halluzinationsrisiko
Halluzinationsrisiko
Halluzinationen stellen ein Zuverlässigkeits- und Vertrauensrisiko dar.
Reduzieren Sie das Risiko durch Grounding, Testdatensätze, Rubriken und strenge Akzeptanzkriterien für risikoreiche Aufgaben.
Siehe auch
Grounding & RAG Bewertungsrubriken Human-in-the-LoopHäufig gestellte Fragen
Was verursacht Halluzinationen?
Fehlendes Grounding, mehrdeutige Aufgaben, Verteilungsverschiebungen oder unzureichende Einschränkungen/Bewertungen.
Wie reduzieren wir das Risiko?
Grounding/RAG, strenge Rubriken, Ablehnungsregeln und menschliche Überprüfung für risikoreiche Aufgaben.
Wie messen wir die Halluzinationsrate?
Verwenden Sie beschriftete Testdatensätze und eine rubrikbasierte Bewertung für die faktische Korrektheit.
Wann ist HITL erforderlich?
Für Handlungen mit hoher Auswirkung oder wenn Ausgaben die Compliance, Geld oder Sicherheit betreffen.
Was ist die erste Verbesserung?
Fügen Sie Grounding für faktische Aufgaben hinzu und bewerten Sie anhand eines kuratierten Testdatensatzes.