Rischio Allucinazione
Rischio di Allucinazione
Le allucinazioni sono un rischio per l'affidabilità e la fiducia.
Riduci il rischio tramite grounding, set di test, rubriche e criteri di accettazione rigorosi per attività ad alto rischio.
Vedi anche
Grounding e RAG Rubriche di Valutazione Umano nel CicloFAQ
Cosa causa le allucinazioni?
Mancanza di grounding, attività ambigue, spostamenti di distribuzione o vincoli/valutazioni insufficienti.
Come riduciamo il rischio?
Grounding/RAG, rubriche rigorose, regole di rifiuto e revisione umana per attività ad alto rischio.
Come misuriamo il tasso di allucinazione?
Utilizza set di test etichettati e punteggio basato su rubriche per la correttezza fattuale.
Quando è richiesto l'HITL?
Per azioni ad alto impatto o quando gli output influenzano conformità, denaro o sicurezza.
Qual è il primo miglioramento?
Aggiungi grounding per attività fattuali e valuta rispetto a un set di test curato.