Risque d'hallucinations

Risque d'hallucination

Les hallucinations sont un risque pour la fiabilité et la confiance.

Réduisez les risques grâce à l'ancrage, aux jeux de tests, aux rubriques et aux critères d'acceptation stricts pour les tâches à haut risque.

Voir aussi

FAQ

Qu'est-ce qui cause les hallucinations ?
Manque d'ancrage, tâches ambiguës, décalages de distribution ou contraintes/évaluations insuffisantes.

Comment réduire les risques ?
Ancrage/RAG, rubriques strictes, règles de refus et examen humain pour les tâches à haut risque.

Comment mesurer le taux d'hallucination ?
Utilisez des jeux de tests étiquetés et une notation basée sur des rubriques pour l'exactitude factuelle.

Quand le HITL est-il requis ?
Pour les actions à fort impact ou lorsque les résultats affectent la conformité, l'argent ou la sécurité.

Quelle est la première amélioration ?
Ajoutez un ancrage pour les tâches factuelles et évaluez par rapport à un jeu de tests sélectionné.