Riesgo de alucinación
Riesgo de Alucinación
Las alucinaciones son un riesgo para la fiabilidad y la confianza.
Reduzca el riesgo mediante el anclaje, conjuntos de pruebas, rúbricas y criterios de aceptación estrictos para tareas de alto riesgo.
Ver también
Anclaje y RAG Rúbricas de Evaluación Humano en el BuclePreguntas Frecuentes
¿Qué causa las alucinaciones?
Falta de anclaje, tareas ambiguas, cambios en la distribución o restricciones/evaluación insuficientes.
¿Cómo reducimos el riesgo?
Anclaje/RAG, rúbricas estrictas, reglas de rechazo y revisión humana para tareas de alto riesgo.
¿Cómo medimos la tasa de alucinación?
Utilice conjuntos de pruebas etiquetados y puntuación basada en rúbricas para la corrección factual.
¿Cuándo se requiere HITL?
Para acciones de alto impacto o cuando los resultados afectan el cumplimiento, el dinero o la seguridad.
¿Cuál es la primera mejora?
Agregue anclaje para tareas factuales y evalúe con un conjunto de pruebas curado.