Monitoreo de Deriva
Monitoreo de Deriva
El monitoreo de deriva detecta cambios en el comportamiento, la calidad, la seguridad o las señales de costo a lo largo del tiempo.
El monitoreo de deriva empresarial depende de las líneas base de evaluación y los despliegues controlados.
Ver también
Monitoreo (LLMOps) Regresión de Prompts Manual de Reversión de IAPreguntas Frecuentes
¿Qué es la deriva en los sistemas LLM?
Un cambio en el comportamiento de salida, la calidad, la seguridad o los patrones de costo a lo largo del tiempo.
¿Qué causa la deriva?
Actualizaciones del modelo, cambios de enrutamiento, cambios de datos, cambios en el comportamiento del usuario o ediciones de prompts.
¿Cómo detectamos la deriva?
Muestreo continuo + líneas base de evaluación + alertas sobre métricas clave.
¿Qué hacemos cuando se detecta la deriva?
Congelar cambios, verificar en conjuntos de prueba, revertir y documentar la evidencia.
¿Cuál es la primera mejora?
Establecer un conjunto de evaluación de línea base y ejecutarlo regularmente.