Playbook: LLMOps

Playbook LLMOps

Mantenere stabile il comportamento degli LLM nonostante i cambiamenti.

  • Controllo versione per prompt e modelli
  • Strumento di valutazione + controlli di qualità
  • Rilasci Canary/A-B + monitoraggio
  • Procedure di rollback rapide
Definire il controllo versione

Idea centrale

Trattare i prompt e il routing dei modelli come codice di produzione: versionato, testato, monitorato e reversibile.

Correlati

Modello di riferimento delle capacità LLM Runbook di rollback AI

Concetti correlati (LLMOps)

Regressione dei prompt Set di test per LLM Rubriche di valutazione Strategia di fallback Controllo dei picchi di costo

Articles