提示词回归
当提示词变更导致质量下降、成本增加或违反安全预期时,就会发生提示词回归。
企业处理方式:通过评估检测,通过监控确认,快速回滚,并记录证据。
另请参阅
评估工具链
监控(质量、漂移)
回滚策略
AI回滚操作手册
常见问题
什么是提示词回归?
与基线相比,提示词变更导致质量、安全性或成本效益下降。
如何检测?
评估工具链 + 对结果指标和漂移信号的监控。
第一步响应是什么?
冻结变更,在测试集上复现,确认后回滚。
如何防止重复发生?
版本控制、门控机制以及更严格的评估标准/测试集。
首要改进措施是什么?
对每次提示词变更都运行一个小型评估集。