Промпт-регрессия
Регрессия промптов
Регрессии промптов происходят, когда изменение промпта снижает качество, увеличивает стоимость или нарушает ожидания безопасности.
Корпоративное управление: обнаружение через оценку, подтверждение через мониторинг, быстрый откат и документирование доказательств.
См. также
Инструмент оценки Мониторинг (Качество, Дрейф) Стратегия отката Руководство по откату ИИFAQ
Что такое регрессия промптов?
Изменение промпта приводит к снижению качества, безопасности или производительности по стоимости по сравнению с базовым уровнем.
Как мы это обнаруживаем?
Инструмент оценки + мониторинг метрик результатов и сигналов дрейфа.
Какова первая реакция?
Заморозить изменения, воспроизвести на тестовом наборе, откатить, если подтверждено.
Как предотвратить повторения?
Версионирование, шлюзы и более строгие рубрики/тестовые наборы.
Каково первое улучшение?
Запускать небольшой оценочный набор для каждого изменения промпта.