Где ставить human approval (подтверждение) для клиентского продукта: практический разбор от process map до безопасного запуска.
Начните с результата
Опишите завершённую бизнес-операцию, владельца и условия, при которых агент обязан остановиться или передать задачу человеку.
Соберите управляемый контур
Используйте строгие tool schemas (схемы инструментов), least privilege (минимальные привилегии), checkpoint (контрольная точка), таймауты, retries (повторные попытки) и idempotency (идемпотентность). Сохраняйте trace (трассировка) и версии компонентов.
Подтвердите качество
Regression dataset (регрессионный набор данных) должен включать обычные, граничные и атакующие сценарии. Измеряйте task success (успешность задачи), ошибки tools (инструменты), стоимость и долю эскалаций.