Всё, что мы делали, сходится здесь. Четыре механизма контроля — обязательный набор прода.

1. Уровни автономии

Читает и советует — агент анализирует, человек делает.
Готовит — черновики действий, человек нажимает «отправить».
Делает с подтверждением — действие ждёт кнопки «да» (для необратимого — навсегда этот уровень).
Делает сам — только проверяемое и обратимое, после испытательного срока.

Каждому инструменту агента — свой уровень. «Посмотреть заказ» — четвёртый, «оформить возврат» — третий, «удалить клиента» — никогда не четвёртый.

2. Песочницы

Опасные операции — в изолированной среде: тестовая база вместо боевой, «сухой прогон» (агент пишет, что сделал бы, не делая). Новые версии агента гоняй в песочнице на записях реальных задач прошлой недели — сравнение решений старой и новой версии до выпуска.

3. Наблюдаемость

Лог каждого шага: что решил, какой инструмент, что получил, сколько стоило. Без логов отладка агента — гадание. С логами — «на шаге 4 выбрал не тот инструмент, потому что в контексте не было X» (знакомая диагностика из урока памяти).

4. Стоп-кран

Кнопка «остановить агента» — доступная, мгновенная, известная всей команде. Плюс автостопы: перерасход бюджета, всплеск ошибок, аномальная активность → агент замирает и зовёт человека.

Итоговая формула курса

Сильная модель + минимум инструментов + правильная память + лимиты + уровни автономии + логи + стоп-кран. Скучно? Да. Работает? Да. Скучная надёжность — то, что отличает агента в проде от демо на сцене.

Контроль: подтверждения, песочницы, наблюдаемость