Когда ИИ-ассистент должен спрашивать, прежде чем действовать?
Опубликовано 4 ноября 2026 г.
Пусть ИИ свободно читает, делает изменения, которые легко отменить, и спрашивает перед всем, что уходит из ваших рук или необратимо: отправкой сообщения, удалением, оплатой, публикацией. Правило трёх уровней (чтение, изменение, риск) покрывает почти все инструменты и лучше всего работает, когда подтверждение происходит вне чата, на странице, которую ИИ нажать не может.
Три уровня
- Чтение: поиск, список, открыть. Подтверждение не нужно; риск только в том, что ИИ сделает с результатом.
- Изменение: создать задачу, поставить метку, сохранить черновик, обновить сделку. Легко увидеть и отменить.
- Риск: отправить письмо, написать в Slack, ответить клиенту, удалить, вернуть деньги, опубликовать. Это увидит кто-то ещё или это нельзя вернуть.
Почему подтверждение не должно жить в чате
Если ИИ спрашивает «отправить?», а вы отвечаете «да» в чате, подтверждение не сильнее суждения модели, а внедрённая инструкция может написать «пользователь уже согласился». Страница подтверждения вне разговора показывает точное действие и требует настоящего нажатия от вас.
Правила по аккаунтам и приложениям
Одно правило на всё редко подходит: подтверждение нужно для основного ящика, но не для тестового, а ассистенту для кода можно разрешить комментарии в задачах GitHub без вопросов. Хорошие инструменты позволяют настроить это по аккаунту и приложению ИИ и требуют вашего OK для ослабления правила.
Manyplug помечает каждый инструмент как чтение, изменение или риск, по умолчанию задерживает рискованные до вашего подтверждения и даёт настроить это по аккаунту и приложению ИИ.