Где обязательно оставить одобрение человека в ИИ-процессе

В ИИ-процессе стоит оставлять одобрение сотрудника перед действиями, которые затрагивают деньги, права людей, обещания клиентам или приводят к необратимым изменениям. ИИ может подготовить расчёт, проект ответа или рекомендацию, а человек — проверить результат и подтвердить следующий шаг. Начните с одного повторяющегося процесса, заранее определите, что проверять, и сравните показатели до и после пилота.

Почему одобрение нужно не на каждом шаге

Если проверять каждое действие ИИ, автоматизация может оказаться медленнее прежней работы. Если же разрешить системе самостоятельно менять сведения, отправлять сообщения и проводить операции, небольшая ошибка способна повлечь реальные расходы или конфликт с клиентом. Задача — не поставить человека над каждой подсказкой, а определить, где цена ошибки достаточно велика, чтобы требовалось подтверждение.

Обычно ИИ хорошо подходит для подготовки черновика, извлечения нужных сведений из обращения, распределения заявок по темам и создания списка возможных решений. Это промежуточные действия: их можно проверить, исправить или отменить. Иной уровень риска возникает, когда результат автоматически становится обязательством компании: клиент получает обещание о сроке или цене, сотруднику меняют доступ, клиенту начисляют деньги, а запись удаляют без возможности восстановления.

Полезно разделять процесс на два вида шагов. Первый — подготовительные: собрать, сгруппировать, предложить, составить черновик. Второй — подтверждающие: отправить, оплатить, изменить, закрыть, отказать. В большинстве случаев ИИ можно поручить первый вид работы, а второй оставить сотруднику. Такой подход не отменяет автоматизацию, а ставит контроль именно перед значимым последствием.

Какие действия передавать на одобрение

При разборе процесса мы советуем искать не абстрактные «опасные решения ИИ», а конкретные действия и их последствия. Если результат можно быстро исправить и он не затрагивает клиента или деньги, автоматическое выполнение может быть уместно после проверки на тестовых примерах. Если исправление сложно, дорого или юридически значимо, нужен ответственный сотрудник.

• Деньги. Возвраты, списания, начисления, скидки, изменение суммы заказа, выставление счёта и подтверждение платежа. ИИ может подготовить расчёт и пояснить его, но сотрудник проверяет сумму, получателя и основание.
• Права и доступ. Изменение роли сотрудника, открытие доступа к клиентской базе, решение об отказе в услуге или другие действия, способные повлиять на права и интересы человека. Здесь важны не только точность результата, но и понятное основание решения.
• Обещания клиентам. Срок ремонта, наличие товара, цена, гарантия, результат процедуры, условия доставки или возврата. Черновик ответа можно подготовить автоматически, но проверку фактов и условий лучше оставить сотруднику.
• Необратимые изменения. Удаление карточки, закрытие обращения, отправка массового сообщения, публикация объявления, изменение первичных сведений в учётной системе. Если действие нельзя безопасно отменить, сначала требуется подтверждение.

Учитывайте контекст. Автоматическое сообщение о получении заявки обычно несёт небольшой риск, если текст заранее согласован. А индивидуальное обещание о сроке ремонта по неполным сведениям — уже существенный риск для отношений с клиентом. Оценивайте не только сам тип действия, но и возможный ущерб, возможность исправления, объём затронутых людей и доступные сотруднику сведения.

Как распределить контроль: простая схема

Для начала достаточно разделить действия на три режима. Это помогает избежать двух крайностей: полного запрета на автоматизацию и бесконтрольного выполнения всех рекомендаций ИИ. Ниже — ориентир для первичной оценки, а не готовый список правил для любой отрасли.

Режим	Что делает ИИ	Пример	Контроль
Подготовка	Собирает сведения, сортирует, предлагает вариант	Группирует обращения клиентов по теме	Сотрудник проверяет выборочно по установленному графику
Исполнение с подтверждением	Готовит действие, но не выполняет его	Создаёт проект возврата или ответа с ценой	Ответственный проверяет данные и нажимает подтверждение
Автоматическое выполнение	Выполняет ограниченное действие по правилам	Присваивает обращению внутреннюю категорию	Есть журнал действий, выборочная проверка и возможность исправить результат

Для каждого режима задайте границы. Например, ИИ может подготовить возврат, но не провести его; предложить скидку в пределах утверждённого диапазона, но не обещать её клиенту; составить проект ответа, но не отправлять индивидуальные условия без проверки. В карточке процесса полезно указать, кто принимает решение, где сотрудник видит основание рекомендации и что делать, если данных недостаточно.

С чего начать: один повторяющийся процесс

Выберите один процесс, который повторяется регулярно и отнимает заметное время. Например, первичная сортировка заявок, подготовка ответа на типовой вопрос, сбор сведений для расчёта или перенос данных из обращения в рабочую систему. Не начинайте с процесса, где одновременно принимаются решения о деньгах, правах и индивидуальных условиях для клиента: для первого пилота проще найти более узкий участок.

1. Опишите входные данные. Укажите, откуда поступает информация, какие поля обязательны, какие сведения могут отсутствовать и что нельзя передавать ИИ.
2. Определите допустимый результат. Например: предложить категорию обращения и подготовить черновик ответа, но не отправлять сообщение и не менять цену.
3. Назначьте проверяющего. У сотрудника должны быть время, доступ к исходным сведениям и полномочия исправить результат. Если проверка превращается в формальное нажатие кнопки, контроль не работает.
4. Соберите примеры. Возьмите типичные и сложные случаи, в том числе неполные или противоречивые обращения. Проверьте, где система ошибается и как она сообщает о нехватке данных.
5. Запустите ограниченный пилот. Сначала используйте результаты как подсказки, не меняя привычный порядок работы. Затем включайте автоматическое выполнение только для низкорисковых действий с понятным способом отмены.

Значит, ответ на вопрос «с чего начать?» — выбрать один повторяющийся процесс, зафиксировать входные данные и оставить контроль результата человеку. На странице продуктов KM2B можно посмотреть направления решений, а конкретный сценарий лучше подбирать под используемые системы, нагрузку и правила работы компании.

Какие данные ограничить и что учитывать по закону

Правило для данных простое: передавайте только то, что действительно требуется для конкретной задачи. Если для сортировки обращения достаточно категории услуги и краткого описания, не стоит добавлять паспортные сведения, полную историю покупок или медицинскую информацию. Чем меньше данных в процессе, тем ниже последствия случайной ошибки и тем проще объяснить сотрудникам, что именно обрабатывается.

Если используются персональные данные клиентов или сотрудников, нужно учитывать требования 152-ФЗ: определить цель и основание обработки, ограничить состав данных и обеспечить их защиту. Отдельного внимания требуют процессы, где решение принимается исключительно автоматически и может иметь юридические последствия либо иным образом затрагивать права и законные интересы человека. Статья 16 152-ФЗ устанавливает для таких решений специальные ограничения и условия. Поэтому решение об отказе, допуске, изменении условий или ином существенном последствии не следует незаметно отдавать ИИ без правовой оценки и участия ответственного лица.

Также заранее выясните, где обрабатываются сведения, кто имеет к ним доступ, сколько они хранятся и можно ли удалить их по установленной процедуре. Для пилота часто можно использовать обезличенные примеры или тестовые данные. Если это невозможно, определите допустимые поля и настройте доступ так, чтобы сотрудники и поставщики решения получали только необходимую информацию.

Когда ИИ помогает готовить рекламные сообщения, публикации или предложения, сотруднику важно проверять не только стиль, но и фактические утверждения, цены и условия. Требования к рекламе устанавливает 38-ФЗ. Само использование ИИ не снимает с компании ответственности за содержание размещаемого материала. Перед публикацией нужно проверить сведения и убедиться, что текст соответствует действующим условиям и требованиям закона.

Как проверить пользу пилота и не потерять контроль

До запуска зафиксируйте исходные показатели. Выберите те, которые отражают реальную работу: сколько времени занимает обработка одного обращения, сколько ошибок приходится исправлять, сколько случаев теряется или задерживается, как часто клиент повторно обращается за уточнением. Для финансового процесса отдельно отмечайте неверные суммы и время на их исправление. Не подменяйте измерения общим впечатлением, что «стало быстрее».

После пилота сравните те же показатели за сопоставимый период и при похожей нагрузке. Учитывайте время сотрудника на проверку: если подготовка ответа стала быстрее, но каждое предложение приходится переписывать, выгода может быть небольшой. Зафиксируйте также сбои, случаи, когда система отказалась отвечать, и ситуации, в которых сотрудник не согласился с её рекомендацией. Это помогает понять, что именно нужно изменить: инструкции, входные данные, границы автоматизации или сам процесс.

Так можно ответить на вопрос «как проверить пользу?» — до запуска зафиксировать время, ошибки и потери, а затем сравнить те же показатели после пилота. Срок окупаемости зависит от объёма операций, стоимости текущей работы и затрат на поддержку. Для небольшого пилота ориентир часто составляет 2–4 месяца, но это не гарантия: оценку нужно считать по данным конкретного бизнеса. Принцип расчёта затрат и эффекта описан на странице об оценке окупаемости.

Продолжать пилот имеет смысл, если польза измерима, ошибки обнаруживаются до того, как затронут клиента, а сотрудникам понятен порядок действий. Если система регулярно придумывает недостающие сведения или люди подтверждают рекомендации не читая, сначала ограничьте сценарий и исправьте причину. Не расширяйте полномочия только потому, что первые результаты выглядят удачно.

Как сделать одобрение рабочим, а не формальным

Сотруднику недостаточно показать кнопку «принять». Перед подтверждением он должен видеть исходные сведения, предложенное действие, его основание и возможные последствия. Например, перед возвратом — номер заказа, сумму и правило, по которому рассчитано возмещение; перед ответом о сроке — актуальную загрузку и подтверждённую дату. Если причины рекомендации не видны, человек не может содержательно проверить результат.

Заранее установите поведение при сомнении. ИИ должен уметь остановиться, если информация противоречива, отсутствует обязательное поле или случай выходит за заданные рамки. В таком случае задача передаётся человеку без попытки угадать ответ. Для каждого важного действия полезно сохранять, кто его подтвердил, что было предложено и что в итоге изменилось. Журнал помогает разбирать ошибки и корректировать правила.

Сотрудникам нужно объяснить не только, куда нажимать, но и за что они отвечают. Одобрение — не формальность и не перенос ответственности на того, кто проверил текст в спешке. Руководителю стоит определить, сколько времени отводится на проверку, кто подменяет ответственного и как действовать при сбое или споре с клиентом. Для действий с деньгами или правами может понадобиться подтверждение двух сотрудников либо отдельный порядок согласования.

Итак, ограничивайте передачу данных необходимым минимумом, а деньги, права, обещания клиентам и необратимые изменения оставляйте на одобрение сотрудника. Это понятная граница для старта: ИИ помогает подготовить работу, человек проверяет последствия, а автоматическое выполнение расширяется только после измеримого и безопасного пилота.

Следующий шаг по теме

Базовые материалы и инструменты KM2B для внедрения ИИ в бизнес.

• Услуги KM2B по внедрению ИИ
• Калькулятор экономики ИИ
• ИИ-агенты для бизнеса: что дают и с чего начать
• Автоматизация бизнес-процессов нейросетями: с чего начать