Аудит доступов для ИИ: как понять, какие данные агент действительно видит

Агент ИИ видит не «всю компанию», а те данные и действия, которые доступны подключённой ему учётной записи, инструментам и источникам информации. Чтобы это проверить, составьте карту подключений, проверьте права на чтение и изменение, а затем испытайте агента на безопасных примерах. Начните с одного повторяющегося процесса и оставьте человеку проверку результата — так проще оценить пользу и не открыть лишнего.

Что именно нужно проверять

Вопрос «какие данные видит ИИ» не сводится к тому, что сотрудник написал в запросе. Агент может получать сведения из подключённой CRM, таблицы, папки с документами, почты или внутренней базы знаний. Возможности зависят от настроек подключения и прав учётной записи, от имени которой оно работает. Если в системе разрешено читать все карточки клиентов, агент потенциально может обратиться к ним, даже когда для одной конкретной задачи достаточно данных о нескольких заявках.

Проверять нужно как минимум четыре уровня: сам источник данных, учётную запись и её права, подключённые инструменты и историю действий. Например, агент для подготовки ответа на вопрос о наличии товара может читать остатки и ассортимент. Если той же учётной записи доступны сведения о зарплатах, договорах и персональных данных покупателей, это уже избыточный доступ, даже если в обычном сценарии агент эти сведения не запрашивает.

Отдельно выясните, что происходит с данными после запроса: сохраняются ли обращения в истории, кто может просматривать эту историю, используются ли материалы для настройки системы и как долго они хранятся. Условия зависят от выбранного решения и его настроек, поэтому их нужно проверять по документации и договору, а не предполагать по названию продукта.

С чего начать аудит

Выберите один повторяющийся процесс с понятным началом и результатом: например, поиск ответа по внутренней инструкции, сортировку входящих обращений или подготовку черновика записи на услугу. Не подключайте сразу все отделы и системы. Узкий процесс проще описать, протестировать на безопасных примерах и при необходимости остановить.

Зафиксируйте входные данные: что сотрудник передаёт агенту, из каких источников тот берёт сведения и какие поля нужны для выполнения задачи. Затем опишите ожидаемый результат и то, что остаётся за человеком. Например, агент может подготовить черновик ответа клиенту, но отправляет его сотрудник после проверки. Такой порядок позволяет увидеть пользу автоматизации без передачи агенту права самостоятельно обещать сроки или условия.

Для первого описания процесса достаточно ответить на вопросы:

• Кто запускает задачу и в какой системе?
• Какие поля или документы необходимы для результата?
• Какие системы и папки подключены к агенту?
• Что агент может только читать, а что — создавать, изменять или отправлять?
• Кто проверяет итог и кому сообщать о нештатной ситуации?

Если нужен ориентир по возможным сценариям, посмотрите подборку решений для бизнеса. Это не готовый список обязательных подключений: конкретный состав данных нужно определять по процессу вашей компании.

Как составить карту доступов

Карта доступов — это простой перечень связей между агентом, учётной записью, системой и разрешёнными действиями. Её можно вести в таблице. Важно записать не только название системы, но и конкретные разделы: «читает каталог товаров и остатки» точнее, чем «имеет доступ к учётной системе».

Что проверить	Пример безопасного минимума	Что считать поводом для проверки
Источник данных	Только инструкции по возвратам	Вся общая папка вместе с кадровыми документами
Права учётной записи	Чтение выбранных записей	Полный доступ ко всем карточкам и файлам
Действия агента	Подготовка черновика без отправки	Отправка сообщения или изменение записи без подтверждения
История работы	Доступна назначенным ответственным	Неясно, кто видит запросы и результаты
Отключение	Известны владелец подключения и порядок отзыва прав	Неясно, где отключить связь или сменить ключ доступа

Добавьте владельца каждого подключения и дату последней проверки. Если разные сотрудники настраивали агента и подключали к нему источники, не полагайтесь на память одного человека: сверьте карту с настройками самих систем. Удалённая папка или старая учётная запись могут оставаться доступными, хотя команда уже не считает их частью проекта.

Как проверить, что агент действительно может прочитать и изменить

Сначала проверьте права не через разговор с агентом, а в настройках исходной системы. Посмотрите, от чьего имени он работает, к каким разделам у этой учётной записи есть доступ и разрешены ли операции записи. Затем проверьте настройки самого подключения: иногда там можно выбрать отдельную папку, набор таблиц или только чтение. Если таких ограничений нет, нужно сузить права на стороне исходной системы либо пересмотреть способ подключения.

Следующий шаг — испытания на тестовых данных. Подготовьте безопасные примеры, которые имитируют обычную работу и попытку получить лишнее. Например, попросите агента найти инструкцию, а затем — сведения из закрытой папки, которые ему не нужны для задачи. Проверьте не только ответ, но и журнал действий: обращался ли агент к запрещённому источнику, создавал ли новую запись, пытался ли отправить сообщение. Отказ в ответе сам по себе не доказывает, что доступ ограничен: подтверждение ищите в настройках и записи действий.

Проведите и тест на изменение данных. Если агенту достаточно готовить черновики, убедитесь, что он не может самостоятельно отправить их клиенту, поменять цену, удалить запись или подтвердить операцию. Установите понятную точку согласования: сотрудник видит действие, проверяет данные и подтверждает его в системе. Для риска, который может привести к расходам или нарушению обязательств, одной проверки текста недостаточно — ограничьте само право выполнить действие.

Полезно повторить проверку после изменения промпта, подключений, прав сотрудника или состава документов. Даже небольшая настройка может поменять поведение процесса. Назначьте ответственного за повторный аудит и фиксируйте, что именно проверили и когда.

Какие данные и действия ограничить

Передавайте только те сведения, которые действительно нужны для задачи. Если агент помогает записать клиента на услугу, ему могут понадобиться выбранная услуга, удобное время и способ обратной связи, но не вся история обращений. По возможности используйте тестовые или обезличенные данные при настройке. Когда в данных есть сведения о клиентах, учитывайте требования 152-ФЗ: определите цель обработки, состав данных и основания для их использования, ограничьте круг доступа и проверьте условия работы выбранных систем. Для спорных случаев привлеките ответственного за персональные данные или юриста.

Право читать и право менять — разные уровни риска. Для первых запусков часто достаточно разрешить агенту поиск и подготовку черновика, но запретить отправку, удаление и самостоятельное изменение записей. Деньги, права доступа, обещания клиенту и необратимые изменения должны оставаться на одобрение сотрудника. Например, агент может рассчитать предварительную стоимость по заданным правилам, но подтверждает её и сообщает клиенту ответственный работник.

Также определите, какие данные не следует передавать в запросах и тестовых примерах. Это могут быть пароли, реквизиты доступа, избыточные медицинские сведения или полные копии документов, когда для задачи достаточно одного поля. Проверьте, кто имеет право просматривать историю запросов, как долго она сохраняется и как удалить ненужные материалы. Для рекламных сообщений и обработки обращений клиентов отдельно учитывайте требования 38-ФЗ и другие применимые правила.

Как быстро отключить лишний доступ

До запуска запишите короткий порядок остановки. В нём укажите владельца подключения, название учётной записи, где отозвать права и кому сообщить об отключении. Проверьте, можно ли отдельно приостановить агента и отозвать доступ к источнику данных. Если подключение использует отдельный ключ или пароль, определите, кто вправе его сменить и где проверить, что старый доступ больше не действует.

Порядок должен быть понятен не только разработчику. Руководителю или ответственному сотруднику важно знать, кому позвонить и какие операции временно выполнять вручную. Проведите короткую проверку отключения на тестовом подключении: остановите работу, убедитесь, что агент больше не получает новые данные, и проверьте доступы в исходной системе. Это снижает вероятность того, что при инциденте команда будет искать нужную настройку уже во время проблемы.

Если заметили необычное действие или доступ к лишним сведениям, остановите процесс, отзовите подключение и сохраните журнал действий. Затем выясните, какие данные могли быть затронуты, кто имел к ним доступ и требуется ли дальнейшая реакция по внутренним правилам компании и закону. Не удаляйте следы до выяснения обстоятельств.

Как проверить пользу пилота и перейти дальше

До запуска зафиксируйте время, ошибки и потери на выбранном процессе. Это может быть среднее время обработки обращения, доля заявок с пропущенным полем, число возвратов на исправление или количество случаев, когда сотрудник не успел ответить вовремя. Выберите несколько показателей, которые команда реально может считать, и сравнивайте одинаковые периоды и сопоставимые задачи. После пилота повторите измерения тем же способом.

Так можно отделить реальную пользу от впечатления, что «стало удобнее». Если агент быстрее готовит черновик, но сотрудник тратит много времени на исправления, это тоже нужно учитывать. Одновременно оцените стоимость настройки, сопровождения и проверки доступа. Точную цену можно назвать после аудита конкретного процесса и систем; мы рекомендуем начинать с недорогого пилота на узком участке. Его окупаемость обычно занимает 2–4 месяца, но фактический срок зависит от исходных затрат и результата проверки.

После пилота расширяйте доступ не автоматически, а только под подтверждённую задачу. Сначала обновите карту, оцените риски новых данных и действий, затем согласуйте права и повторите испытания. Описание подходов и вариантов внедрения есть на страницах услуг KM2B и продуктов KM2B. Если процесс использует персональные данные, проверьте не только технические настройки, но и правовые основания и документы компании.

Практичный первый шаг — выбрать один процесс, перечислить необходимые входные данные и оставить контроль результата человеку. Затем ограничить подключение минимальными правами, проверить обычные и нежелательные сценарии и заранее отрепетировать отключение. Такая последовательность помогает понять, что агент действительно может видеть и делать, прежде чем его работа затронет больше сотрудников и клиентов.

Следующий шаг по теме

Базовые материалы и инструменты KM2B для внедрения ИИ в бизнес.

• Услуги KM2B по внедрению ИИ
• Калькулятор экономики ИИ
• ИИ-агенты для бизнеса: что дают и с чего начать
• Автоматизация бизнес-процессов нейросетями: с чего начать