Обучение сотрудников ИИ может закончиться утечкой данных и увольнением

Как сотрудник становится виноватым после обучения ИИ

Сейчас компании массово обучают сотрудников работе с искусственным интеллектом. На занятиях показывают ассистентов для бухгалтерии, финансов, юристов, продаж, HR и анализа звонков. В кейсах всё чаще указывают технологический стек и предлагают повторить решение.

Именно здесь возникает риск: сотрудник видит полезный сценарий, открывает доступный ИИ-сервис и загружает туда реальный договор, таблицу с клиентами, транскрипцию встречи или внутренний отчёт. Задача решена быстро, но данные уже покинули контролируемый компанией контур.

С точки зрения сотрудника он сделал ровно то, чему его учили: взял рабочую задачу, выбрал модель, добавил контекст и получил результат. С точки зрения компании он мог передать третьей стороне персональные данные, коммерческую тайну или другую закрытую информацию.

За что могут наказать после обучения ИИ

Последствия зависят от правил компании, характера информации и причинённого ущерба. Но риск дисциплинарного взыскания, увольнения, требований возместить ущерб и других правовых последствий реален, если сотрудник:

• передал конфиденциальные или персональные данные внешнему ИИ-сервису;
• обошёл утверждённые компанией инструменты и требования информационной безопасности;
• использовал непроверенный ответ модели в документе или решении, которое привело к убыткам;
• загрузил закрытые материалы в личный аккаунт или неразрешённую интеграцию.

Самый неприятный сценарий — когда человек узнал об инструменте на корпоративном обучении, но правила работы с данными ему не объяснили. Навык дали, а безопасный способ применения — нет.

И вопросы в такой ситуации возникнут не только к сотруднику. Руководителя, HR, L&D или другого заказчика программы, который выбрал обучение без полноценного блока безопасности и не согласовал правила работы с данными, тоже, мягко говоря, вряд ли похвалят. Ему придётся объяснять, почему людям дали мощный инструмент, но не дали понятных границ его применения.

Галочка «не использовать для обучения» не делает сервис безопасным

Условия публичных ИИ-сервисов различаются. Одни могут использовать пользовательский контент для улучшения моделей по умолчанию, другие позволяют отключить такую обработку, третьи предлагают отдельные корпоративные режимы или API с иными обязательствами.

Но даже если обучение на ваших данных отключено, информация всё равно передаётся внешнему поставщику и обрабатывается его инфраструктурой. Нужно понимать сроки хранения, доступ подрядчиков, место обработки, порядок удаления, использование журналов и резервных копий, а также ответственность сторон.

Поэтому фраза в интерфейсе «не использовать для обучения» отвечает только на один вопрос. Она не заменяет проверку договора, политики обработки данных, архитектуры решения и требований информационной безопасности.

Какие данные нельзя загружать без согласования

• персональные данные сотрудников, клиентов и кандидатов;
• договоры, счета, финансовые модели и управленческую отчётность;
• клиентские базы, CRM-выгрузки и историю коммуникаций;
• транскрипции звонков и закрытых совещаний;
• юридические документы и материалы внутренних расследований;
• коммерческую тайну, исходный код, технические схемы и доступы;
• любые сведения, которые нельзя без последствий отправить неизвестному внешнему адресату.

Особенно чувствительны решения для финансов, бухгалтерии, юридической функции и анализа звонков: в таких материалах персональные и конфиденциальные данные появляются почти неизбежно.

Почему недостаточно просто удалить имена

Обезличивание — это не механическая замена фамилии на слово «клиент». Человека или компанию иногда можно восстановить по должности, городу, сумме сделки, редкому событию, сочетанию показателей или фрагменту переписки.

Нужно удалять прямые и косвенные идентификаторы, сокращать контекст до действительно необходимого и оценивать, можно ли связать оставшиеся признаки с конкретным субъектом. Если такую проверку провести нельзя, данные не должны уходить в публичный сервис.

Чем утечка может помочь конкуренту

Опасность не сводится к появлению в ответе названия вашей компании. Конкуренту может быть полезен обезличенный фрагмент: как устроен процесс, какие показатели отслеживаются, какие условия предлагаются клиентам, где находятся слабые места или какие решения компания собирается внедрять.

Формально источник может остаться неизвестным. Практически чужой бизнес получит подсказку, созданную на основе ваших документов. Делать жизнь конкурентам легче обычно не входит в планы компании.

Что должно входить в корпоративное обучение ИИ

Качественная программа не ограничивается промптами, подбором моделей и сборкой ассистентов. Сотруднику нужно заранее дать понятные границы:

1. Какие данные разрешены. Примеры безопасных, условно допустимых и запрещённых материалов для каждой функции.
2. Какие инструменты согласованы. Конкретные сервисы, корпоративные аккаунты, режимы и сценарии использования.
3. Как обезличивать. Не просто удалить фамилию, а убрать идентификаторы и сочетания признаков, по которым человека, клиента или компанию можно восстановить.
4. Когда нужен закрытый контур. Где достаточно открытого сервиса, где нужен корпоративный API, а где — локальная или изолированная инфраструктура.
5. Как проверять результат. Факты, источники, полноту, галлюцинации, правовые и репутационные последствия.
6. К кому обращаться. У сотрудника должен быть быстрый маршрут согласования с ИТ, ИБ и юристами, а не выбор между запретом и тайным использованием.

Как выбрать безопасный технологический контур

Не каждой компании нужна дорогая собственная модель. Часто достаточно правильно разделить сценарии и данные.

• Общие тексты и открытые сведения можно обрабатывать в разрешённых публичных инструментах.
• Рабочий контекст можно передавать после качественного обезличивания и минимизации.
• Для чувствительных задач можно использовать корпоративные версии, API с подходящими условиями обработки, собственный шлюз или закрытый контур.
• Критичные документы можно обрабатывать локальными моделями или внутри инфраструктуры, которую контролирует компания.

Цена определяется не модностью технологии, а требованиями конкретного процесса. Сначала классифицируем данные и риск, затем выбираем архитектуру — а не наоборот.

Иногда простого решения действительно недостаточно

Бывает, что желание работать именно с чувствительной информацией полностью оправдано. Без персональных данных, финансовых документов, истории обращений или других закрытых материалов задача просто не решается. Тогда не стоит верить обещанию, что достаточно подключить одну модель, поставить галочку в настройках — и всё станет безопасно.

В AIMcorp для таких задач мы создаём специальные решения. Внутри одного процесса могут работать несколько ИИ-моделей: каждая получает только свою часть задачи и только тот объём данных, который ей действительно необходим. Отдельно создаются анонимизаторы, которые находят и удаляют прямые и косвенные идентификаторы до передачи информации модели. Затем результат проходит обратную сборку и дополнительную проверку.

Это не означает, что любое внедрение ИИ нужно специально усложнять. Решение не должно быть сложным само по себе. Но из-за требований к данным, точности и безопасности оно действительно может оказаться сложным — иногда существенно сложнее красивой демонстрации на обучении.

Почему одной настройки всё равно недостаточно

Даже хорошо настроенный сервис не отменяет человеческую ошибку, изменение условий поставщика, неверно выбранный аккаунт, подключённый плагин или интеграцию, которая сохраняет запросы отдельно. Поэтому безопасность должна строиться в несколько слоёв: правила, обучение, технические ограничения, контроль доступа, журналирование и регулярная проверка.

И главное — нельзя демонстрировать на обучении финансового, юридического или HR-ассистента на реальных данных в публичной модели, а затем ожидать, что сотрудники сами догадаются, где заканчивается учебный пример и начинается нарушение.

Пять вопросов перед загрузкой данных в ИИ

1. Разрешён ли этот сервис компанией именно для такой задачи?
2. Есть ли в материале персональные, клиентские или конфиденциальные данные?
3. Достаточно ли данные обезличены, чтобы нельзя было восстановить человека или компанию?
4. Понятно ли, где и как долго сервис хранит запрос, кто имеет к нему доступ и используется ли он для обучения?
5. Можно ли решить задачу на открытых, синтетических или менее чувствительных данных?

Главный вывод

ИИ нужно внедрять. Но скорость внедрения не должна опережать понимание того, что происходит с данными.

До начала обучения и пилотов компания должна определить разрешённые инструменты, категории данных, правила обезличивания, требования к хранению и проверке результатов. Только после этого ассистенты, агенты и RAG-системы становятся не источником скрытого риска, а управляемым бизнес-инструментом.

Поэтому корпоративное обучение сотрудников работе с ИИ должно не только ускорять работу, но и защищать людей: давать разрешённый стек, понятные правила и практику безопасного применения на задачах компании.