Главная мысль
Теневое использование ИИ указывает на то, что организация не знает обо всех применяемых инструментах или не согласовала их использование. Зафиксируйте потребность, инструмент, данные, доступ и ответственного, затем согласуйте подходящий сценарий как контролируемый пилот.
Используйте признаки теневого ИИ как сигналы для проверки
Теневое использование ИИ — применение инструментов для работы без ведома или согласования ИТ-службы. Оно не ограничивается запросами к публичному чат-боту. Сюда относятся помощник, купленный подразделением, агент с доступом к почте и файлам пользователя, передача рабочих данных в личную учётную запись и автоматизация, которую сотрудник подключил через API. Сигналы включают неполный список инструментов у ИТ, неизвестную подписку в расходах, непроверенное разрешение OAuth, дублирующие боты и отправку результата ИИ клиенту без проверки.
Инструмент и расходы
Ищите ИИ-сервисы в личных и корпоративных расходах, договорах и уведомлениях о продлении.
Учетные записи и подключения
Проверьте SSO, OAuth и интеграции: какой аккаунт получил доступ к почте, файлам и системам?
Рабочий процесс
Проведите открытый опрос команд об инструменте, цели, данных, владельце и контроле решений.
Соберите реестр по фактическим данным
Попросите сотрудников без угрозы наказания сообщить об используемых инструментах и решаемых задачах. Сверьте ответы с расходами, разрешениями SSO и OAuth, сетевыми и DNS-наблюдениями. Для каждой записи укажите инструмент, цель, владельца, пользователей, источники данных, разрешения, поставщика и статус пилота или рабочей системы. Сетевые данные показывают только наблюдаемый трафик; они сами по себе не раскрывают содержание запросов и не позволяют выявить модель, работающую без подключения к сети.
Установите правила и быстрый путь согласования
Понятно укажите разрешённые рабочие инструменты, виды данных, которые нельзя передавать внешнему сервису, и случаи обязательной проверки результата ИИ. В короткой заявке на новый инструмент должны быть цель, данные, интеграции, владелец и ответственный за результат. Назначьте проверяющих по безопасности, данным и другим нужным функциям и установите срок решения. Если согласование слишком долгое, сотрудники могут продолжить решать ту же задачу скрыто.
Определите цель и владельца
Выберите измеримую задачу и назначьте ответственного за результат.
Ограничьте данные и полномочия
Отдельно согласуйте нужные источники и операции; выдайте минимальный доступ.
Определите контроль человеком
Кто проверяет результат, исправляет ошибку и останавливает агента?
Проверьте причины задержки до запуска пилота
Пилот может затянуться из-за долгого сравнения платформ, неподготовленной интеграции, ограниченного времени ИТ-команды, разработки каждого сценария с нуля, поздней проверки безопасности, низкого качества внутренних данных или отсутствия владельца. До начала составьте простую матрицу: сценарий и бизнес-результат; качество данных и разрешение на их использование; интеграции, тестовая среда и доступное время ИТ-команды; подтверждение человеком и журнал действий; технический и бизнес-владелец; условия остановки. Тогда вопросы безопасности решаются при проектировании, а не после готового прототипа.
| Вопрос | Подтверждение |
|---|---|
| Какую работу изменит пилот? | Текущий процесс, задержки и исключения |
| К чему получит доступ агент? | Разрешение владельца данных и тестовые права |
| Кто выявляет ошибку? | Проверка, эскалация и остановка |
| Полезен ли пилот? | Использование, качество, исправления и затраты времени |
Проверьте результат на ограниченном пилоте
Например, отдел продаж хочет готовить первые ответы на запросы цен. Выберите небольшую репрезентативную выборку утверждённого каталога и шаблонов; не включайте чувствительные данные клиентов в набор для теста и разрешите агенту читать только эти материалы. Менеджер проверяет цену, условия и обещания перед отправкой. Измеряйте число подходящих запросов, исправления черновиков, время до отправки и случаи ошибочного или вводящего в заблуждение ответа. При слабом результате улучшите данные и сценарий либо остановите пилот.