Авторка: Julia Grits, Netwrix Brand Manager
Название подсказал ChatGPT, так что думаю, он не обидится. Но давайте сразу договоримся – ни один инструмент не виноват в утечках. Просто пользователи постоянно пихают бездумно их используют.
Shadow IT умер, да здравствует Shadow AI
Давайте с начала.
Shadow IT возник задолго до появления генеративного искусственного интеллекта.
В 2010-х годах сотрудники начали массово использовать личные аккаунты для работы: Dropbox и Google Drive, частные репозитории GitHub, мессенджеры и файлообменники. Причина была довольно банальна – чаще всего официальные корпоративные решения уступали по удобству и скорости. В результате компании начали терять контроль над файлами, не зная, где, как и зачем они хранятся.
С появлением генеративного ИИ проблема вышла на новый уровень. Если раньше сотрудники перемещали файлы, то сегодня они передают в ChatGPT, Claude, Gemini и другие ИИ-сервисы исходный код, техническую документацию, журналы событий, бизнес-требования и другую ценную информацию. Так Shadow IT эволюционировал в Shadow AI – новое явление потери контроля не только над файлами и инструментами, но и над знаниями и данными, используемыми в повседневной работе.
Раньше было достаточно защиты периметра, теперь же нужен другой подход, и речь пойдет не о тотальном контроле. Ведь, как свидетельствует статистика, 45% пользователей находят способ обойти блокировку приложений.
Почему IT-сектор страдает больше всего
IT-компании оказались в эпицентре проблемы. В отличие от большинства других отраслей, сотрудники айтишки обладают:
- достаточным уровнем технических знаний
- огромным интересом к технологическим новинкам
Разработчики, DevOps-специалисты, QA-специалисты, бизнес-аналитики и архитекторы постоянно работают с огромными объёмами цифровой информации. Кроме того, они ищут способы автоматизировать свои рутинные задачи. Именно поэтому они одними из первых начали активно использовать генеративный искусственный интеллект. Для написания кода, анализа ошибок, создания документации, отчетов и поиска технических ответов.
Проблема заключается в том, что для получения ответа (желательно без галлюцинаций) AI-сервису необходимо дать контекст. На практике это означает передачу фрагментов исходного кода, SQL-запросов, архитектурных схем, технической документации или даже клиентских данных. То, что для разработчика является обычным рабочим процессом, для CISO и отдела кибербезопасности означает передачу интеллектуальной собственности за пределы контролируемой среды.
Ситуацию осложняет то, что современные инструменты на основе ИИ всё чаще интегрируются непосредственно в рабочую среду. AI-помощники в IDE, браузерные расширения, чат-боты и специализированные сервисы для генерации кода позволяют взаимодействовать с искусственным интеллектом практически незаметно для пользователя. Во многих случаях сотрудники даже не задумываются о том, что именно они передают во время запросов.
Дополнительная особенность: IT-шник уверен, что всегда знает лучше других!!
Чтобы никого не обидеть, давайте назовем это «высоким уровнем культуры самостоятельного выбора инструментов». Если что-то помогает быстрее решить проблему, то нужно брать и делать, а согласование с отделом информационной безопасности «просто бюрократия». Именно поэтому Shadow AI в IT-компаниях возникает в большинстве случаев не из-за умышленного саботажа, а именно из-за стремления работать эффективнее.
Для IT-компаний вопрос контроля передачи данных на AI-платформы сегодня становится таким же важным, как защита электронной почты, облачных сервисов или внешних накопителей. Или даже важнее!
Три наиболее опасных сценария
Сценарий №1. Дебагинг через ChatGPT
«Вот фрагмент кода и лог ошибки, найди проблему».
Бам, и код компании покинул контролируемую среду.
Сценарий №2. Cursor и IDE AI
Современные IDE регулярно взаимодействуют с внешними LLM.
Разработчик даже не всегда знает, какие файлы анализируются и куда отправляются данные.
Сценарий №3. Бизнес-аналитики и PM’ы
В ИИ летит просто всё:
- договоры
- технические задания
- финансовые расчёты
- коммерческие предложения
Знаю по собственному опыту (виновна).
Формула контроля Shadow AI
Давайте добавим ещё несколько пугающих реальных цифр:
- 81% сотрудников могут использовать несанкционированные инструменты ИИ во время работы. И вот что самое интересное – среди специалистов по безопасности этот показатель достигает 88%!!
- 56% организаций сообщают, что сотрудники загружают конфиденциальные данные в неавторизованные SaaS-сервисы.
- примерно такие же цифры есть и в данных LayerX: 45% сотрудников уже работают с инструментами GenAI, а 77% из них регулярно вставляют туда корпоративные данные.
Gartner прогнозирует, что к 2027 году более 40 % утечек данных, связанных с ИИ, будут вызваны неправомерным использованием генеративного ИИ.
На этом фоне многие компании пытаются решить проблему «теневого ИИ» с помощью запретов: блокируют отдельные ИИ-сервисы, ограничивают доступ к сайтам или внедряют политики использования искусственного интеллекта. Однако на практике такой подход редко дает желаемый результат. Рынок генеративного ИИ развивается слишком быстро: если сегодня сотрудник не может использовать один сервис, завтра он найдет десятки альтернатив с аналогичным функционалом.
И здесь можно было бы сказать, что я за обучение.
Множество курсов по кибербезопасности для сотрудников, если бы речь шла о другой отрасли. Но ведь это IT, и мы снова возвращаемся к «IT-шник уверен, что всегда знает лучше других».
И, возможно, прямо сейчас тот самый переломный момент. Возможно, имеет смысл признать, что у вас работает множество умных людей, которые хотят работать эффективнее, а не больше. Возможно, современный подход к безопасности должен быть сосредоточен не на контроле людей или инструментов, а на контроле данных и действий.
В упрощенном виде риск утечки через Shadow AI можно описать следующей формулой:
Риск утечки = Конфиденциальные данные × Каналы передачи × Отсутствие контроля
Уменьшить риск можно только работая с каждым из этих компонентов.
Шаг 1. Определить, какие данные необходимо защищать.
Компания должна понимать, где находятся исходный код, техническая документация, данные клиентов, финансовая информация и другие критически важные активы. Простой базис = невозможно защитить то, что не идентифицировано.
Шаг 2. Контролировать каналы передачи информации.
Сегодня данные могут покидать организацию не только через электронную почту или USB-накопители. Веб-версии AI-сервисов, браузерные расширения, AI-функции в IDE, облачные сервисы, мессенджеры и даже банальный копипаст стали новыми каналами потенциальной утечки. Поймите, какими путями могут выйти данные.
Шаг 3. Внедрить постоянный мониторинг и политики реагирования.
Организация должна видеть, когда пользователь пытается передать конфиденциальную информацию, оценивать риск такого действия и автоматически применять соответствующие ограничения – от предупреждения до блокировки операции.
Вывод
Думаю, что именно на этих принципах будут строиться современные DLP-решения. Задача заключается не в том, чтобы запретить сотрудникам использовать новые технологии, а в том, чтобы обеспечить контроль над движением данных независимо от того, какой инструмент используется сегодня или появится завтра.
В контексте Shadow AI такой подход позволит организациям поддерживать баланс между производительностью и защитой данных, не сдерживая инновации из-за чрезмерного контроля.
