Авторка: Julia Grits, Netwrix Brand Manager
Искусственный интеллект стремительно входит в повседневную работу команд разработки, DevOps, маркетинга и бизнес-аналитики. ChatGPT, Microsoft Copilot, Google Gemini, Claude, Grok и другие чат-боты стали удобными помощниками, однако вместе с пользой появился и новый канал утечки данных.
Один неосторожный copy-paste, и фрагмент исходного кода, API-ключ или внутренний документ оказывается за пределами контролируемого периметра.
Netwrix Endpoint Protector расширяет классический DLP-подход и позволяет контролировать взаимодействие пользователей с AI-веб-инструментами.
Теперь подробнее.
Новая реальность DLP: AI = новый канал утечки данных
Традиционно DLP фокусировался на:
- USB-носителях
- электронной почте
- облачных хранилищах
- веб-загрузках
Но появление LLM и чат-ботов создало принципиально новый вектор риска:
- ввод конфиденциальных данных напрямую в текстовое поле чата
- прикрепление файлов с кодом, логами, конфигурациями
- использование AI без понимания, куда отправляются и как обрабатываются данные
Netwrix Endpoint Protector отвечает на этот вызов, внедряя Data Loss Prevention для AI-чат-ботов.
Что контролирует Netwrix Endpoint Protector
Команда CoreWin на демо-сервере воспроизвела use-case отправки исходного кода на PHP в веб-версию ChatGPT, который будет описан в данной статье.
Настройка DLP-политики:
- выбираем операционную систему для применения политики
- определяем действие (блокировка, отчет и т. д.). В нашем случае – блокировка и уведомление пользователя
- точки выхода = веб-браузеры
- выбираем категорию «Исходный код» в черных списках и, в нашем примере, PHP
- применяем политику к объектам (группа, компьютер, пользователь или комбинация компьютер + пользователь)
- технология Deep Packet Inspection должна быть включена для данной политики
- проверяем, что агент обновил политику – и можно тестировать 🚀
Теперь проведем симуляцию отправки кода в виде промпта или файла
1. Контроль текстовых промптов (Paste / Typing)
Netwrix Endpoint Protector анализирует текст, который пользователь вводит или вставляет в веб-версию ChatGPT:
- исходный код (как у нас в кейсе)
- конфиденциальные ключи
- персональные данные
- служебную информацию, настроенную для блокировки
Контроль работает в реальном времени – до фактической отправки данных с UI чат-бота на сервер.
2. Контроль вложенных файлов
DLP-политики распространяются и на файлы, которые пользователь пытается:
загрузить в ChatGPT → прикрепить к Copilot, Gemini, Claude и т. д.
Netwrix Endpoint Protector может:
- блокировать загрузку файлов с чувствительным контентом
- разрешать только определенные типы файлов
- логировать инциденты для дальнейшего анализа
Как это работает технически
Ключевой элемент контроля – Deep Packet Inspection (DPI).
Что такое DPI в контексте Endpoint Protector
Deep Packet Inspection – это технология глубокого анализа сетевого трафика, позволяющая:
- анализировать не только заголовки, но и содержимое передаваемых данных
- распознавать тип информации в зашифрованных HTTPS-сессиях
- применять DLP-политики на уровне контента, а не только доменов или приложений
В случае чат-ботов DPI используется для:
- анализа текста, передаваемого в чат
- выявления паттернов кода (source code, SQL, scripts)
- применения контентных правил к AI-запросам
Netwrix Endpoint Protector не просто «видит ChatGPT», а понимает, что именно туда отправляется.
Это уже не примитивный keyword DLP.
Поддерживаемые механизмы детекции:
- Content Classification
- Pattern Matching (regex для API keys, tokens, credentials)
- Context-aware detection (структура кода, синтаксические паттерны)
- Fingerprinting / Exact Data Match (при необходимости)
Что фиксируется при инциденте:
- пользователь
- endpoint
- application / URL
- тип контента
- действие (blocked / monitored / allowed)
- timestamp
Доступен экспорт событий в SIEM и корреляция с другими DLP / EDR событиями.
Бизнес-ценность для компаний
Внедрение DLP для LLM позволяет:
- снизить риск утечки интеллектуальной собственности
- обеспечить соответствие требованиям безопасности и комплаенса
- разрешить использование AI без полного запрета, но под контролем
- получить полную видимость AI-активности пользователей
Вывод
Чат-боты на базе LLM – это не временный тренд, а новый стандарт работы. Хайп пройдет, но использование AI уже останется. Без контроля он легко превращаются в невидимый канал утечки данных.
Netwrix Endpoint Protector предлагает зрелый и практичный подход:
- контроль промптов
- контроль вложений
- Deep Packet Inspection
- поддержку ключевых AI-платформ
Это позволяет организациям безопасно интегрировать AI в бизнес-процессы без компромиссов по безопасности.
