Авторка: Юлія Гриць, Netwrix Brand Manager
Назву підказав ChatGPT, тож гадаю, що він не образиться. Але, давайте одразу домовимося – жоден інструмент не винен у витоках. Просто користувачі постійно пхають безконтрольно їх використовують.
Shadow IT помер, вітайте Shadow AI
Давайте почнемо з початку.
Shadow IT виник задовго до появи генеративного штучного інтелекту.
У 2010-х роках співробітники почали масово використовувати власні акаунти для роботи: особисті акаунти в Dropbox та Google Drive, приватні репозиторії GitHub, месенджери та файлообмінники. Причина була доволі банальна – частіше за все офіційні корпоративні рішення поступалися за зручністю та швидкістю. В результаті компанії почали втрачати контроль над файлами, нам тим де, як і навіщо вони зберігаються.
З появою генеративного ШІ проблема вийшла на новий рівень. Якщо раніше працівники переміщували файли, то сьогодні вони передають у ChatGPT, Claude, Gemini та інші AI-сервіси вихідний код, технічну документацію, журнали подій, бізнес-вимоги та іншу цінну інформацію. Так Shadow IT еволюціонував у Shadow AI – свіженьке явище втрати контролю не лише над файлами та інструментами, а й над знаннями та даними, що використовуються в щоденній роботі.
Раніше було достатньо захисту периметра, тепер же потрібен інший підхід і мова піде не тільки про тотальний контроль. Бо як свідчить статистика, 45% користувачів знаходять спосіб обійти блокування застосунків.
Чому IT-сектор страждає найбільше
IT-компанії опинилися в епіцентрі проблеми. На відміну від більшості інших галузей, співробітники IT мають:
- достатній рівень технічних знань
- величезний рівень цікавості щодо технологічних новинок
Розробники, DevOps’и, QA-фахівці, бізнес-аналітики та архітектори постійно працюють із величезними обсягами цифрової інформації. На додачу, вони шукають способи автоматизувати свої рутинні завдання. Саме тому вони одними з перших почали активно використовувати генеративний штучний інтелект. Для написання коду, аналізу помилок, створення документації, звітів і пошуку технічних відповідей.
Проблема полягає в тому, що для отримання відповіді (ще й бажано без галюцинацій), AI-сервісу необхідно надати контекст. На практиці це означає передачу фрагментів вихідного коду, SQL-запитів, архітектурних схем, технічної документації або навіть клієнтських даних. Те, що для розробника є звичайним робочим процесом, для CISO та відділу кібербезпеки означає передачу інтелектуальної власності за межі контрольованого середовища.
Ситуацію ускладнює те, що сучасні інструменти на основі ШІ дедалі частіше інтегруються безпосередньо в робоче середовище. AI-помічники в IDE, браузерні розширення, чат-боти та спеціалізовані сервіси для генерації коду дозволяють взаємодіяти зі штучним інтелектом практично непомітно для користувача. У багатьох випадках співробітники навіть не замислюються над тим, що саме вони передають під час запитів.
Додаткова особливість: IT спеціаліст знає завжди краще за інших!!
Щоб нікого не образити, давайте назвемо це «високим рівнем культури самостійного вибору інструментів». Якщо щось допомагає швидше розв’язати проблему – треба юзати, а погодження з відділом інформаційної безпеки то «лише бюрократія». Саме тому Shadow AI в IT-компаніях виникає в більшості випадках не через навмисний саботаж, а саме через прагнення працювати ефективніше.
Для IT-компаній питання контролю передачі даних до AI-платформ сьогодні стає таким самим важливим, як захист електронної пошти, хмарних сервісів або зовнішніх накопичувачів. Або навіть важливішим!
Три найбільш небезпечні сценарії
Сценарій №1. Debugging через ChatGPT
«Ось шматок коду і лог помилки, допоможи знайти проблему.»
Хоп і код компанії покинув контрольований контур.
Сценарій №2. Cursor та AI IDE
Сучасні IDE регулярно взаємодіють із зовнішніми LLM.
Розробник навіть не завжди знає, які файли аналізуються та куди надсилаються дані.
Сценарій №3. Бізнес-аналітики та PM’и
До ШІ летить просто все:
- договори
- технічні завдання
- фінансові розрахунки
- комерційні пропозиції
Знаю по собі (guilty).
Формула контролю Shadow AI
Давайте додам ще трохи лячних реальних цифр:
- 81% співробітників можуть використовувати несанкціоновані інструменти ШІ під час роботи. І тут найцікавіше – серед security-фахівців показник доходить до 88%!!
- 56% організацій повідомляють, що співробітники завантажують чутливі дані в неавторизовані SaaS-сервіси.
- Приблизно такі ж цифри є і в даних LayerX: 45% співробітників уже працюють з інструментами GenAI, а 77% з них регулярно вставляють туди корпоративні дані.
Gartner прогнозує, що до 2027 року понад 40% витоків даних пов’язаних з ШІ будуть стосуватися неправильного використання генеративного ШІ.
На фоні цього багато компаній намагаються розв’язати проблему Shadow AI за допомогою заборон: блокують окремі AI-сервіси, обмежують доступ до сайтів або впроваджують політики використання штучного інтелекту. Проте на практиці такий підхід рідко дає бажаний результат. Ринок генеративного ШІ розвивається надто швидко: якщо сьогодні співробітник не може використовувати один сервіс, завтра він знайде десятки альтернатив з аналогічною функціональністю.
І тут можна було б сказати, що я за навчання.
Купу кібербезпекового навчання для співробітників, якби мова йшла про іншу галузь. Але ж IT… дивись пункт «IT спеціаліст знає завжди краще за інших».
І, можливо, саме це і є переломним моментом. Можливо, є сенс визнати, що на вас працює купа розумних людей, що хочуть працювати ефективніше, а не більше. Можливо, саме тому сучасний підхід до безпеки має фокусуватися не на контролі людей чи інструментів, а на контролі даних та дій.
У спрощеному вигляді ризик витоку через Shadow AI можна описати такою формулою:
Ризик витоку = Чутливі дані × Канали передачі × Відсутність контролю
Зменшити ризик можна лише працюючи з кожним із цих компонентів.
Крок 1. Визначити, які дані необхідно захищати.
Компанія повинна розуміти, де знаходяться вихідний код, технічна документація, клієнтські дані, фінансова інформація та інші критично важливі активи. Зараз буде база 😊 = неможливо захистити те, що не ідентифіковано.
Крок 2. Контролювати канали передачі інформації.
Сьогодні дані можуть залишати організацію не лише через електронну пошту чи USB-накопичувачі. Вебверсії сервісів ШІ, браузерні розширення, AI-функції в IDE, хмарні сервіси, месенджери і навіть банальний копіпаст стали новими каналами потенційного витоку. Зрозумійте якими шляхами можуть вийти дані.
Крок 3. Впровадити постійний моніторинг і політики реагування.
Організація повинна бачити, коли користувач намагається передати конфіденційну інформацію, оцінювати ризик такої дії та автоматично застосовувати відповідні обмеження – від попередження до блокування операції.
Висновок
Саме на цих принципах будуть будуватись сучасні DLP-рішення. Завдання полягає не в тому, щоб заборонити співробітникам використовувати нові технології, а в тому, щоб забезпечити контроль над рухом даних незалежно від того, який інструмент використовується сьогодні чи з’явиться завтра.
У контексті Shadow AI такий підхід дозволить організаціям тримати баланс між продуктивністю і захистом даних, не стримуючи інновації через надмірний контроль.
