Автор: Андрій Михалюк, CEO CoreWin
У потоці поганих новин для спеціалістів у сфері кібербезпеки, від отруєного Axios до UAC-0001 (APT28), нема коли продихнути. Але в цьому потоці жонглювання між швидкістю оновлення (для захисту від 0-day) і карантином оновлень (для захисту від отруєних оновлень) наче як з’явився промінець надії, божественне сяйво штучного інтелекту від компанії Anthropic – найновіша модель Mythos.
Цей промінець надії самотужки знайшов 27-річну вразливість в OpenBSD і 16-річну – у FFmpeg. Іншими словами, ці вразливості існували десятиліттями й були невідомі широкій публіці. І лише Mythos зміг їх виявити.
Як це вдалось зробити?
За звітом Anthropic, цього вдалося досягти завдяки поєднанню контекстів аналізу. Якщо говорити простіше: справа не у виявленні 1 помилки в коді як ізольованого факту, а радше у зіставленні цієї помилки з іншими вразливостями, програмним оточенням, контекстом операції та функцією в якій була знайдена помилка. Йдеться не про окрему ізольовану вразливість, а про вибудовування логічного ланцюга подальших дій, кожна з яких окремо не дає змоги здійснити атаку, але в правильній послідовності стає критичною.
Чи є Mythos першим, хто автономно виявив вразливість? Ні… Першим був Big Sleep майже рік тому, про що я писав тут. Тоді я жартував про сингулярність у кібербезпеці та дійшов до висновку, що тоді про це було говорити рано. Але, можливо, якраз зараз настав її час? Можливо, ось цей додатковий контекст вирішить долю людства? Можливо, вже настав той день, коли CISO може скоротити штат інженерів безпеки вдвічі й забути про дзвінки стосовно інциденту вночі та на вихідних як про страшний сон?
Повертаємось у реальність.
Перше, що варто сказати, це те, що своїм промінням міфічної святості Anthropic осяє лише обраних, а саме 12 компаній (включно з самою Anthropic). Ось так… звичайні смертні спеціалісти поза колом обраних не мають доступу до цієї моделі, а отже повинні продовжувати очками шукати вразливості. Уважний читач помітить помилку в попередньому реченні.
Ми давно не шукаємо вразливості ні самостійно, ні очима.
Для цього є ціла екосистема: від централізованих баз вразливостей, як NVD, до спеціальних інструментів перевірки коду на безпеку, як Mend чи Invicti. Одним з аргументів на користь епохальності Mythos є саме те, що цей продукт змінить екосистему як таку (як приклад, стаття Forrester). Але я забігаю наперед, повернемось до питання обраних закритості моделі та причини такого рішення. За звітом від Anthropic, якщо випустити у світ Mythos і він потрапить до рук зловмисників (а на думку дослідників він потрапить), то кіберпростір, як він є зараз, буде до цього не готовий і зловмисники хакнуть все, що здатне генерувати двійковий код. Саме тому було рішення надати доступ лише для 12 компаній і навіть уряд США не отримав доступ до цієї моделі. Цікаво, чи саме тому Гегсет хотів повністю відмовитись від Claude?
Конкуренти не забарились.
14 квітня OpenAI запустила GPT 5.4 Cyber розширюючи доступ до інструменту та лібералізуючи відбір тих, хто має до нього доступ, та й Google не поспішає згортати Big Sleep як частину Project Zero. Стоп… Давайте зробимо видих. Тобто Anthropic навіть не була першою у сфері LLM-powered bug-hunting. Ще декілька фактів:
- До релізу Mythos через Project Glasswing компанія Anthropic використовувала цю модель для Autonomous Security Testing.
- Для пошуку вразливості OpenBSD було використано велику кількість агентів в паралелі, а Mythos здатен працювати з 1000 агентів паралельно. І вартість сканування була близько 20 000 доларів.
З цих фактів виникає два питання:
- Яким чином з такою потужною моделлю в Claude постійно падає API, а сама модель була випадково опублікована для всіх?
- Чи не міг Opus показати подібні результати, якби в нього кинули такою ж кількістю доларів та ядер, як виділили для Mythos?
Також попрошу тебе, шановний читачу, подивитись на цю ситуацію під іншим кутом. У ретроспективі. Це вже втретє (за моїми підрахунками) з 2019 коли компанія, що готується до релізу своєї моделі, заявляє, що цю модель «занадто небезпечно випускати в реліз».
- 2019 OpenAI. GPT-2. Занадто небезпечно релізити, бо це призведе до неконтрольованої кількості фейків.
- 2024 OpenAI. Функція генерації голосу призведе до колапсу інтернет-банкінгу і не тільки.
- Project Glasswing покликаний підготувати світ (через 12 компаній) до загроз нової моделі, що хакне
твій мозоккожен комп’ютер на планеті.
Висновок
Як ви вже зрозуміли, я особисто ставлюся скептично до цього хайпу. Хоча повинен визнати, як маркетингова кампанія, це дуже успішний проєкт.
Сингулярність знову скасовується, нам залишається видихати й чистити кулемет впроваджувати класичні інструменти кібербезпеки та чекати на дзвінок про наступний інцидент. Чи то вночі, чи то на вихідних.
