Автор: Андрей Михалюк, CEO CoreWin
В потоке плохих новостей для специалистов в сфере кибербезопасности, от отравленного Axios до UAC-0001 (APT28), некогда выдохнуть. Но в этом потоке жонглирование между скоростью обновления (для защиты от 0-day) и карантином обновлений (для защиты от отравленных обновлений) как будто появился лучик надежды, божественное сияние искусственного интеллекта от компании Anthropic – новейшая модель Mythos.
Этот лучик надежды самостоятельно нашел 27-летнюю уязвимость в OpenBSD и 16-летнюю – в FFmpeg. Иными словами, эти уязвимости существовали десятилетиями и были неизвестны широкой публике. И только Mythos смог их обнаружить.
Как удалось это сделать?
Согласно отчету Anthropic, этого удалось добиться благодаря сочетанию контекстов анализа. Если говорить проще: дело не в обнаружении 1 ошибки в коде как изолированного факта, а скорее в сопоставлении этой ошибки с другими уязвимостями, программным окружением, контекстом операции и функцией в которой была найдена ошибка. Речь идет не об отдельной изолированной уязвимости, а о выстраивании логической цепи дальнейших действий, каждое из которых не позволяет отдельно осуществить атаку, но в правильной последовательности становится критической.
Является ли Mythos первым, кто автономно проявил уязвимость? Нет… Первым был Big Sleep почти год назад, о чем я писал здесь. Тогда я шутил о сингулярности в кибербезопасности и пришел к выводу, что об этом было говорить рано. Но, возможно, как раз сейчас пришло ее время? Может быть, вот этот дополнительный контекст решит судьбу человечества? Возможно, уже наступил тот день, когда CISO может сократить штат инженеров безопасности вдвое и забыть о звонках по поводу инцидента по ночам и на выходных как о страшном сне?
Возвращаемся в реальность.
Первое, что стоит сказать, это то, что своими лучами мифической святости Anthropic озаряет только избранных, а именно 12 компаний (включая саму Anthropic). Вот так… обычные смертные специалисты вне круга избранных не имеют доступа к этой модели, а значит, должны продолжать глазками искать уязвимости. Внимательный читатель заметит ошибку в предыдущем предложении.
Мы давно не ищем уязвимости ни самостоятельно, ни глазами.
Для этого существует целая экосистема: от централизованных баз уязвимостей, как NVD, до специальных инструментов проверки кода на безопасность, как Mend или Invicti. Одним из аргументов в пользу эпохальности Mythos является именно то, что этот продукт изменит экосистему как таковую (для примера, статья Forrester). Но я забегаю вперед, вернемся к вопросу избранных закрытости модели и причин такого решения. Согласно отчету от Anthropic, если выпустить в мир Mythos и он попадет в руки злоумышленников (а по мнению исследователей он попадет), то киберпространство, в том виде, в котором оно есть сейчас, будет к этому не готово и злоумышленники хакнут все, что способно генерировать двоичный код. Именно поэтому было принято решение предоставить доступ только для 12 компаний и даже правительство США не получило доступ к этой модели. Интересно, именно поэтому Хегсет хотел полностью отказаться от Claude?
Конкуренты не заставили себя ждать.
14 апреля OpenAI запустила GPT 5.4 Cyber, расширяя доступ к инструменту и либерализируя отбор тех, кто имеет к нему доступ, и Google не спешит сворачивать Big Sleep как часть Project Zero. Стоп… Давайте сделаем выдох. То есть Anthropic даже не была первой в сфере LLM-powered bug-hunting. Еще несколько фактов:
- До релиза Mythos через Project Glasswing компания Anthropic использовала эту модель для Autonomous Security Testing.
- Для поиска уязвимости OpenBSD было использовано множество агентов в параллели, а Mythos способен работать с 1000 агентов параллельно. И стоимость сканирования была около 20 000 долларов.
Из этих фактов возникает два вопроса:
- Каким образом с такой мощной моделью у Claude постоянно падает API, а сама модель была случайно опубликована для всех?
- Не мог ли Opus показать подобные результаты, если бы в него бросили таким же количеством долларов и ядер, как выделили Mythos?
Также попрошу тебя, уважаемый читатель, посмотреть на эту ситуацию под другим углом. В ретроспективе. Это уже в третий раз (по моим подсчетам) с 2019 года, когда компания, готовящаяся к релизу своей модели, заявляет, что эту модель «слишком опасно выпускать в релиз».
- 2019 г. OpenAI. GPT-2. Слишком опасно релизить, потому что это приведет к неконтролируемому количеству фейков.
- 2024 г. OpenAI. Функция генерации голоса приведет к коллапсу интернет-банкинга и не только.
- Project Glasswing призван подготовить мир (через 12 компаний) к угрозам новой модели, которая хакнет
твой мозгкаждый компьютер на планете.
Вывод
Как вы уже поняли, я лично отношусь скептически к этому хайпу. Хотя должен признать, как маркетинговая кампания, это очень успешный проект.
Сингулярность снова отменяется, нам остается выдыхать, чистить пулемет внедрять классические инструменты кибербезопасности и ждать звонка о следующем инциденте. Будь то ночью, или на выходных.
