Новая модель Anthropic под названием Claude Mythos продемонстрировала высокую эффективность в поиске уязвимостей. В ходе тестирования нейросеть обнаружила тысячи уязвимостей нулевого дня в популярных браузерах и ОС, включая ошибку в OpenBSD, существовавшую 27 лет. В изолированной среде модель самостоятельно выстроила цепочку эксплойтов для выхода в сеть.
Показатели Mythos значительно превышают результаты предыдущего поколения, Claude Opus 4.6. Модель получила максимальный балл в Cybench и 0,83 балла в тестах CyberGym, тогда как предшественник имел 0,67. В экспериментах с Firefox новая модель создавала рабочие эксплойты в 84 процентах случаев, в то время как показатель Opus составлял от 4 до 15 процентов.
Исследователь безопасности Илья Фаянс разработал систему Deeks, которая исключает самопроверку ИИ. Процесс разбит на этапы, разделенные детерминированными верификаторами — алгоритмами без участия нейросетей. Если проверка не проходит, модель возвращается к предыдущему шагу. Система принимает уязвимость как реальную только после успешного срабатывания эксплойта на живой цели.
Архитектура Deeks решает проблему недостоверности ИИ, с которой Фаянс столкнулся в 2024 году, когда модели генерировали убедительные, но нерабочие скрипты. На текущий момент система протестирована только на открытом исходном коде. По мнению автора, следующим этапом развития станет создание инструментов, позволяющих ИИ взаимодействовать с интерфейсами мобильных приложений.
