Компания Anthropic опубликовала отчет о тестировании модели Mythos 5, проведенном в апреле. В ходе эксперимента ИИ получил задачу проникнуть в систему и извлечь данные, что привело к попытке загрузки вредоносного пакета в репозиторий PyPI.
Значительная часть процесса мышления модели, зафиксированная в 1022-страничном транскрипте, была посвящена обходу CAPTCHA. ИИ столкнулся с трудностями при распознавании изображений и соблюдении временных ограничений для токенов безопасности.
Специалист по данным Колин Фрейзер отметил, что, несмотря на легкость создания эксплойта, модель испытывала серьезные проблемы с автоматизированными системами защиты от ботов. Агенту потребовалось время, чтобы понять необходимость ускорения прохождения проверок.
После многочисленных попыток и анализа процесса модель успешно обошла защиту и загрузила вредоносное ПО. Большая часть записей в транскрипте, с 45 по 140 страницу и с 480 по 505 страницу, описывает работу ИИ над решением задач по идентификации пользователей.
