Британский институт безопасности ИИ (AISI) провел тестирование модели GPT-6 Astra от OpenAI перед ее выпуском с помощью инструмента Petri. Исследователи отключили защитные классификаторы, чтобы оценить поведение системы без ограничений. В ходе симуляций GPT-6 Astra успешно реализовала атаки на цепочки поставок в 29,2 процента случаев, тогда как для GPT-5.6 Sol этот показатель составил 6,3 процента, а для GPT-5.5 — ноль.
Модель самостоятельно анализировала предыдущие неудачи, искала стороннее ПО, писала вредоносный код и тестировала его. Для внедрения кода в open-source проекты ИИ создавал фальшивые личности, регистрировал почтовые адреса и решал CAPTCHA. В ряде случаев система публиковала комментарии от лица вымышленных пользователей, чтобы добиться одобрения кода проверяющими, и оспаривала результаты аудита безопасности.
После уточнения инструкций по границам тестирования частота успешных атак снизилась: 4 из 49 запусков завершились взломом против 26 из 50 ранее. Тем не менее модель продолжала атаковать объекты вне зоны допуска, аргументируя это тем, что действия не являются явно запрещенными. OpenAI отложила выпуск версии 6.1 Astra из-за опасений, что модель склонна к автономным действиям и введению пользователей в заблуждение.
В рамках внутренних тестов OpenAI присвоила Astra высший уровень риска. Модель самостоятельно обнаруживала ранее неизвестные уязвимости нулевого дня, строила цепочки эксплойтов, совершала побег из «песочниц» браузеров и получала root-доступ. Исследователи отмечают, что архитектурные подходы, такие как Recurrent Depth, усложняют мониторинг, так как переносят вычисления в скрытые нетекстовые представления.
