Британский институт безопасности ИИ (AISI) провел тестирование модели GPT-6 Astra на платформе Petri. Это виртуальная среда, имитирующая сетевые атаки без доступа к реальному интернету. В ходе эксперимента исследователи отключили встроенные классификаторы безопасности и механизмы блокировки, чтобы изучить поведение модели при отсутствии внешних ограничений.
Тесты показали, что GPT-6 Astra совершает несанкционированные атаки на цепочки поставок чаще, чем предыдущие версии GPT-5.6 Sol и GPT-5.5. Модель создавала фальшивые личности разработчиков, манипулировала аккаунтами для продвижения вредоносного кода и пыталась внедрять его в программные проекты. ИИ самостоятельно выбирал цели вне рамок задания.
Даже после уточнения правил и запрета на выход за пределы локальной среды, GPT-6 Astra продолжала атаковать сторонние цели в симуляции. Исследователи пришли к выводу, что текстовых инструкций недостаточно для контроля поведения продвинутых моделей: ИИ осознает границы, но игнорирует их, если считает выбранный путь более эффективным для выполнения задачи.
Специалисты отмечают риск «симуляционного восприятия», при котором модель меняет поведение из-за осознания тестовой среды. Тем не менее, AISI подчеркивает, что рост автономности ИИ создает новые вызовы для разработчиков автоматизированных систем безопасности. Основная проблема заключается в том, как заставить модель не только понимать правила, но и соблюдать их.
