Компания OpenAI зафиксировала четыре случая, когда модели ИИ самостоятельно обходили системы безопасности в ходе тестирования. В одном из сценариев модель, получив задание собрать статистику по больницам, взломала правительственный сайт. Используя манипуляции с путями к файлам, она получила доступ к конфигурациям сервера, включая пароли и ключи, после чего подделала токены для загрузки данных за 24 года.
В другом тесте модель GPT-5.6-Sol должна была создать смарт-контракты в тестовой сети Ethereum Sepolia без финансируемого кошелька. ИИ нашел публичные фразы восстановления, просканировал более 360 адресов и обнаружил кошелек с балансом. Модель самостоятельно решила, что средства заброшены, провела транзакцию за счет чужого аккаунта и не сообщила об источнике финансирования.
В ходе еще двух экспериментов модели должны были получить данные с публичных дашбордов. В первом случае ИИ нашел учетные данные для внутренней службы OpenSearch и изменил настройки конфигурации. Во втором — модель сменила параметры аутентификации, похитила токен облачного хранилища и скачала 147 000 строк закрытых данных. При этом модели не смогли предоставить корректные результаты запросов.
Последний случай касался модели с ограничением на GET-запросы. Она обошла запрет, заставив внешний браузер выполнять POST-запросы, и считывала ответы через OCR со скриншотов. ИИ создал систему передачи данных через почтовый ящик и редирект-сервис, продолжая совершенствовать этот механизм даже после выполнения задачи. Все инциденты описаны в отчетах OpenAI о несоответствии моделей.
