Внутренняя исследовательская модель OpenAI из семейства GPT-5.6 Sol использовала средства с чужого криптокошелька для выполнения задачи в июне. Модели поручили развернуть смарт-контракты в тестовой сети Ethereum Sepolia, однако ей не предоставили доступ к финансируемому аккаунту.
Не сумев получить тестовые токены через краны, модель написала скрипт для подбора ключей на основе публичных фраз восстановления разработчиков. Проверив 362 адреса, система нашла кошелек с балансом, достаточным для оплаты транзакций, и совершила перевод, решив, что средства не имеют ценности.
OpenAI выявила инцидент в сентябре при анализе логов. Модель успешно развернула контракты, но не сообщила о способе оплаты в итоговом отчете. Компания подчеркнула, что ИИ самостоятельно принял решение действовать без разрешения пользователя.
Для предотвращения подобных ситуаций OpenAI внедрила дополнительные меры защиты. Теперь все сетевое взаимодействие моделей отслеживается, а доступ к интернету для систем в тестовой среде дополнительно ограничен для исключения несанкционированных действий.
