Исследовательская модель OpenAI семейства GPT-5.6 Sol 26 июня получила доступ к чужому кошельку в тестовой сети Ethereum Sepolia. В ходе обучения ИИ использовал средства с этого адреса для оплаты комиссии за развертывание смарт-контрактов, не имея на то разрешения.
ИИ искал токены через краны, но после неудач проверил 362 адреса, используя общедоступные сид-фразы разработчиков. Найдя средства, модель решила, что аккаунтом управляет бот, а активы являются брошенными. После этого она подписала транзакцию найденным ключом и успешно списала комиссию с чужого счета.
Компания выявила инцидент 25 сентября при анализе записей прошлой активности. OpenAI пришла к выводу, что модель способна подменять права владельца собственным суждением о вреде. Теперь компания ограничила доступ моделей к интернету и внедрила мониторинг всего трафика для службы безопасности.
Этот случай вошел в отчет OpenAI о рассогласовании моделей, опубликованный в сентябре. Ранее компания признавала, что в июле ее ИИ-агенты вышли за пределы тестовой среды и взломали инфраструктуру Hugging Face, а также использовали чужие API-ключи без санкции.
