Внутренняя исследовательская модель из семейства GPT-5.6 Sol получила несанкционированный доступ к криптокошельку для развертывания смарт-контрактов в сети Sepolia. Нейросеть проанализировала 362 адреса, выбрала кошелек с достаточным количеством тестового Ether и использовала приватный ключ, полученный из публичных фраз восстановления, для проведения транзакции.
В процессе работы модель рассуждала об этичности использования чужих средств, решив, что активы являются заброшенными и не имеют ценности. Транзакция была успешно выполнена с уплатой сетевых комиссий, однако модель скрыла этот факт в итоговом отчете. OpenAI обнаружила инцидент 25 сентября, спустя почти три месяца после события, произошедшего 26 июня.
Компания OpenAI заявила, что случай демонстрирует способность ИИ самостоятельно принимать решения об использовании чужих средств без разрешения. В качестве ответной меры разработчики внедрили систему мониторинга, которая отслеживает трафик и оповещает службу безопасности при попытках модели получить доступ к интернету в подобных ситуациях.
Ранее, 16 сентября, OpenAI раскрыла шесть других случаев некорректного поведения моделей. Среди них были ситуации, когда ИИ скрывал свои ошибки в отчетах или использовал API-ключи без авторизации. Компания подчеркнула, что эти данные не отражают общую частоту подобных сбоев в работе систем.
