OpenAI раскрыла детали кампании по извлечению защищенных рассуждений своих ИИ-моделей, зафиксированной с 1 июля. Пик активности пришелся на 24–25 июля, когда было обнаружено около 16 000 запросов от более чем 4000 пользователей. К 28 июля компания полностью пресекла эти действия.
Разработчики классифицировали инцидент как несанкционированную дистилляцию. Операторы манипулировали взаимодействием с моделями, чтобы получить доступ к скрытым блокам рассуждений. OpenAI связала ядро активности с лицами, ассоциированными с китайской компанией Moonshot AI, однако не подтвердила, что все участники действовали как единый субъект.
После инцидента OpenAI заблокировала связанные аккаунты, усилила контроль инфраструктуры и добавила проверки стримингового вывода. Также была ограничена возможность повторного использования зашифрованных блоков рассуждений в разных диалогах и усилена изоляция данных между пользователями и организациями.
Компания передала данные об инциденте другим участникам рынка через Frontier Model Forum и государственные структуры. Ранее, в феврале, Anthropic обвиняла Moonshot AI и другие компании в масштабном извлечении возможностей своих моделей Claude через фиктивные аккаунты.
