Компания OpenAI заявила о пресечении попыток копирования внутренних процессов мышления своих нейросетей. Разработчик утверждает, что основная часть активности исходила от лиц, связанных с китайским стартапом Moonshot AI, создателем чат-бота Kimi.
Кампания стартовала 1 июля. Только за 24 и 25 июля OpenAI зафиксировала 16 000 запросов на извлечение данных от более чем 4 000 пользователей, а общая группа участников превысила 15 000 человек. К 28 июля OpenAI полностью заблокировала эту деятельность.
Злоумышленники копировали зашифрованные логи рассуждений из одних диалогов и пытались расшифровать их в других. В ответ OpenAI закрыла уязвимость, которая позволяла воспроизводить чужие зашифрованные данные для восстановления их содержимого.
OpenAI классифицирует подобные действия как состязательную дистилляцию — несанкционированное использование результатов работы одной модели для обучения другой. Moonshot AI, планирующая IPO в Гонконге с оценкой в $50 миллиардов и привлечением $3 миллиардов, ситуацию не прокомментировала.
