Исследователи из Hacktron AI, в состав которой входят Харш Джайсвал, Мохан Педхапати и Рахул Майни, взломали системы OpenAI, используя код, написанный нейросетью Claude от Anthropic. Весь процесс занял менее 72 часов.
Атака началась с эксплуатации уязвимости в функции загрузки изображений на форуме OpenAI, работающем на платформе Discourse. Ошибка в библиотеке обработки изображений позволила обойти фильтры безопасности, а Claude помог создать рабочий код эксплойта.
Доступ к закрытому исходному коду OpenAI был получен через вторую уязвимость в системе единого входа. Компрометация сессии одного из сотрудников позволила исследователям проникнуть во внутренний репозиторий компании.
OpenAI выплатила команде вознаграждение в размере $6 500. Компания устранила проблему с аутентификацией в течение 14 часов после получения отчета, а разработчики Discourse исправили ошибку в обработке изображений, оценив её критичность в 8,8 балла из 10.
