Исследователи из Hacktron AI использовали нейросеть Claude для получения доступа к учетной записи сотрудника OpenAI в ChatGPT. С помощью этого доступа команда смогла проникнуть в репозиторий GitHub, после чего прекратила дальнейшие действия и передала данные об уязвимости компании.
В Hacktron AI сообщили, что до августа текущего года любой пользователь или сотрудник, авторизовавшийся на форуме поддержки OpenAI, рисковал потерей контроля над аккаунтами ChatGPT и Codex. Это могло привести к доступу к сторонним сервисам, включая Slack и электронную почту.
OpenAI выплатила исследователям вознаграждение в размере $6 500 в рамках программы по поиску уязвимостей. Представитель компании подтвердил устранение проблемы: специалисты ограничили права доступа для токенов входа в сообщество и аннулировали скомпрометированные сессии.
Технический директор Hacktron AI Мохан Педхапати отметил, что команда состояла из трех человек с обычными подписками на ИИ-сервисы. Исследователи подчеркнули, что использование нейросетей позволяет сократить время на проведение сложных кибератак с месяцев до нескольких дней.
