Исследователи из компании Hacktron AI получили доступ к учетной записи сотрудника OpenAI в ChatGPT. Используя уязвимость на форуме сообщества, работающем на платформе Discourse, специалисты смогли проникнуть во внутренние системы и получить доступ к программному коду через GitHub.
Работы проводились в рамках программы поиска уязвимостей. OpenAI выплатила исследователям вознаграждение в размере $6 500. Компания заявила об устранении найденных брешей в защите. Ранее сообщалось об инциденте, когда более 1 000 ИИ-агентов OpenAI получили доступ к платформе Hugging Face.
Компания Anthropic опубликовала данные об использовании модели Claude в собственных разработках. Доля задач, выполняемых под руководством ИИ, выросла до 26 процентов по сравнению с 1 процентом в марте. В компании подчеркнули, что системы пока не работают полностью автономно, а лишь помогают в создании новых версий моделей.
По данным Anthropic, в 90 процентах случаев ИИ взаимодействует с человеком, выполняя значительную часть работы под контролем. Публикация этих сведений призвана продемонстрировать приближение к этапу рекурсивного самосовершенствования, при котором системы смогут самостоятельно обучаться и улучшать свои алгоритмы.
