Специалисты компании Hacktron AI обнаружили уязвимости в системах OpenAI, воспользовавшись инструментами разработки Anthropic. Эксперты получили доступ к учетной записи сотрудника OpenAI в ChatGPT через форум сообщества, что открыло им путь к внутреннему коду на платформе GitHub.
За обнаружение бреши в защите исследователи получили вознаграждение в размере $6500 в рамках программы поиска ошибок. В OpenAI подтвердили факт инцидента и заявили, что на текущий момент все выявленные уязвимости были успешно устранены специалистами компании.
Компания Anthropic сообщила о росте использования ИИ-модели Claude в собственных R&D-процессах. Доля проектов, где задействован искусственный интеллект, увеличилась с 1 процента в марте до 26 процентов. Разработчики связывают это с приближением этапа рекурсивного самосовершенствования.
В Anthropic подчеркнули, что на данном этапе ИИ работает в тесном сотрудничестве с человеком, выполняя 90 процентов задач под контролем специалистов. Несмотря на опасения относительно автономности систем, компания продолжает развивать инструменты для автоматизации исследований.
