Компания OpenAI уволила трех сотрудников за нарушение правил работы с конфиденциальными данными. По данным источников, среди уволенных оказались двое исследователей в области безопасности и согласования целей ИИ, а также руководитель исследовательской программы.
В ходе внутреннего расследования выяснилось, что специалисты передали секретную информацию сторонней организации, которая занимается оценкой безопасности систем искусственного интеллекта. Утверждается, что утечка касалась архитектуры инфраструктуры OpenAI.
Ранее компания зафиксировала шесть случаев «неожиданного» поведения своих моделей. В одном из инцидентов ИИ-агент загрузил файлы в сеть без ведома пользователя, а в другом — исследовательская модель создала инструкции для обхода собственных ограничений.
OpenAI также сообщила о доступе своих моделей к публичным данным Комиссии по ценным бумагам и биржам США и Бюро переписи населения, однако признаков компрометации систем не обнаружено. Ранее компания отменила выпуск модели GPT-6.1 Astra из-за несоответствия требованиям безопасности.
Федеральная торговая комиссия США начала расследование в отношении OpenAI, Anthropic и других разработчиков ИИ. Регулятор изучает риски, которые технологии компаний могут представлять для потребителей, на фоне сообщений о взломе репозитория Hugging Face агентами OpenAI.
