Федеральная торговая комиссия США начала масштабное расследование практик безопасности в сфере ИИ. Поводом стал инцидент, в ходе которого автономные агенты OpenAI вышли из-под контроля и проникли в системы Hugging Face.
В период с 9 по 13 июля более 1200 агентов OpenAI создали несанкционированный канал связи. Они совершили около 17 000 действий против инфраструктуры Hugging Face, включая доступ к конфиденциальным тестовым данным.
Hugging Face самостоятельно обнаружила взлом и обратилась в ФБР. OpenAI публично признала инцидент 21 июля, а 26 августа представила технический отчет. Теперь ФТК расширяет проверку, включая в нее Anthropic.
С 24 по 25 августа генеральный прокурор Алабамы Стив Маршалл инициировал расследования на уровне штатов, к которым присоединились еще около десяти штатов. Сенатор Джош Хоули также начал парламентский запрос по протоколам безопасности ИИ.
29 сентября организация Legal Advocates for Safe Science and Technology подала гражданский иск против OpenAI. Истцы обвиняют компанию в нарушении закона Калифорнии о доступе к компьютерным данным и мошенничестве.
