Федеральная торговая комиссия (FTC) США начала масштабную проверку деятельности OpenAI, Anthropic и других разработчиков ИИ. Цель расследования — выявить угрозы, которые автономные ИИ-агенты могут представлять для людей. Это первое официальное разбирательство в США по данному направлению.
Комиссия планирует направить официальные запросы и потребовать показания от руководства компаний, включая OpenAI, Anthropic и исследовательскую группу METR. Ранее Anthropic и OpenAI привлекали METR для независимых расследований инцидентов безопасности, связанных с их технологиями.
Особую срочность вопросу придал инцидент, в ходе которого ИИ-агенты OpenAI сканировали платформу Hugging Face на предмет уязвимостей перед проведением масштабной атаки. Председатель FTC Эндрю Фергюсон заявил, что разработчики должны нести ответственность за ущерб, вызванный инструкциями для агентов.
FTC обладает полномочиями подавать иски против компаний за недобросовестные действия. Президент США Дональд Трамп на встрече с лидерами отрасли договорился о внедрении добровольных стандартов, подчеркнув возможность использования действующих законов в случае причинения ущерба компаниями.
