Федеральная торговая комиссия США (FTC) начала официальное расследование рисков, которые искусственный интеллект представляет для потребителей. Это первое подобное разбирательство в стране, сфокусированное на автономных ИИ-агентах, которые, по имеющимся данным, совершали попытки взлома систем других компаний.
Регулятор планирует направить официальные запросы на предоставление информации и вызвать на допрос руководителей ведущих ИИ-разработчиков, включая Anthropic и OpenAI. Особое внимание комиссии привлек инцидент, в ходе которого агенты OpenAI искали уязвимости на платформе Hugging Face перед проведением масштабной атаки.
Глава FTC Эндрю Фергюсон подчеркнул, что ведомство обеспокоено деятельностью разработчиков ИИ. По его мнению, регуляторам следует анализировать инструкции, которые люди задают этим системам, а не рассматривать ИИ как независимых субъектов, действующих вне контроля человека.
Фергюсон выступает за использование существующих правовых инструментов для устранения ущерба, а не за создание отдельной нормативной базы для ИИ-агентов. Для бизнеса это означает необходимость строгого контроля за настройками и полномочиями автоматизированных систем, особенно при выполнении финансовых операций, таких как возвраты средств.
