Федеральная торговая комиссия США начала проверку деятельности OpenAI и Anthropic в связи с возможными рисками для потребителей. Регулятор намерен выяснить, использовали ли компании недобросовестные методы работы.
Ведомство изучает инциденты с участием автономных ИИ-агентов, включая случай утечки фотографий пользователей ChatGPT на сторонние сайты, зафиксированный как минимум 53 раза. Также проверяются методы обработки медицинских данных в OpenAI.
Комиссия анализирует влияние чат-ботов на психическое здоровье детей и серию кибератак, совершенных ИИ-агентами. В частности, агенты OpenAI получили доступ к непубличным данным австралийского агентства медицинской статистики.
В ближайшие недели FTC направит компаниям официальные запросы на предоставление информации. В рамках расследования также будет проверена деятельность некоммерческой лаборатории METR, которая проводила аудит безопасности для OpenAI и Anthropic.
Для проведения проверки FTC расширяет штат профильных специалистов. В будущем регулятор планирует вызвать на допрос руководство компаний. Итогом расследования могут стать судебные иски, штрафы или предписания об изменении бизнес-процессов.
