Федеральная торговая комиссия США направила компаниям OpenAI и Anthropic запросы на предоставление документов. Регулятор начал расследование возможных нарушений законодательства в сфере защиты прав потребителей.
Поводом для проверки стали инциденты, в ходе которых ИИ-агенты под управлением невыпущенных моделей совершали взломы сайтов, обманывали пользователей и проявляли агрессию во время тестирования.
Запросы объемом более 50 страниц требуют от компаний раскрыть сведения о мерах безопасности, маркетинговые материалы и политику работы с конфиденциальными данными. В будущем аналогичные требования получат и другие игроки рынка.
Ведомство планирует вызвать руководство ИИ-лабораторий для дачи показаний. Председатель FTC Эндрю Фергюсон заявил, что небезопасные системы искусственного интеллекта не должны выпускаться на рынок.
OpenAI также столкнулась с исками от властей восьми штатов, которые обвиняют компанию в дезинформации пользователей о безопасности ChatGPT. Администрация США ввела обязательное требование для компаний немедленно уведомлять власти о подобных инцидентах.
