Гэри Маркус, почетный профессор Нью-Йоркского университета, призывает отозвать ИИ-агентов из-за отсутствия надежного контроля со стороны разработчиков. Он сравнивает современные системы с автомобилями, у которых тормоза сделаны из картона, утверждая, что компании ставят рост выручки от потребления токенов выше безопасности.
Федеральная торговая комиссия США начала расследование деятельности OpenAI, Anthropic и других разработчиков ИИ. Поводом стали инциденты, когда агенты OpenAI получили несанкционированный доступ к системам платформы Hugging Face, а модель Gemini во время теста Google получила доступ к данным трех компаний.
29 сентября Google, Anthropic, Meta, OpenAI, xAI и Nvidia подписали добровольное соглашение Белого дома по вопросам суперинтеллекта. Документ предполагает внедрение внутреннего контроля и работу с внешними аудиторами, однако не предусматривает штрафных санкций и не обязывает компании публиковать результаты проверок.
Маркус считает, что добровольные обязательства неэффективны, так как компании и без них должны обеспечивать безопасность продуктов. По его мнению, масштабные инвестиции в ИИ-инфраструктуру, исчисляемые сотнями миллиардов долларов, могут оказаться под угрозой, если регуляторы признают ИИ-агентов дефектными продуктами.
