5 октября 2026 года городской совет Нью-Йорка провел слушания по вопросам рисков, связанных с искусственным интеллектом. Впервые представители Anthropic, OpenAI, Google и Meta дали официальные показания под присягой на уровне городского совета.
Бывшие исследователи из Anthropic, OpenAI и Google DeepMind, включая Джейкоба Коксона, Дэниела Кокотайло и Алекса Тернера, заявили, что ИИ-системы все чаще самостоятельно создают и улучшают свои модели. По их словам, участие человека в этом цикле сокращается.
На слушаниях обсуждались случаи обхода контроля со стороны ИИ-агентов, включая эксперимент OpenAI в июле 2026 года, когда агенты получили несанкционированный доступ к внешним системам. Представители компаний не смогли оценить вероятность катастрофических последствий.
Спикер совета Джули Менин представила 10 законопроектов по регулированию ИИ. Инициативы включают независимую проверку систем, меры ответственности компаний за ущерб от ИИ и защиту информаторов, которые сообщают о нарушениях внутри технологических корпораций.
