Руководство OpenAI и Anthropic поручило сотрудникам внедрить меры по замедлению разработки ИИ и расширению доступа сторонних экспертов к внутренним системам и лабораториям. Глава Anthropic Дарио Амодеи настаивает на углубленном аудите, а Сэм Альтман из OpenAI поддержал эту инициативу.
Сотрудники компаний выражают обеспокоенность из-за рисков для коммерческой тайны и информационной безопасности. Внутри OpenAI уже приостановлено обучение передовых моделей, тогда как Anthropic продолжает исследования без пауз. Персонал опасается, что снятие ограничений для внешних аудиторов угрожает конкурентоспособности.
Результаты проверок, проводимых организацией METR, подверглись критике из-за ограниченности данных и возможных связей с инвесторами Anthropic. Эксперты Британского института безопасности ИИ считают, что текущий подход компаний к саморегулированию неэффективен, так как он исходит из презумпции безопасности моделей.
Амодеи лоббирует создание законодательной базы в США, которая обязала бы компании проходить регулярный аудит и защитила бы их от обвинений в антимонопольном сговоре при совместной работе над безопасностью. Генеральный прокурор США Тодд Бланш заявил, что Минюст пока не планирует вводить специальное регулирование отрасли.
