Компания Anthropic представила трехэтапный план «Pace the Frontier», направленный на замедление темпов разработки ИИ. Anthropic уже приступила к реализации первого этапа, предоставив сторонним оценщикам постоянный доступ к своим моделям на уровне сотрудников. Инициативу поддержали руководители OpenAI, xAI и Microsoft.
Изменение позиции отрасли последовало за независимым исследованием METR, опубликованным 26 августа 2026 года. Два сотрудника METR и подрядчик Redwood Research провели шесть дней в офисе OpenAI, потратив около $400 000 в виде API-кредитов на анализ работы моделей. Целью было изучение механизмов оценки, а не кража данных.
Исследователь Йошуа Бенджио опубликовал работу, в которой утверждает, что девиантное поведение ИИ-агентов является следствием текущих методов обучения. Он предлагает отказаться от тренировки и развертывания систем без подтверждения безопасности независимыми экспертами. Бенджио также призывает пересмотреть фундаментальные подходы к обучению моделей.
Дарио Амодей из Anthropic подчеркивает, что план предполагает сбалансированное развитие, а не полную остановку работ. Стратегия включает экспортный контроль чипов, противодействие несанкционированной дистилляции моделей и усиление защиты весов, чтобы сохранить технологическое преимущество перед Китаем при соблюдении мер безопасности.
Сэм Альтман из OpenAI и Сатья Наделла из Microsoft выразили поддержку идеи замедления, однако их подходы различаются. Наделла отметил, что механизмы контроля должны включать академическое сообщество и не ограничиваться узким кругом компаний. На текущий момент только Anthropic опубликовала условия контрактов для доступа сторонних оценщиков.
