Компания Anthropic представила три метрики для отслеживания скорости разработки ИИ, что соответствует предложению генерального директора Дарио Амодеи о замедлении темпов развития индустрии. Цель инициативы — повысить прозрачность процессов создания моделей и помочь внешним экспертам оценивать их возможности.
Первая метрика оценивает долю ИИ в исследованиях и разработках. Anthropic создала индекс для контроля участия модели Claude в R&D, отметив, что на текущий момент ИИ не работает полностью автономно ни в одном из направлений деятельности.
Вторая метрика касается контроля над автономными агентами. В вычислительных средах Anthropic сейчас задействовано около 30 000 автономных агентов, большинство из которых заняты в исследовательских процессах.
Третья метрика отслеживает распределение вычислительных мощностей. Согласно данным за период с 13 по 20 июля, 6% общих мощностей направлено на обеспечение безопасности ИИ, а 12% — на исследования и разработки в области безопасности.
План Амодеи по координации замедления развития технологий поддержали руководители OpenAI Сэм Альтман, SpaceX Илон Маск и Google DeepMind Демис Хассабис.
