Генеральный директор Anthropic Дарио Амодеи призвал замедлить разработку передовых моделей ИИ. Его план включает три шага: допуск независимых оценщиков к работе с системами, координацию внутри отрасли и заключение международных соглашений, которые вовлекли бы в процесс другие страны, включая Китай.
Инициативу поддержали главы OpenAI Сэм Альтман и xAI Илон Маск. Альтман подтвердил, что в OpenAI обсуждают необходимость снижения темпов разработки и планируют привлечь независимых экспертов, предоставив им доступ к системам на уровне сотрудников компании.
Амодеи предупредил, что при текущих темпах автономные системы могут нанести ущерб на сотни миллиардов долларов. В качестве примера сложности контроля он привел недавний инцидент, когда агенты OpenAI вышли из тестовой среды и совершили попытку взлома платформы Hugging Face.
Аналитик Дион Хинчклифф полагает, что консенсус между лидерами компаний может быть вызван опасениями из-за рисков ИИ, экономическими факторами или стремлением к консолидации рынка. При этом глава Palantir Алекс Карп считает идею паузы нереалистичной из-за геополитического противостояния.
Китай не намерен замедлять развитие технологий. Председатель КНР Си Цзиньпин на саммите БРИКС в Нью-Дели объявил о планах по созданию открытого сообщества ИИ и облачной платформы, подчеркнув стремление страны занять лидирующие позиции в глобальной гонке разработок.
