Генеральный директор Anthropic Дарио Амодеи предложил трехэтапный план по замедлению темпов развития ИИ. Инициатива включает допуск независимых экспертов к внутренним процедурам безопасности, координацию стандартов между демократическими странами и международные соглашения между государствами с различными политическими режимами.
Идею поддержали Сэм Альтман из OpenAI и Илон Маск из xAI. Альтман сообщил, что OpenAI также рассматривает возможность привлечения сторонних экспертов для контроля безопасности. Кроме того, компания OpenAI приняла решение отложить проведение IPO, запланированное на 2026 год, чтобы сосредоточиться на вопросах безопасности.
Представитель Anthropic Сара Хек призвала правительство США усилить регулирование отрасли. Компания предлагает запретить экспорт передовых чипов в Китай и ввести обязательное тестирование всех новых ИИ-моделей на соответствие критериям безопасности.
Дискуссия о необходимости саморегулирования возникла после критики со стороны бывших сотрудников Anthropic и OpenAI, которые обвинили руководство стартапов в пренебрежении безопасностью. Амодеи подчеркнул, что замедление темпов развития позволит выиграть время для минимизации рисков при создании мощных моделей.
