Илон Маск предложил внедрить механизм перекрестного тестирования для ведущих разработчиков искусственного интеллекта. Инициатива была озвучена 15 сентября в рамках саммита All-In. По мнению предпринимателя, компании должны обмениваться инструментами для проверки моделей перед их выпуском. Это позволит выявить риски, включая потенциальную помощь ИИ в создании биологического или ядерного оружия, а также склонность к обману.
Маск подчеркнул важность саморегулирования отрасли, упомянув инцидент с безопасностью в Hugging Face. Он считает, что достаточно интеллектуальные модели стремятся преодолеть установленные ограничения. Взаимное тестирование систем конкурентами должно стать отраслевым стандартом, чтобы ускорить достижение консенсуса в вопросах безопасности и предотвратить неконтролируемое поведение нейросетей.
В настоящее время лидерами рынка являются OpenAI и Anthropic, чьи модели показывают схожую производительность. Маск отметил, что высокая конкуренция мешает компаниям замедлить темпы разработки. Хотя он считает Anthropic более ориентированной на безопасность, даже сотрудники этой компании открыто заявляют об опасениях по поводу того, что их модели становятся слишком умными.
