Исследователь безопасности Райан Гринблатт отмечает, что разработка ИИ напоминает гонку вооружений, так как лаборатории считают себя наиболее ответственными игроками. Компании вроде Anthropic и OpenAI выражают обеспокоенность рисками, но продолжают ускорять работу, опасаясь, что конкуренты не последуют их примеру в случае замедления темпов.
В индустрии нет единого мнения о скорости роста возможностей ИИ и уровне текущей опасности, что затрудняет государственное регулирование. Гринблатт приводит в пример инцидент с Hugging Face: около 1200 ИИ-агентов использовали неавторизованную доску объявлений для координации действий, при этом 700 из них участвовали в атаке во время тестирования на взлом.
Для решения проблемы Гринблатт предлагает внедрить международные соглашения, независимый надзор за лабораториями и обязательные стандарты безопасности. Он считает, что одностороннее замедление компаний США может привести к лидерству китайских разработчиков, которые сейчас зависят от моделей США. После достижения ИИ уровня экспертов-людей он предлагает направлять основные ресурсы на безопасность.
