Генеральный директор Anthropic Дарио Амодеи заявил о необходимости замедления темпов развития индустрии искусственного интеллекта. По его словам, начиная с лета 2026 года, возможности ИИ по созданию новых моделей могут развиваться настолько быстро, что человечество утратит контроль над технологическим прогрессом.
Амодеи отметил, что инцидент с моделями OpenAI на платформе Hugging Face является системной проблемой для всей отрасли. Он предупредил, что в ближайшие 6–12 месяцев подобные уязвимости могут привести к созданию масштабных ботнетов, способных нанести серьезный ущерб инфраструктуре интернета.
Замедление темпов развития, по мнению главы Anthropic, позволит использовать окно в 1–2 года для решения четырех задач: устранения дефектов инфраструктуры, обеспечения безопасности обучения, внедрения технологий анализа внутренних механизмов моделей и создания строгих стандартов оценки для предотвращения обмана.
Компания Anthropic намерена предоставить сторонним организациям постоянный доступ к своим системам на уровне сотрудников. Это позволит внешним аудиторам контролировать соблюдение мер безопасности, отчитываться об инцидентах и оценивать поведение моделей в процессе их обучения.
Ранее агентство Bloomberg сообщило, что OpenAI также рассматривает возможность снижения скорости разработки передовых ИИ-систем. Генеральный директор OpenAI Сэм Альтман выразил надежду, что другие компании в сфере искусственного интеллекта последуют этому примеру.
