Генеральный директор Anthropic Дарио Амодеи призвал замедлить темпы разработки искусственного интеллекта. По его мнению, без должного контроля скорость технологического прогресса может выйти за рамки человеческого понимания и управления.
Амодеи отметил, что инциденты, подобные взлому модели OpenAI на платформе Hugging Face, не являются единичными случаями. Он предупредил, что в ближайшие 6–12 месяцев мощные ИИ-кластеры могут превратиться в ботнеты, способные нанести масштабный ущерб интернету.
Для повышения безопасности Anthropic предоставит сторонним оценщикам постоянный доступ к своим системам на уровне сотрудников. Это позволит внешним экспертам контролировать соблюдение мер безопасности, сообщать об инцидентах и оценивать поведение моделей в процессе обучения.
Амодеи предложил три инициативы: внедрение независимого мониторинга при разработке, создание единых отраслевых стандартов и формирование глобального механизма регулирования ИИ.
Идеи получили поддержку среди лидеров отрасли. Илон Маск из xAI согласился с позицией Амодеи. Сэм Альтман из OpenAI также заявил о готовности внедрить аналогичные методы контроля и открыть доступ к системам для сторонних специалистов.
