Генеральный директор Anthropic Дарио Амодеи представил трехэтапную концепцию безопасности ИИ, предлагая замедлить темпы развития передовых моделей. Компания намерена допустить независимых внешних оценщиков к своей внутренней инфраструктуре для проверки соблюдения протоколов безопасности, анализа инцидентов и контроля процессов обучения нейросетей.
В рамках инициативы внешние специалисты получат доступ к рабочим местам, корпоративному оборудованию и инструментам, сопоставимым с ресурсами внутренних команд по оценке рисков. Anthropic оставляет за собой право цензурировать информацию, затрагивающую коммерческую тайну или конфиденциальность клиентов, однако компания не сможет блокировать публикацию выводов экспертов.
Второй этап стратегии предполагает координацию усилий между ИИ-компаниями в демократических странах для выработки общих стандартов безопасности. Амодеи подчеркивает необходимость государственной поддержки для обхода антимонопольных ограничений, чтобы в будущем внедрить проверяемые графики замедления разработок при достижении консенсуса в отрасли.
Третий этап включает международное сотрудничество, начиная с запрета на использование ИИ при создании биологического оружия. Амодеи отмечает, что текущие модели уже способны ускорять разработку следующих поколений систем, что создает риски потери контроля над технологиями. По его оценке, на развитие методов безопасности потребуется один-два года.
Инициативу по привлечению независимых экспертов поддержали глава OpenAI Сэм Альтман и Илон Маск. Альтман заявил, что OpenAI также планирует внедрить аналогичную систему внешнего аудита, а Маск публично согласился с необходимостью замедления темпов разработки моделей.
