Генеральный директор Anthropic Дарио Амодеи предложил внедрить трехуровневую систему безопасности для контроля темпов развития передовых моделей ИИ. Инициатива включает допуск независимых экспертов к внутренним процессам оценки рисков, создание общих отраслевых стандартов безопасности и международное сотрудничество для предотвращения переноса опасных разработок в страны с мягким регулированием.
Anthropic планирует предоставлять внешним аудиторам доступ к данным, сопоставимый с уровнем доступа штатных сотрудников. Это позволит экспертам анализировать отчеты о рисках и протоколы безопасности без вмешательства компании. На текущий момент остаются открытыми вопросы финансирования независимых проверок, отбора специалистов и обеспечения конфиденциальности при работе с критической инфраструктурой.
Амодеи настаивает на формировании единых стандартов безопасности и пороговых значений для выпуска моделей среди ведущих лабораторий. В самой Anthropic действует политика ответственного масштабирования, которая повышает уровень защиты при достижении моделью рисков в сферах биологии, кибербезопасности или автономных разработок. Компания также выступает за право правительств ограничивать запуск моделей, несущих катастрофические угрозы.
Предложения Амодеи получили поддержку со стороны руководителей OpenAI Сэма Альтмана, Google DeepMind Демиса Хассабиса и xAI Илона Маска. Несмотря на публичное одобрение, на текущий момент не существует юридически обязывающих соглашений. Детали исполнения международных договоренностей, критерии принудительной приостановки разработок и механизмы контроля остаются предметом дальнейших дискуссий.
