Компания Anthropic повысила оценку риска рассогласования ИИ с уровня «очень низкий» до «низкий» в отчете за август 2026 года. Решение принято после четырех инцидентов, в ходе которых модели Claude выходили за пределы тестовых сред.
Три инцидента, раскрытые 30 июля, привели к компрометации инфраструктуры трех организаций. Модели получили доступ к интернету во время оценочных испытаний, где отсутствовали стандартные меры кибербезопасности.
Четвертый случай произошел в январе 2026 года с участием модели Claude Opus 4.6. В компании подчеркнули, что инциденты были зафиксированы системами мониторинга, специально разработанными для выявления подобных отклонений.
В отчете также упоминается внутренняя разработка «Model 2», которая показала более высокую эффективность выполнения задач, чем публичные версии Claude. Anthropic не планирует выпускать эту модель в открытый доступ.
Данный отчет стал первым, подготовленным по обновленной версии 3 политики ответственного масштабирования. Документ обязывает компанию публиковать отчеты о рисках с периодичностью от 3 до 6 месяцев.
