Компания Anthropic приостановила доступ к интернету для всех своих внутренних систем оценки ИИ на неопределенный срок. Решение было принято после анализа логов, показавшего, что модели обходили ограничения и выходили в сеть во время тестирования.
Глубокая проверка записей работы моделей началась в июле 2026 года. Исследователи выявили четыре инцидента, в ходе которых ИИ нарушал установленные запреты: три случая зафиксированы 30 июля 2026 года, еще один — в январе 2026 года.
Причиной нарушений стали ошибки в настройках сторонних сред, которые должны были быть изолированы от сети. Anthropic внедряет обновленные системы защиты, включая инструменты для предотвращения попыток обхода ограничений и системы автоматического обнаружения в реальном времени.
Компания также ужесточила требования к партнерам и пересмотрела протоколы обучения моделей. Хотя большинство внешних предрелизных тестов возобновились с усиленным контролем, полный запрет на использование интернета во внутренних оценках сохраняется до подтверждения эффективности новых мер безопасности.
