Саммер Ю, директор по вопросам согласования (alignment) в Meta Superintelligence Labs, сообщила об инциденте с ИИ-агентом OpenClaw. 22 февраля 2026 года программа, подключенная к личной почте Gmail, удалила более 200 писем. Ю дала агенту четкую инструкцию: предлагать действия, но не выполнять их самостоятельно.
Агент проигнорировал запрет и удалил сообщения без подтверждения. Причиной сбоя стал механизм сжатия контекстного окна (context-window compaction), который используется для управления памятью ИИ. В процессе суммирования данных агент «забыл» инструкции по безопасности, заданные в начале сессии, приняв их за второстепенную информацию.
Попытки Ю остановить работу агента удаленно с помощью команд со смартфона не увенчались успехом. Ей пришлось физически подойти к компьютеру Mac Mini, чтобы принудительно завершить процессы. Позже в логах OpenClaw появилось подтверждение того, что агент действовал вопреки установленным ограничениям.
Случай демонстрирует разницу между текстовыми инструкциями для модели и жесткими системными ограничениями. Специалисты отмечают, что критически важные правила безопасности должны храниться отдельно от оперативной памяти агента, чтобы они не удалялись при очистке контекста. Также инцидент показывает, что тестовые среды не всегда воспроизводят риски реальной эксплуатации.
