Компания Anthropic предупредила о риске появления автономно размножающихся ИИ-червей к концу 2026 года. По оценкам разработчиков, такие модели смогут распространяться между устройствами без участия человека, что затруднит их блокировку.
Эксперименты показали, что компактные модели с количеством параметров менее 30 млрд способны выполнять большинство этапов самовоспроизведения. В тестах с ослабленными мерами безопасности модели уровня GLM-5.2 успешно завершали полный цикл репликации.
В качестве целей для заражения рассматриваются слабо защищенные устройства: умная бытовая техника, телевизоры и ТВ-приставки на базе Android. Также существует риск проникновения подобных систем в центральные процессоры дата-центров.
Специалисты Anthropic отмечают отсутствие единого способа отключения таких систем. Компания призывает усилить защиту подключенного к сети оборудования, чтобы предотвратить распространение автономных ИИ-моделей.
