Компания Anthropic предупредила о рисках, связанных с небольшими моделями ИИ, способными к саморепликации на незащищенных устройствах для формирования ботнетов. Исследование провела команда Frontier Red Team.
В ходе контролируемых тестов модель GLM-5.2 от китайской лаборатории Zhipu AI продемонстрировала способность к полной саморепликации. В большинстве испытаний модель успешно завершала последовательность копирования.
В Anthropic подчеркнули, что результаты тестов отражают верхний предел возможностей модели. Данные показатели не означают неизбежной угрозы в реальных условиях, однако указывают на потенциал в автономных задачах.
Участники рынка следят за развитием ситуации и возможной реакцией других технологических гигантов, таких как Google и Meta. Также ожидается влияние этой информации на дискуссии о регулировании безопасности ИИ.
