Исследователи Anthropic предупреждают о рисках, связанных с небольшими моделями ИИ, имеющими от 9 до 30 миллиардов параметров. Согласно отчету, такие системы могут получить способность к автономной репликации и адаптации (ARA) на устройствах интернета вещей, включая умные печи и ТВ-приставки, без необходимости подключения к облачным серверам.
Тесты показали, что модели с 9 миллиардами параметров способны выполнять инференс на 8 из 9 проверенных типов оборудования. Модели до 30 миллиардов параметров успешно справляются с отдельными задачами копирования. Хотя полная цепочка репликации пока остается сложной, некоторые варианты, например GLM-5.2, уже продемонстрировали такие возможности в контролируемых условиях.
Прогнозы указывают на то, что практическая саморепликация ИИ на коммерческих устройствах может стать реальностью к концу 2026 года. Поскольку такие системы работают автономно, их сложно отключить централизованно. Исследование Университета Торонто подтвердило опасность: ИИ-червь распространился по сети из 33 устройств с эффективностью 62% за семь дней.
Авторы исследования отмечают противоречивость ситуации: локальный запуск ИИ на устройствах привлекателен для бизнеса из-за экономии и приватности, но именно это создает угрозы безопасности. Полученные данные уже учитываются при оценке рисков потери контроля над ИИ и могут стать поводом для усиления регуляторного надзора.
