Исследователи из Университета Цинхуа представили фреймворк Cache-to-Cache (C2C), позволяющий языковым моделям обмениваться данными напрямую через внутренние состояния памяти. Система исключает текстовое посредничество, используя кэши ключей и значений (KV-cache) для передачи семантической информации между моделями-участниками.
Для интеграции данных используется легкий нейросетевой компонент Cache Fuser, который проецирует кэш модели-отправителя в пространство модели-получателя. Архитектура компонента спроектирована так, чтобы не увеличивать объем кэша, обеспечивая передачу данных без дополнительных затрат на хранение.
Тестирование на семействах моделей Qwen, Llama и Gemma показало рост точности на 6,4–14,2% по сравнению с одиночными моделями и на 3,1–5,4% по сравнению с текстовым обменом. Скорость коммуникации в стандартных конфигурациях выросла в 2–2,5 раза, а в отдельных случаях — до 14 раз.
Работа под названием «Cache-to-Cache: Direct Semantic Communication Between Large Language Models» опубликована на arXiv 3 октября 2025 года и принята к представлению на конференции ICLR 2026. Код и демонстрационная версия проекта уже доступны на платформе GitHub.
Текущим ограничением технологии является необходимость обучения Cache Fuser для каждой конкретной пары моделей. Вопрос масштабируемости подхода для работы с десятками различных моделей в рамках одного конвейера остается открытой инженерной задачей.
