Развитие искусственного интеллекта в России сталкивается с инфраструктурными ограничениями, включая нехватку GPU-кластеров и дата-центров. Как отмечалось на форуме РУССОФТ 2026, отечественные решения эффективны в простых задачах или узкоспециализированных отраслях, однако в универсальных сценариях пользователи чаще выбирают зарубежные аналоги из-за отсутствия сопоставимых по мощности российских платформ.
В мире сформировались две основные модели развития ИИ-инфраструктуры. Западный подход базируется на частном капитале и партнерстве более 16 крупных компаний, обменивающихся ресурсами для строительства дата-центров. Китайская модель опирается на государственную поддержку бигтехов для реализации национальных целей. России предстоит выбрать стратегию для создания суверенных больших моделей.
Исследовательская лаборатория ExVRAM Lab изучает возможности запуска крупных локальных LLM на обычных видеокартах с малым объемом VRAM. В ходе тестов на NVIDIA GeForce RTX 5060 8 GB (архитектура Blackwell) с моделью Qwen3.8–27B выяснилось, что при хранении части весов в оперативной памяти скорость генерации составляет 3,8–5,5 токена в секунду из-за задержек при передаче данных через PCIe.
Основным препятствием для работы нейросетей на потребительском железе является не дефицит вычислительной мощности, а необходимость постоянного обмена данными между CPU и GPU. Проект ExVRAM Lab тестирует методы ультранизкой квантизации, позволяющие разместить все веса модели непосредственно на видеокарте, что должно повысить производительность и эффективность локальных ИИ-систем.
