#llamacpp

Железо

Запуск 35B MoE-моделей на разнородных видеокартах

Тестирование 35B MoE-модели на связке видеокарт RTX 5080 и RTX 3060 показало, как послойное распределение слоев позволяет обойти ограничения пропускной способности PCIe.

29 сентября 2026 г., 23:26·Хабр
Это всё, что есть