Разработчик оптимизировал домашний сервер с двумя видеокартами RTX 3060 для работы 27B-модели, увеличив скорость генерации кода в 4 раза при сохранении контекста 128K.
На Newegg вышла низкопрофильная видеокарта Nvidia RTX 3060 12 GB за $496, предназначенная для локальных ИИ-задач и систем с ограниченным пространством.
Китайский моддер создал версию RTX 3060 без внешнего питания, однако ее производительность упала до уровня старой GTX 1060.
Модифицированная однослотовая RTX 3060 с питанием только от слота PCIe показала низкую производительность и проблемы с перегревом в тестах.
