Эксперимент по запуску восьми языковых моделей был проведен на плате Inspur YPCB-00338 с чипом Kintex-7 XC7K480T-2. Устройство оснащено двумя каналами памяти DDR3-1066 по 2 ГБ и интерфейсом PCIe Gen2 x8. В работе использовалась реализация openTPU с частотой ядра 133,33 МГц.
Матрица из 512 умножителей показала производительность 121 GOPS при теоретическом максимуме 136,5 GOPS. Основным ограничением стала пропускная способность памяти DDR3, которая при генерации текста загружалась на 94%. Из-за этого расширение пропускной способности PCIe практически не влияло на скорость работы.
В ходе тестов успешно выполнено 165 запусков LLM. Скорость генерации составила 12,5 токенов в секунду для Qwen3.5-2B, 35 для Qwen3-0.6B и 95 для LFM2.5-230M при использовании 4-битных весов. Переход с 8-битных на 4-битные веса ускорил работу системы в 1,4–1,8 раза.
Стоимость базового стенда составила около $100: $50 за плату, $10 за доставку и $40 за JTAG-адаптер. Использование внешнего подключения через USB4 увеличивает затраты еще на $225. Для сборки прошивки требуется редакция Vivado ML Enterprise.
