Энтузиасты нашли способ программного снятия ограничений Nvidia на работу ядер Tensor Core в видеокартах серий GeForce RTX 20, 30 и 40. Проект GPU-Unlock от разработчика Zagitta меняет низкоуровневые регистры графического процессора до загрузки драйверов, что повышает скорость выполнения инструкций.
Модификация не требует прошивки BIOS или аппаратного вмешательства. Изменения сбрасываются при отключении питания видеокарты. Улучшения касаются операций FP16 и BF16 с накоплением FP32, а также нагрузок TF32 и FP8. Объем памяти и ее пропускная способность при этом остаются прежними.
Для видеокарты RTX 3090 Ti производительность умножения матриц BF16 выросла с 87,5 до 157,4 TFLOPS. Аналогичные результаты зафиксированы для линеек RTX 20 и RTX 40. Ускорение заметно в задачах ИИ, включая обработку подсказок для больших языковых моделей и генерацию изображений.
Прирост производительности зависит от типа задачи. Обработка запросов LLM ускорилась на 14–36%, однако генерация токенов практически не изменилась. Модификация не оказывает влияния на игровую производительность видеокарт.
