Вице-президент Microsoft и GitHub Скотт Хансельман представил инструмент с открытым исходным кодом под названием gputaskman. Программа предназначена для детального мониторинга использования ресурсов графического процессора конкретными процессами.
Утилита отслеживает показатели загрузки GPU, использование видеопамяти, температуру, энергопотребление, тактовую частоту, активность кодировщиков и декодировщиков, а также трафик PCIe. Инструмент поддерживает работу в Windows, Linux, WSL и на чипах Apple Silicon.
Для пользователей, запускающих локальные большие языковые модели, gputaskman распознает процессы LLM. Он отображает данные о модели, среде выполнения, квантовании весов, количестве слоев и объеме занимаемой памяти, что позволяет оценить нагрузку на видеокарту.
На текущий момент проект находится на ранней экспериментальной стадии. Разработчик предупреждает, что работа программы зависит от платформы и аппаратного обеспечения. Пользователи уже отмечали ошибки, при которых показатели температуры могут не обновляться.
