Разработчик abhi245y представил приложение PS5LM Plus, которое позволяет использовать взломанные консоли PlayStation 5 в качестве локальных серверов для запуска нейросетей. Проект базируется на наработках Мерта Кобанова и переносит выполнение моделей с центрального процессора на графический чип консоли.
Использование драйвера AMD RADV из проекта Mesa и интерфейса Vulkan позволило увеличить доступный объем оперативной памяти с 6 ГБ до 11,4 ГБ. Это дает возможность запускать квантованные модели, такие как Qwen3.8-27B, со скоростью 20,9 токена в секунду, тогда как ранняя версия проекта выдавала лишь один токен в минуту.
При тестировании более легких моделей показатели выше: Gemma 4 E4B достигает 61 токена в секунду, а Llama 3.2 3B — 124 токенов в секунду. В процессе работы нагрузка на GPU составляет 100 процентов, а на CPU — 2 процента, что обеспечивается высокой пропускной способностью памяти консоли в 448 ГБ/с.
Инструмент PS5LM Plus включает веб-интерфейс для чата и предоставляет API через порт 8081 в локальной сети. Проект поддерживает совместимость с API OpenAI и Anthropic, что позволяет использовать локально запущенные модели в сторонних инструментах, включая Claude Code и Codex.
Техническим ограничением остается объем унифицированной памяти в 16 ГБ, что влияет на выбор моделей и качество их работы. Кроме того, для запуска нативного llama.cpp требуется взлом консоли, что несет риски блокировки устройства и учетной записи в сети PlayStation Network.
