Разработчик abhi245y представил приложение PS5LM Plus, позволяющее запускать большие языковые модели на взломанных консолях PlayStation 5. Проект развивает идеи инженера Мерта Кобанова и переносит основные вычисления с центрального процессора на графический чип устройства.
Для оптимизации работы автор портировал драйвер AMD RADV из проекта Mesa и адаптировал llama.cpp для Vulkan. Это позволило увеличить объем доступной памяти с 6 до 11,4 ГБ. При пропускной способности 448 ГБ/с модель Qwen3.8-27B достигает скорости 20,9 токена в секунду.
В ходе тестов нагрузка на графический процессор составила 100 процентов, тогда как центральный процессор был задействован лишь на 2 процента. Более компактные модели работают быстрее: Gemma 4 E4B выдает около 61 токена в секунду, а Llama 3.2 3B — до 124 токенов в секунду.
Приложение включает веб-интерфейс и API на порту 8081 для работы в локальной сети. Поддержка интерфейсов OpenAI и Anthropic позволяет подключать инструменты OpenCode, Codex и Claude Code. Система ограничена 16 ГБ оперативной памяти, а использование взломанной консоли грозит блокировкой устройства или аккаунта.
