Розробники запустили штучний інтелект прямо на PlayStation 5

Ентузіаст під ніком abhi245y випустив застосунок PS5LM Plus, який дозволяє запускати великі мовні моделі штучного інтелекту безпосередньо на зламаній PlayStation 5. Проєкт спирається на попередню розробку інженера з ШІ Мерта Кобанова і використовує графічний процесор консолі для прискорення обчислень.

На відміну від першої версії, яка покладалася переважно на центральний процесор і ледь справлялася з обробкою даних, оновлений застосунок забезпечує повноцінну генерацію відповідей. Для цього розробник портував драйвер AMD RADV із проєкту Mesa та адаптував llama.cpp для роботи через Vulkan.

Завдяки цьому обсяг пам’яті, доступної моделям, зріс приблизно з 6 до 11,4 ГБ. При пропускній здатності пам’яті 448 ГБ/с модель Qwen3-27B видає близько 21 токена за секунду. Під час тестування графічний процесор завантажений на 100%, тоді як центральний — лише на 2%.

Легші моделі працюють значно швидше: Gemma 4 E4B досягає близько 61 токена за секунду, а Llama 3.2 3B — до 124 токенів за секунду.

PS5LM Plus також має вебінтерфейс для спілкування зі штучним інтелектом і надає API через локальну мережу. Підтримка інтерфейсів OpenAI та Anthropic дозволяє підключати до консолі інструменти OpenCode, Codex і Claude Code.

Проте система має суттєві обмеження: консоль оснащена лише 16 ГБ оперативної пам’яті, а для запуску застосунку потрібен злам пристрою. Це може призвести до блокування PlayStation 5 або облікового запису в мережі PlayStation Network.

Источник: noworries.news