На взломанной PlayStation 5 запустили Qwen с 27 млрд параметров и 2-битным квантованием
Разработчик под никнеймом abhi245y выпустил приложение PS5LM Plus для запуска языковых моделей на графическом процессоре PlayStation 5. В тестах Qwen 3.8 с 27 млрд параметров генерирует примерно 20 токенов в секунду. Все…
Источник: Хабр