跳到正文
原文
AGI Hunt· LatentSpacer·· 5 小时前AI 评分35

网友在越狱 PS5 的 GPU 上跑 Qwen 27B，速度约 20 tok/s

网友在越狱 PS5 的 GPU 上跑 Qwen 27B,速度约 20 tok/s

AI 导读

r/LocalLLM 用户展示在越狱的 PS5 游戏机上利用其 GPU 本地运行 Qwen 27B 模型，推理速度约 20 tok/s。这展示了把消费级游戏硬件改造为本地推理设备的可能性。

来源：AGI Hunt · agihunt.info

#现象/趋势#端侧#部署/工程