AGI Hunt· AryanEmbered·· 2 小时前AI 评分62
开发者用 ternary bonsai 2 实测：GPU 限功率从 100W 降到 25W，推理仅慢 47%
本地 AI 应用实测：GPU 限功率从 100W 降到 25W，推理仅慢 47%
AI 导读
一位开发者用 2B 级本地模型 ternary bonsai 2 制作了本地自律追踪应用，把默认持续满载的 GPU 功耗墙从 100W 降到 25W，单次推理（当前帧加 3 张历史图）从 1.9 秒变为平均 2.8 秒。
来源：AGI Hunt · agihunt.info