跳到正文
原文
AGI Hunt· AIFlow_ML·· 2 小时前精选AI 评分66

RTX 3090 解锁 360W 功耗墙,PyTorch 推理吞吐从 75T 提升到 135T

RTX 3090 解锁 360W 功耗墙,推理速度从 75T 飙到 135T

AI 导读

开发者 KBlueleaf 确认,将 RTX 3090 的功耗墙放宽到 360W 后,PyTorch 实测推理吞吐从 75T 提升到 135T,几乎翻倍。该解锁借助社区工具 llama.cpp 仓库中的特定 commit a9b0c75 实现。有评论者感慨,这类魔改让老卡性价比大增,二手的 3090 也会更难买到。

推荐理由

对比解锁前后的 75T 与 135T 吞吐,可以看出旧卡在软件层调优后仍有多少性能余量。

来源:AGI Hunt · agihunt.info