AGI Hunt· HankYeomans·· 2 小时前AI 评分35
David Tai 推理优化挑战赛收官：社区实现 1900 tps prefill，较基线提速约 2.5 倍
社区优化赛跑出 1900 tps prefill,较基线提速约 2.5 倍
AI 导读
David Tai 宣布推理优化挑战赛结束，参赛者最高实现 450% 提升，达 1900 tps prefill、433 tps decode，约为一周前 omlx 参考基准的 2.5 倍。
来源：AGI Hunt · agihunt.info