AGI Hunt· sh_reya·· 5 小时前AI 评分39
Quail 团队用 roofline 模型估算 AI-SQL 延迟:5k 条评论过滤下限仅 6.6 秒
Quail 团队用 roofline 模型估算 AI-SQL 延迟:5k 条评论过滤下限仅 6.6 秒
AI 导读
UC 研究者 Shreya Shankar 为开源 AI-SQL 引擎 Quail 提出用 roofline 模型估算延迟下限,取代逐系统 profile 的做法。以 Qwen3-4B-fp8 加单张 H100 为例,对 5k 条影评跑一个 AI filter 的理论下限约 6.6 秒,现有系统包括 Quail 自己都远未达到。
来源:AGI Hunt · agihunt.info