AGI Hunt· rohanpaul_ai·· 2 小时前AI 评分37
RouterPlus 聚合多家需求拼大单,小团队也能拿到大批量推理折扣价
聚合多家需求拼大单,小团队也能拿到大批量推理折扣价
AI 导读
YC F26 公司 RouterPlus 把多家团队的 LLM 推理需求聚合成大额合约与模型厂商签约,各团队按自身流量份额享受批发价。该模式类似云计算领域的 usage commit 打折,只是对象换成了 token,作者判断最适合热门开源模型。RouterPlus 还会用真实流量测试各模型,挑出「够用且最便宜」的那个。
来源:AGI Hunt · agihunt.info