AGI Hunt· Correct_Positive_108·· 4 小时前AI 评分25
独立开发者吐槽 Together AI 限流:多 Agent 并行测试寸步难行
独立开发者吐槽 Together AI 限流:多 Agent 并行测试寸步难行
AI 导读
一位独立开发者在 Together AI 上用多个 Agent 并行运行 Llama 3.3 70B、Qwen 2.5 等模型做代码仓库索引与 benchmark 生成时,频繁撞上 RPM/TPM 限流。他认为模型本身没问题,但免费/低档位额度撑不起有意义的并发测试,升级企业档位对没有营收的个人开发者并不现实。该开发者发帖寻求对开发者友好、实验额度充足的推理服务商推荐。
来源:AGI Hunt · agihunt.info