跳到正文
原文
AGI Hunt· dr_cintas·· 4 小时前AI 评分54

Inworld 对外开放推理服务,推出繁忙时可拒单的 Flex 档

Inworld 推出 Flex 推理档:繁忙时可拒单,不付费但只适合能等待的任务

AI 导读

Inworld 宣布对外开放其推理服务,称每月已处理数十万亿 token,其中 Flex 档在服务繁忙时可直接拒绝请求且不收费。用户 cramforce 实测指出,该档位要求任务能容忍等待,因此只适合可延迟的作业。对成本敏感、时效要求不高的推理负载,例如批量处理,这是一个值得考虑的低成本选项。

来源:AGI Hunt · agihunt.info