跳到正文
原文
AGI Hunt· madhavsinghal_·· 3 小时前AI 评分41

Serverless 工具调用可降 agent 成本 30 倍:单 archil 沙箱并行跑 1000 个 agent

Serverless 工具调用可降 agent 成本 30 倍:单沙箱并行跑 1000 个 agent

AI 导读

jhleath 演示了 serverless 工具调用如何改变 agent 经济学:在单个 archil 沙箱上并行运行 1000 个 agent,工具调用落到真实的 Linux microVM,成本仅为传统沙箱的约 1/30。其核心思路是推理运行期间不浪费 CPU 容量,用尺寸合适的硬件跑 agent 即可解决「CPU 容量危机」,底层 CPU 本身贵不贵反而不是关键。

来源:AGI Hunt · agihunt.info