AGI Hunt· AIFlow_ML·· 3 小时前AI 评分62
AWS 与 UC Berkeley 开源 Infinity 运行时,让闲置 Agent 休眠以支撑海量并发
AWS 开源 Infinity 运行时:让闲置 Agent 休眠,8GB 跑 7.5 万个
AI 导读
AWS 与 UC Berkeley 开源了 Infinity 运行时,核心思路是让等待中的 agent 进入休眠,从而实现极高的 agent 并发。推文提醒理性看待 benchmark,树莓派 5 的 8GB 内存可容纳 7.5 万个 agent 是数学推算而非实机测试,实际测的是 AMD EPYC 单线程加模拟模型。
来源:AGI Hunt · agihunt.info