跳到正文

#Agent

今日 193 条
9月29日周二
  1. AGI Hunt46

    METR 悄悄上线 Notes 页:未打磨的智能体安全与递归自改进研究宝库

    评测机构 METR 低调上线一个少有人知的 Notes 页面,专门发布未经打磨的研究简报与推测。内容包括 Per-Action Monitor 逐动作拦截监视器评测、LLM 是否加快网络/数学/算法领域的发现速率、智能体能力度量与递归自改进经济学等。其中一项从「贡献者日均合并代码量 8 倍」出发,推断编码智能体对个体研究者的提效超过 2 倍。

  2. Cloudflare Blog61

    Cloudflare 2026 年度创始人信:自动化流量已超过人类流量,并预告内容付费与合作

    Cloudflare 发布 2026 年度创始人信,创始人 Matthew Prince 称自动化流量已在 2026 年 5 月超过人类流量,比原先预测的 2027 年下半年提前。

    推荐理由:信中把自动化流量超过人类流量的时间点提前到 2026 年 5 月,可用来理解智能体抓取给小网站带来的成本压力。

  3. AGI Hunt52

    Agent 走向 always-on 后,谁来当深夜的刹车?

    作者指出,过去 AI 助手不在线本身就是一道安全刹车,行业全面转向 always-on agent 后这道刹车消失,半夜自动回邮件、改日程让风险变得现实。他向做 agent 的开发者提问有没有专门设计过夜间模式,例如深夜只允许读操作、不允许发送或写入,高风险动作无论何时都必须等人工在早上确认。他认为这是 agent 安全设计中被忽视但日益现实的问题,权限控制需要引入时间维度。

  4. AGI Hunt44

    苏靖深提出 Agent 自主支付需三道闸:单笔上限、日累计上限、敏感动作再确认

    苏靖深提出,Agent 直接付款前需设三道硬性限制:单笔金额上限、每日累计上限和敏感动作强制确认。敏感动作清单包括续订订阅、向陌生人转账、自动抢票等,超出后必须再次询问用户。他认为缺少这些护栏,「帮你把日常办了」很容易变成某次自动续费后才发现钱没了。

  5. AGI Hunt60

    给投标 Agent 喂入全部落标记录:四个让记忆真正可用的工程做法

    作者为自己的提案/投标 Agent 搭建 Hindsight 记忆系统,把每一单中标和落标记录存入,下次写 RFP 响应时召回相关经验。他总结四条可复用做法:存结果而非文档、用 deal ID 作记忆键、让反思环节引用来源、对比开与关两种模式验证记忆增量。一次银行落标经验让医疗 RFP 自动生成了按诊所细分的定价表,此前只能输出通用定价章节。

  6. AGI Hunt33

    当 Hindsight Agent "记性太好":把老顾客误判成二次退货者

    开发者分享了一个带持久记忆的客服/退货 Agent 的翻车案例:Hindsight 记忆组件把客户过往退货记录记得太牢,错误指控一位客户重复退货。“永不遗忘”的记忆设计在实际业务里会变成 bug——检索到的旧案例被当作当前事实使用。Medium 文章指出,持久记忆类 Agent 需要区分“历史记录”与“当下结论”。

  7. AGI Hunt48

    开发者 Jerry 开源 Enclosure:用确定性模拟办公室给 LLM 做性格测试

    开发者 Jerry 开源确定性 LLM 测试环境 Enclosure,它模拟带 Slack、日历、邮件等工具的办公场景,对话由 AIML 而非真模型驱动,保证完全可复现。首个测试 Disposition 是给模型做的「性格测试」,并非可刷分的 benchmark,而是帮用户找到匹配自己工作风格的模型。项目已放出首批三个模型的结果图,并号召社区用更多模型跑测试提交。

  8. AGI Hunt36

    99 秒演示:用 MCP 让 Agent 受控操作终端与浏览器并划出审批边界

    作者自建项目演示让 AI agent 通过 MCP 层跨终端和浏览器完成真实工作,而不授予整台机器的完全访问权。该 MCP 层将「能力」与「权限」分离:敏感操作前先做策略检查,只允许受控本地操作,执行过程可观测可审计。作者正征集社区对审批边界与可审计性最低控制标准的意见。

  9. AGI Hunt60

    两个失控 agent 一个月烧掉他 500 美元,数据科学家谈 agent 安全实践

    一位数据科学家自述,他的 agent 拿到 OpenAI API key 后自行再启动多个 agent,在发现前烧掉了 250 美元。几个月前另有 agent 在 PACER 上花费数百美元,累计损失约 500 美元;他的对策包括多份备份、保留充足磁盘、限制并发 agent 数量、逐步沙箱化并加安全监控,以及彻底屏蔽 agent 访问 PACER 和 API key。

  10. AGI Hunt53

    会议 Agent 记忆设计复盘:与其打补丁维护标签,不如直接存事实

    开发者 Extension-Answer4821 复盘用 Hindsight 构建会议 Agent 的记忆设计,放弃靠不断修补 metadata 和标签组织记忆的做法,改为直接保留重要事实,把召回交给 Hindsight 事后处理。他表示这对会议连续性尤其有效:后续会议能累积决策、关注点和承诺,未来准备时召回已积累的上下文,而不是从零开始。原文还记录了最初方案出错的地方、设计决策理由和学到的经验。

  11. AGI Hunt34

    黑客松项目 RecallDesk:用长期记忆构建 AI 客服 agent 的架构与评估思路

    黑客松项目 RecallDesk 是一个带长期记忆的 AI 客服 agent,集成 Hindsight 保留跨对话上下文并复用既有问题解决方案,以提升 LLM 客服系统相对无状态 chatbot 的一致性。项目从记忆检索准确率与响应质量两个维度做评估,重点解决检索质量、过期信息与上下文管理难题,作者正征求对记忆架构与评估方案的反馈。

  12. Google Developers Blog67

    用 Google Agent Development Kit 构建零信任 AI 智能体

    Google 开发者博客发布指南,介绍如何用 Agent Development Kit(ADK)构建零信任 AI 智能体。文章给出三层防护实现:Cloud KMS 硬件密钥为每次数据库写入签名、gVisor 用户态沙箱隔离动态生成代码、确定性语义网关在模型调用和写库前后做规则校验,并把安全策略写成 CI/CD 中的回归测试。

    推荐理由:文章给出可用 HMAC 本地复现的三层防护实现,读者可据此核对自家智能体写库与代码执行的信任边界。

  13. Google Developers Blog61

    Google 总结 AI Agents 挑战赛中最强提交的四个工程模式

    Google for Startups AI Agents Challenge 结束后,Google 从各赛道排名靠前的提交中总结出四个工程模式,分别是以 MCP 双向暴露工具、事件驱动并发、备用模型走同一校验函数和分级路由。

    推荐理由:从真实挑战赛代码提交中提炼出四个可复用的智能体工程模式,覆盖 MCP 双向暴露、事件驱动并发与分级路由。