跳到正文
9月30日 · 周三

最新精选

今天9月30日周三
  1. AGI Hunt67

    保留失败的 agent 任务,每次新模型发布时重跑以捕捉能力质变

    victor_explore 建议保留所有失败的 agent 运行记录,把它们当作针对下一代模型的评测集,每次新模型发布就整体重跑一遍。他引用 Anthropic Labs 的案例:Mike Krieger 透露团队曾搁置一个失败的 computer use agent 项目,每次新模型发布都重跑,直到 Claude 3.7 出现后成功率突然过半,项目起死回生。

    推荐理由:把跑挂的 agent 任务留存成评测集,提供了一个跨模型版本观察能力跃迁的可复用做法。

9月29日周二
  1. Towards Data Science66

    如何为 AI 智能体设计防提示注入的架构防护栏

    作者结合自己搭建内部智能体的经历,梳理了动作选择器、先规划后执行、代码后执行、MapReduce、双智能体和上下文最小化等防提示注入的架构设计模式。文中指出 LLM 无法区分提示词与上下文,攻击者可用网页里的隐藏指令让智能体泄露数据甚至删表,因此他用 Azure Function 把数据库查询和邮件发送限制在预定义操作与允许名单内。他强调没有单一模式能覆盖全部漏洞,需要针对可能的失败场景组合使用。

    推荐理由:作者结合自己搭建内部智能体的经历,把几类防提示注入的架构模式拆成可复用的取舍清单。

  2. AGI Hunt68

    实用提示词:用 ChatGPT Image 把城市街道地图转成半 3D 导览图

    网友分享了一个 ChatGPT Image 的玩法:从地图网站下载任意城市的街道地图并上传,用提示词让模型转成半 3D 风格的趣味地图,突出标志性建筑和有趣地点。提示词还要求生成一条串联所有景点的步行路线,并附上带地名的图例,替换城市名即可直接复制使用,适合做旅行规划或城市导览素材。

    推荐理由:提示词可替换城市名直接复用,为旅行导览或城市地图素材提供了一种低成本的生成方式。

  3. Google Developers Blog67

    用 Google Agent Development Kit 构建零信任 AI 智能体

    Google 开发者博客发布指南,介绍如何用 Agent Development Kit(ADK)构建零信任 AI 智能体。文章给出三层防护实现:Cloud KMS 硬件密钥为每次数据库写入签名、gVisor 用户态沙箱隔离动态生成代码、确定性语义网关在模型调用和写库前后做规则校验,并把安全策略写成 CI/CD 中的回归测试。

    推荐理由:文章给出可用 HMAC 本地复现的三层防护实现,读者可据此核对自家智能体写库与代码执行的信任边界。

  4. Google Developers Blog61

    Google 总结 AI Agents 挑战赛中最强提交的四个工程模式

    Google for Startups AI Agents Challenge 结束后,Google 从各赛道排名靠前的提交中总结出四个工程模式,分别是以 MCP 双向暴露工具、事件驱动并发、备用模型走同一校验函数和分级路由。

    推荐理由:从真实挑战赛代码提交中提炼出四个可复用的智能体工程模式,覆盖 MCP 双向暴露、事件驱动并发与分级路由。

  5. AGI Hunt67

    Reddit 用户分享完整 Prompt,让长任务 Agent 先自建进度仪表盘

    一位 Reddit 用户分享了给长任务 Agent 加进度仪表盘的完整 Prompt,要求任务超过 5 步或预计超过 30 分钟时,Agent 必须先创建一个离线可打开、每 10 秒自动刷新的单文件 HTML 仪表盘。

    推荐理由:原文给出可直接照用的完整 Prompt,含触发条件、独立设计师模型与审批边界,便于迁移到长任务 Agent 的进度管理。

  6. GitHub Blog64

    GitHub 如何用开源 AI 安全智能体发现 24 个 Android 漏洞

    GitHub 博客介绍其 Security Lab 用开源的 Taskflow Agent 智能体在 Android 应用中发现了 24 个漏洞,并给出 OsmAnd 位置追踪与 Wikipedia 账号接管两个案例。

    推荐理由:文中给出审计 taskflow 查找 Android 漏洞的具体案例与运行步骤,安全研究者可迁移到自有应用的审计流程。

9月25日周五
  1. Towards Data Science67

    Jev 与 LLM 对比实测:AI 从生成走向决策

    TypeSafe AI 推出的 System One 模型 Jev 在作者自测的 3,080 条 Banking77 银行客服消息分类任务中准确率 81.1%,比 Qwen3-Coder-Next-80B-A3B 高 4.7 个百分点,两者中位响应时间分别为 245 ms 和 249 ms。

    推荐理由:作者用同一批银行客服消息对比 Jev 与 Qwen,并检验置信度阈值和级联回退是否真的有效。

9月24日周四
  1. Towards Data Science68

    当正确答案为空时,结构化输出与语义缓存会返回什么

    作者认为流水线中的必填字段和相似度缓存都会在正确答案为空时返回编造值,并以自建的开源本地 RAG 检索系统为例做了验证。他用自写的西班牙语行政问题对测试 bge-m3,加入仅差一个 token 的改写对照后 AUC 从 0.3556 升到 0.9333,但最低被接受的改写仍低于最高被拒绝的否定句,因此没有可用阈值。

    推荐理由:文中记录了作者自建语义缓存的阈值实验与失败细节,并提出可套用到抽取和检索组件的三个自查问题。

9月23日周三
  1. Towards Data Science71

    如何从零手写你的第一个世界模型(CartPole 实战)

    作者用 500 局 CartPole 数据训练了一个 13,635 参数的 GRU 世界模型,预测下一步状态变化与是否翻车。该模型单步预测误差为 3.8 毫米车位置和 0.00026 弧度杆角,可信滚动预测视界为 29 步;配合 200 条随机动作序列的规划,100 局全部拿到 500/500。

    推荐理由:从 CartPole 出发手写世界模型,对比 DQN 展示同一模型如何零重训切换目标。

9月10日周四
  1. HuggingFace Blog60

    HF Jobs 上用 LoRA 跑异步 GRPO,500 步从 3 小时 27 分降到 53 分

    TRL v1.14 的 AsyncGRPOTrainer 已支持只训练 LoRA 适配器并把它同步到 vLLM,这篇实践在此基础上把训练与推理拆到不同机器上。训练器、两个 vLLM 副本各跑一个 HF Jobs,通过挂载同一个 Storage Bucket 传递适配器而不依赖 NCCL,中间的一个代理负责按 KV 前缀路由 rollout 并向所有副本广播适配器加载。

    推荐理由:这篇实践给出跨 Job 的 LoRA 异步 GRPO 配方与代理路由细节,其瓶颈定位方法可迁移到其他异步训练部署。

  2. HuggingFace Blog60

    用 Gradio Workflow 重建 AUTOMATIC1111 的媒体流水线

    Hugging Face 用 Gradio Workflow 把 AUTOMATIC1111(stable-diffusion-webui)的多数功能重建为一个工作流画布 Workflow1111,由 11 条媒体流水线和 73 个节点组成。

    推荐理由:读者可以看到把 AUTOMATIC1111 式图像流程拆成节点图后,输出如何自动变成 REST 与 MCP 接口。

9月3日周四
  1. HuggingFace Blog65

    用 TRL 和 OpenEnv 训练编码模型画水彩

    作者用 TRL 和 OpenEnv 复现了让语言模型写 p5.brush 代码画水彩的训练流程,把参考池、RL 环境、训练脚本和训练好的模型全部开源在 Hugging Face 上,想法源自 Surya Narreddi 走红的模型水彩画视频。

    推荐理由:整套训练流水线、参考池和三组奖励配比的产物都已开源,可据此复现用奖励模型训练模型画画的流程。

8月26日周三
  1. HuggingFace Blog79

    Sentence Transformers 如何训练和微调多向量嵌入模型

    Sentence Transformers v6.0 新增第四种模型类型 MultiVectorEncoder,用于 ColBERT 式后期交互检索,并配套完整的训练与微调流程。

    推荐理由:文中给出可直接运行的微调脚本和六种起点对比,读者可据此判断在自有领域数据上训练多向量检索模型的成本。

8月22日周六
  1. Google AI:DEV 作者专属69

    Gemini 3.7 Flash API 实测:$0.75 定价、minimal 档位返回 400

    Gemini 3.7 Flash 于 2026-08-13 上线,输入每百万 token $0.75、输出 $3.75,介绍价 2026-12-31 到期后翻倍为 $1.50 / $7.50,且与 Gemini 3.6 Flash 现价完全相同。

    推荐理由:作者在同一路由上对比三档思考级别的实测 token 与首 token 延迟,可帮助开发者估算迁移后的成本变化。

8月18日周二
  1. HuggingFace Blog69

    Sentence Transformers v6.0 新增 MultiVectorEncoder,支持 ColBERT 式后交互检索

    Sentence Transformers v6.0 新增第四种模型类型 MultiVectorEncoder,用于 ColBERT 式后交互检索,可直接加载 PyLate 与 Stanford-NLP ColBERT 检查点。

    推荐理由:文章展示 Sentence Transformers v6.0 的多向量编码器如何用 token 级向量与 MaxSim 换取更高检索质量,并给出可直接运行的接入代码。

7月10日周五
  1. HuggingFace Blog63

    PyTorch 性能分析第三部分:剖析 attention 各后端实现

    Hugging Face 博客发布 PyTorch 性能分析系列第三部分,用 profiler 轨迹逐一对比朴素 attention、in-place 掩码以及 SDPA 的 math、efficient、flash 和 cuDNN 四种后端实现。

    推荐理由:逐层对比四种 attention 后端的 profiler 轨迹,提供先做预期再验证这一可迁移的性能排查方法。

已经到底了