DeepSeek 开源 6 个昇腾版基础组件，对标英伟达版
DeepSeek 于 9 月 30 日开源面向华为昇腾算力平台的 6 个基础设施组件，与此前面向英伟达开源的组件一一对应，完成从英伟达 GPU 到昇腾芯片的整套移植。
推荐理由：读者可以对照这套组件与英伟达版的对应关系，了解头部模型厂商把训练栈移植到国产算力生态的进展。
部署工程
全部主题把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
最新精选
第 1–20 条 · 共 26 条AGI Hunt精选AI 评分7070 AGI Hunt精选AI 评分6767 ComfyUI v0.38.0 发布：新增 Ming Image、H3 ControlNet Union 2.0 与 ID-V2V 支持
ComfyUI v0.38.0 发布，新增 Ming Image 0.1 6B 文生图模型、MiniMax-H3 Fun ControlNet Union 2.0 与基于 Wan 2.1 和 VACE 的 ID-V2V 身份保持视频转视频支持。
推荐理由：版本清单列出新增模型节点与量化、HDR 支持，可据此判断现有 ComfyUI 工作流是否要调整。
AWS Machine Learning Blog精选AI 评分6767 GPT-6.1 Sol 在 Amazon Bedrock 上正式可用
GPT-6.1 Sol 已在 Amazon Bedrock 正式可用，作为 GPT-6 Sol 的重大升级，面向智能体编码、计算机操作和专业工作负载提供更强推理。
推荐理由：文章给出 GPT-6.1 Sol 与 Astra、GPT-6 Sol 的评测及单任务成本对比，可据此评估智能体编码任务的性价比。
Towards Data Science精选AI 评分6666 如何为 AI 智能体设计防提示注入的架构防护栏
作者结合自己搭建内部智能体的经历，梳理了动作选择器、先规划后执行、代码后执行、MapReduce、双智能体和上下文最小化等防提示注入的架构设计模式。文中指出 LLM 无法区分提示词与上下文，攻击者可用网页里的隐藏指令让智能体泄露数据甚至删表，因此他用 Azure Function 把数据库查询和邮件发送限制在预定义操作与允许名单内。他强调没有单一模式能覆盖全部漏洞，需要针对可能的失败场景组合使用。
推荐理由：作者结合自己搭建内部智能体的经历，把几类防提示注入的架构模式拆成可复用的取舍清单。
AGI Hunt精选AI 评分6969 Transformers 原生支持运行 llama.cpp GGUF 量化模型
Hugging Face 官宣 transformers 库新增对 GGUF（llama.cpp 量化格式）的支持，用户可从 Hub 选取 GGUF checkpoint，用 from_pretrained 在本机以熟悉的 transformers API 生成。
推荐理由：transformers 接入 GGUF 后，本地量化模型可在熟悉的 API 下加载与调试，读者可据此判断现有部署路径是否要调整。
Google Developers Blog精选AI 评分6767 用 Google Agent Development Kit 构建零信任 AI 智能体
Google 开发者博客发布指南，介绍如何用 Agent Development Kit（ADK）构建零信任 AI 智能体。文章给出三层防护实现：Cloud KMS 硬件密钥为每次数据库写入签名、gVisor 用户态沙箱隔离动态生成代码、确定性语义网关在模型调用和写库前后做规则校验，并把安全策略写成 CI/CD 中的回归测试。
推荐理由：文章给出可用 HMAC 本地复现的三层防护实现，读者可据此核对自家智能体写库与代码执行的信任边界。
Google Developers Blog精选AI 评分6161 Google 总结 AI Agents 挑战赛中最强提交的四个工程模式
Google for Startups AI Agents Challenge 结束后，Google 从各赛道排名靠前的提交中总结出四个工程模式，分别是以 MCP 双向暴露工具、事件驱动并发、备用模型走同一校验函数和分级路由。
推荐理由：从真实挑战赛代码提交中提炼出四个可复用的智能体工程模式，覆盖 MCP 双向暴露、事件驱动并发与分级路由。
AGI Hunt精选AI 评分6767 Pydantic 开源 Monty，用 Rust 编写的 Python 沙箱专跑 LLM 生成代码
Pydantic 作者 samuelcolvin 宣布开源 Monty（github.com/pydantic/monty，已获 8.4k star），一个用 Rust 编写的安全 Python 解释器与沙箱，专为运行 LLM 生成的代码设计，用以替代基于容器的沙箱并避开其延迟、复杂度与成本。
推荐理由：正文给出 Monty 的开源与商业两种形态，以及容器沙箱在延迟和成本上的对比，便于判断适用场景。
Towards Data Science精选AI 评分6868 当正确答案为空时，结构化输出与语义缓存会返回什么
作者认为流水线中的必填字段和相似度缓存都会在正确答案为空时返回编造值，并以自建的开源本地 RAG 检索系统为例做了验证。他用自写的西班牙语行政问题对测试 bge-m3，加入仅差一个 token 的改写对照后 AUC 从 0.3556 升到 0.9333，但最低被接受的改写仍低于最高被拒绝的否定句，因此没有可用阈值。
推荐理由：文中记录了作者自建语义缓存的阈值实验与失败细节，并提出可套用到抽取和检索组件的三个自查问题。
AWS Machine Learning Blog精选AI 评分6767 GPT-6 Sol 与 GPT-6 Luna 在 Amazon Bedrock 正式可用
OpenAI 的 GPT-6 Sol 和 GPT-6 Luna 在 Amazon Bedrock 正式可用，API 定价显著低于 GPT-5.6 前代。GPT-6 Sol 面向开发与运维中反复出现的复杂任务，GPT-6 Luna 面向大批量重复任务，两者都支持显式提示词缓存。OpenAI 的内部事实性评测显示，GPT-6 Sol 的事实性错误约为 GPT-5.6 Sol 的一半。
推荐理由：两款模型按复杂任务与高频任务分层，API 定价低于 GPT-5.6 前代，可据此判断日常负载的选型。
AWS Machine Learning Blog精选AI 评分7272 Claude Opus 5.5 在 AWS 上线，Amazon Bedrock 与 Claude Platform on AWS 同步可用
AWS 宣布 Claude Opus 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上线，这是 Claude 5.5 系列的首个模型。
推荐理由：文章对比了 Claude Opus 5.5 与 Opus 5 在 token 效率、定价和安全分类器上的差异，并给出在 Bedrock 上调用该模型的代码示例。
Cloudflare Blog精选AI 评分6060 Cloudflare 发布 Worker Previews，为每个 Git 分支提供隔离预览环境
Cloudflare 发布 Worker Previews，为每个 Git 分支提供接近生产的隔离运行环境，各自拥有独立的代码、配置、URL、可观测性和状态。
推荐理由：每个 Git 分支都获得带独立状态与 URL 的预览环境，读者可据此了解智能体开发闭环怎样接入现有部署流程。
Cloudflare Blog精选AI 评分6262 Cloudflare Python Workers 正式 GA，可运行 FastAPI、Django 与 Flask
Cloudflare 宣布 Python Workers 正式可用（GA），Python 成为 Cloudflare Workers 运行时的一等支持语言。
推荐理由：Python Workers 转为正式可用，文章说明了 WSGI/ASGI 连接器与 socket 桥接如何让框架、数据库驱动和 AI 库直接在 Workers 上运行。
HuggingFace Blog精选AI 评分6060 HF Jobs 上用 LoRA 跑异步 GRPO，500 步从 3 小时 27 分降到 53 分
TRL v1.14 的 AsyncGRPOTrainer 已支持只训练 LoRA 适配器并把它同步到 vLLM，这篇实践在此基础上把训练与推理拆到不同机器上。训练器、两个 vLLM 副本各跑一个 HF Jobs，通过挂载同一个 Storage Bucket 传递适配器而不依赖 NCCL，中间的一个代理负责按 KV 前缀路由 rollout 并向所有副本广播适配器加载。
推荐理由：这篇实践给出跨 Job 的 LoRA 异步 GRPO 配方与代理路由细节，其瓶颈定位方法可迁移到其他异步训练部署。
HuggingFace Blog精选AI 评分6262 Hugging Face 发布 @huggingface/kernels 与 207 个 WebGPU 内核
Hugging Face 发布 @huggingface/kernels，一个从 Hugging Face Hub 加载并运行 WebGPU 内核的 JavaScript 库，同时上线 207 个内核，每个内核以独立仓库发布并采用 Apache-2.0 许可。
推荐理由：文中给出与 ORT WebGPU 的算子级对比数据和加载示例，可据此了解浏览器端推理的性能空间。
HuggingFace Blog精选AI 评分6767 Gradio 推出 gr.Workflow，把 AI 管线变成可运行节点图与 REST API
Gradio 内置的 gr.Workflow 把 AI 管线变成可运行的节点图，每个节点能单独运行并就地显示中间结果，同一张图同时是 REST API 和一键部署到 Hugging Face Spaces 的入口。
推荐理由：Gradio 把多步 AI 管线做成可视化节点图，并自动生成 REST 接口与部署入口，读者可据此了解这套搭建方式。
HuggingFace Blog精选AI 评分6565 Diffusers 原生支持 Nunchaku 4-bit 扩散推理
Hugging Face 将 Nunchaku Lite 集成进 Diffusers，可用 from_pretrained() 直接加载 SVDQuant 4-bit 量化检查点，无需单独推理引擎或本地 CUDA 编译。
推荐理由：原文给出 BF16 与 4-bit 量化在显存和端到端延迟上的对比数据，可据此判断消费级显卡跑扩散模型的实际收益。
HuggingFace Blog精选AI 评分6363 PyTorch 性能分析第三部分：剖析 attention 各后端实现
Hugging Face 博客发布 PyTorch 性能分析系列第三部分，用 profiler 轨迹逐一对比朴素 attention、in-place 掩码以及 SDPA 的 math、efficient、flash 和 cuDNN 四种后端实现。
推荐理由：逐层对比四种 attention 后端的 profiler 轨迹，提供先做预期再验证这一可迁移的性能排查方法。
HuggingFace Blog精选AI 评分6767 vLLM 的 transformers 建模后端实现原生推理速度
Hugging Face 表示 vLLM 的 transformers 建模后端现已在多个 LLM 架构上达到甚至超过 vLLM 手写原生实现的吞吐。对比覆盖 Qwen3 4B 单卡、32B 张量并行、235B FP8 MoE 数据加专家并行三种部署，模型只需加 --model-impl transformers 即可启用，且仍可用于训练。
推荐理由：文章给出 transformers 后端与 vLLM 原生实现在三种 Qwen3 模型上的吞吐对比，便于了解免移植推理的实现路径。
HuggingFace Blog精选AI 评分6262 Hugging Face 与 SkyPilot 打通存储后端，用 hf:// 挂载 Hub 数据实现零出网费用跨云训练
Hugging Face 与 SkyPilot 联合推出新的 SkyPilot 存储后端 store: hf，用户用单个 hf:// URL 加上已有的 HF_TOKEN，即可把 Bucket 或任意模型、数据集、Space 仓库挂载进 SkyPilot 任务，在 20 多个云、Kubernetes、Slurm 和本地集群上运行。
推荐理由：把数据存在 Hugging Face、算力放到任意云，读者可了解跨云读取为何不再产生出网费用。