Cloudera 与 Mistral 达成合作，为企业数据带来专用、主权 AI 智能
Cloudera 与 Mistral 宣布合作，将 Mistral 模型集成进 Cloudera 混合数据平台，企业可在私有云、公有云、本地及完全气隙环境中运行推理并保留完全控制权。企业还可在受控环境内用大量专有数据训练自定义模型，并以开放权重拥有数据和模型智能。Cloudera 平台承载着 30 exabytes 的客户管理数据。
#部署/工程
#部署/工程
今日 5 条Mistral AIAI 评分4141 HuggingFace Blog精选AI 评分6060 HF Jobs 上用 LoRA 跑异步 GRPO，500 步从 3 小时 27 分降到 53 分
TRL v1.14 的 AsyncGRPOTrainer 已支持只训练 LoRA 适配器并把它同步到 vLLM，这篇实践在此基础上把训练与推理拆到不同机器上。训练器、两个 vLLM 副本各跑一个 HF Jobs，通过挂载同一个 Storage Bucket 传递适配器而不依赖 NCCL，中间的一个代理负责按 KV 前缀路由 rollout 并向所有副本广播适配器加载。
推荐理由：这篇实践给出跨 Job 的 LoRA 异步 GRPO 配方与代理路由细节，其瓶颈定位方法可迁移到其他异步训练部署。
HuggingFace BlogAI 评分5252 如何用 100 步 GRPO 微调 LFM2.5-350M 提升结构化输出
该指南用 TRL 对 LFM2.5-350M 做 GRPO 微调，在 IFStruct 基准上的通过率从 22.6% 提升到 29.7%。训练约用 500 条 Nemotron 结构化输出样本、100 步，LoRA 只训练约 6M 参数，可在免费 Colab 或 Kaggle GPU 上跑，评测则在本地通过 llama.cpp 完成。
HuggingFace Blog精选AI 评分6262 Hugging Face 发布 @huggingface/kernels 与 207 个 WebGPU 内核
Hugging Face 发布 @huggingface/kernels，一个从 Hugging Face Hub 加载并运行 WebGPU 内核的 JavaScript 库，同时上线 207 个内核，每个内核以独立仓库发布并采用 Apache-2.0 许可。
推荐理由：文中给出与 ORT WebGPU 的算子级对比数据和加载示例，可据此了解浏览器端推理的性能空间。
HuggingFace BlogAI 评分4949 Quantization-Aware Healing：GPT-OSS 120B 压缩到 60B 的 4-bit 模型在 7/9 基准上超越全精度版本
Quantization-Aware Healing（QAH）让 GPT-OSS 120B 压缩到 60B、量化为 MXFP4 后，在 9 项基准中 7 项超过其 bfloat16 全精度版本。
HuggingFace Blog精选AI 评分6767 Gradio 推出 gr.Workflow，把 AI 管线变成可运行节点图与 REST API
Gradio 内置的 gr.Workflow 把 AI 管线变成可运行的节点图，每个节点能单独运行并就地显示中间结果，同一张图同时是 REST API 和一键部署到 Hugging Face Spaces 的入口。
推荐理由：Gradio 把多步 AI 管线做成可视化节点图，并自动生成 REST 接口与部署入口，读者可据此了解这套搭建方式。
Meta EngineeringAI 评分5353 Meta 发布 MetaRoCE RDMA 传输协议，经 OCP 开放规范与软件实现
Meta 发布 MetaRoCE，这是一款为 AI 工作负载在通用以太网上从零设计的 RDMA 传输协议，并通过 OCP 开放协议规范、软件参考实现 libsoftmetaroce 和合规测试套件。
Meta EngineeringAI 评分5353 Meta 公布 MTIA 300，首款内建 NIC 与通信卸载引擎的训练芯片
Meta 公布 MTIA 300，这是其自研芯片家族中首款面向推荐与排序模型训练优化的加速器。芯片封装内集成两个网络 chiplet，各含 6 个定制 800 Gbps RDMA NIC，总 I/O 带宽 1.2 TB/s，另有 16 个消息引擎（ME）独立承担通信，使大 GEMM 与集合通信并发时计算吞吐下降小于 0.5%。
HuggingFace BlogAI 评分5757 Hugging Face 如何用 Inference Endpoints、Jobs 和 Buckets 支撑 Papers with Code 搜索
Hugging Face 公开 Papers with Code 的搜索架构，用 PostgreSQL 全文检索加 pgvector 向量检索组成混合检索，由 RRF 融合两路排名。
HuggingFace BlogAI 评分5858 Liquid AI 发布 LFM2.5-DSpark 草稿模型，推理最高提速 3.2 倍
Liquid AI 发布 LFM2.5-DSpark 草稿模型检查点，覆盖 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 三个模型，通过投机解码在不改变输出质量的前提下最高提升 3.18 倍吞吐。
HuggingFace BlogAI 评分4040 约束感知 GPU 分配器：同一集群利用率提升 33 个百分点，变的是分配顺序
约束感知 GPU 分配器让相同硬件与同一批负载下的利用率最多提升 33 个百分点，优先加权产出最多提升 105%。五个竞争场景中，利用率从 52–85% 升至 72–88%，优先加权价值平均提升 52%，最高 105.1%。最强单例是 8 GPU 训练密集型负载，利用率由 53.6% 升至 87.0%，关键在于实时推理按需求曲线分配、批式任务按优先级跨整个调度周期放置。
HuggingFace BlogAI 评分4545 ALTK-Evolve 对比 ACE：用更少 Token 实现同等智能体记忆
ALTK-Evolve 与 ACE 都让智能体从自身轨迹中学习，区别在注入方式：前者按任务检索少量高支持度指南，后者每步注入完整 playbook，因而 Token 更省。
Mistral AIAI 评分5050 Mistral 上线区域推理端点与 Priority Tier，平台将支持 GLM-5.2 等第三方开源模型
Mistral 公布三项推进 AI 主权的举措：Mistral Regional Endpoints 正式可用，客户可选择推理在欧洲或美国运行；Mistral Priority Tier 进入公开预览，为关键业务提供带 SLA 的承诺服务等级和自定义速率限制。
HuggingFace BlogAI 评分5454 NVIDIA 发布 Magpie TTS 多语言模型，扩展至 12 种语言
NVIDIA 发布 Magpie TTS Multilingual，一款 364M 参数的开放权重语音合成模型，支持 12 种语言，新增现代标准阿拉伯语、韩语和巴西葡萄牙语。官方数据显示 B200 单流首音频延迟 32ms，64 并发流下 TTFA 239ms、吞吐约 320 倍实时。模型提供 Hugging Face 开放权重与 NVIDIA NIM 生产部署，并可用 NeMo 微调发音和音色。
HuggingFace BlogAI 评分5252 Multiverse Computing 让知识蒸馏便宜到可大规模运行
Multiverse Computing 提出离线缓存教师 top-100 logits 和融合分块 KL 损失两项改动，让知识蒸馏不必同时把教师与学生模型放在显存里。
HuggingFace BlogAI 评分4444 Baseten 加入 Hugging Face Inference Providers
Baseten 成为 Hugging Face Hub 支持的 Inference Provider，首批上线对话与文本生成任务，可调用 Kimi K3、DeepSeek V4 Flash、GLM-5.2 等开源权重 LLM。
Meta EngineeringAI 评分5252 Meta 公布广告排序多阶段序列建模架构与 LLM 式扩展规律
Meta 公布广告排序的多阶段序列建模架构，把离线用户建模与在线排序解耦，并在真实广告流量上呈现出随算力对数线性增长的 LLM 式扩展规律。该架构用稠密 tokenization 与 target-aware 多头注意力融合稀疏特征和用户行为序列，让模型直接从数据学习特征交互，减少对手工特征的依赖。
HuggingFace BlogAI 评分4141 GPU 管理：为什么闲置 GPU 正成为新的“停场飞机”
企业 AI 的下一道真实约束已从模型智能转向 GPU 利用率：GPU 按日历小时计成本，产出却只按计算小时计。这与航空业靠飞机利用率决定生死的结构一致，自购 GPU 可把随 token 线性增长的 API 成本换成固定资本支出。但按峰值规模采购的集群在需求不持续时，满载 GPU 仍会浪费大量产能。
HuggingFace Blog精选AI 评分6565 Diffusers 原生支持 Nunchaku 4-bit 扩散推理
Hugging Face 将 Nunchaku Lite 集成进 Diffusers，可用 from_pretrained() 直接加载 SVDQuant 4-bit 量化检查点，无需单独推理引擎或本地 CUDA 编译。
推荐理由：原文给出 BF16 与 4-bit 量化在显存和端到端延迟上的对比数据，可据此判断消费级显卡跑扩散模型的实际收益。
HuggingFace BlogAI 评分4949 模型路由并不简单：为何智能体路由是系统优化问题
同一 CodeAct 智能体在 AppWorld Test Challenge 的 417 个任务上，Claude Sonnet 4.6 共花费 $79，GPT-4.1 则为 $155，尽管后者 token 定价更低。
HuggingFace Blog精选AI 评分6363 PyTorch 性能分析第三部分：剖析 attention 各后端实现
Hugging Face 博客发布 PyTorch 性能分析系列第三部分，用 profiler 轨迹逐一对比朴素 attention、in-place 掩码以及 SDPA 的 math、efficient、flash 和 cuDNN 四种后端实现。
推荐理由：逐层对比四种 attention 后端的 profiler 轨迹，提供先做预期再验证这一可迁移的性能排查方法。
HuggingFace Blog精选AI 评分6767 vLLM 的 transformers 建模后端实现原生推理速度
Hugging Face 表示 vLLM 的 transformers 建模后端现已在多个 LLM 架构上达到甚至超过 vLLM 手写原生实现的吞吐。对比覆盖 Qwen3 4B 单卡、32B 张量并行、235B FP8 MoE 数据加专家并行三种部署，模型只需加 --model-impl transformers 即可启用，且仍可用于训练。
推荐理由：文章给出 transformers 后端与 vLLM 原生实现在三种 Qwen3 模型上的吞吐对比，便于了解免移植推理的实现路径。
HuggingFace BlogAI 评分4242 从 Hugging Face 一键直达 Amazon SageMaker Studio
Hugging Face 与 Amazon SageMaker AI 打通深度链接，开发者在受支持模型页点击 Customize 或 Deploy 按钮即可进入 SageMaker Studio，所选模型自动预加载。
HuggingFace BlogAI 评分5858 微软 Foundry 上线 Hugging Face 开源模型集合，支持一键部署
微软在 Build 2026 上宣布在 Foundry 上线 Hugging Face 模型集合，这是一个每周刷新的开源权重模型目录，可一键部署到 Foundry Managed Compute。
HuggingFace Blog精选AI 评分6262 Hugging Face 与 SkyPilot 打通存储后端，用 hf:// 挂载 Hub 数据实现零出网费用跨云训练
Hugging Face 与 SkyPilot 联合推出新的 SkyPilot 存储后端 store: hf，用户用单个 hf:// URL 加上已有的 HF_TOKEN，即可把 Bucket 或任意模型、数据集、Space 仓库挂载进 SkyPilot 任务，在 20 多个云、Kubernetes、Slurm 和本地集群上运行。
推荐理由：把数据存在 Hugging Face、算力放到任意云，读者可了解跨云读取为何不再产生出网费用。
HuggingFace BlogAI 评分5454 Hugging Face Kernels 发布多项更新，新增 kernel 仓库类型与可信发布者机制
Hugging Face 为 Kernels 项目发布一系列更新，新增 Hub 上的 kernel 仓库类型、可信发布者（trusted publishers）和代码签名机制。
Google ResearchAI 评分5050 Google 用冻结 MTP 加速 Pixel 上的 Gemini Nano 模型
Google Research 提出把 Multi-Token Prediction（MTP）头接到已冻结的 Gemini Nano v3 主干上，无需为每个任务微调独立的草稿模型即可实现端侧文本生成加速。
Google ResearchAI 评分4444 Google 提出线性弹性缓存：Spanner 内存用量降 15.5%、TCO 降约 5%
Google 提出线性弹性缓存，把页面淘汰建模为滑雪租赁问题，用轻量机器学习按访问模式给页面设定 TTL，在内存占用与缓存未命中之间做取舍。集成进 Spanner 生产服务器数月后，内存用量降低 15.5%，缓存未命中仅增 5.5%，总拥有成本（TCO）降低约 5%，且未命中的增加集中在取回成本较低的数据上，I/O 成本影响仅 0.5%。
Mistral AIAI 评分4545 Mistral 为 Connectors 引入更多管控能力
Mistral 为 Connectors 新增多项能力：按 workspace 或组织分配访问权限、可逐个开关工具的管理控制，带 connector 作用域的 API key 与多账号 connector 均已正式可用。
Mistral AI精选AI 评分6363 Mistral 发布 OCR 4 文档解析模型，支持边界框与块分类
Mistral 发布 OCR 4 文档解析模型，在文本提取之外新增边界框、块类型分类和逐页逐词置信度，支持 170 种语言并可单容器自托管部署。该模型在 OlmOCRBench 得 85.20、OmniDocBench 得 93.07，人类偏好评估中平均胜率 72%。
推荐理由：OCR 4 把边界框、块分类和置信度一并输出，读者可据此判断结构化文档解析在检索与智能体流程里的接入方式。
Google DeepMind精选AI 评分7676 Google DeepMind 发布实验性开源文本扩散模型 DiffusionGemma，推理最高提速 4 倍
Google DeepMind 发布实验性开源模型 DiffusionGemma，采用文本扩散方式并行生成整块文本，在专用 GPU 上推理速度最高提升 4 倍。
推荐理由：原文说明 DiffusionGemma 与 Gemma 4 的分工，前者面向低并发本地推理，并列出速度与质量上的取舍。
Mistral AIAI 评分5959 Mistral AI 发布 Search Toolkit，把接入、检索与评测整合为开源框架
Mistral AI 发布 Search Toolkit 公开预览版，这是把数据接入、检索和评测整合到同一配置接口的开源框架，可运行在云、本地和边缘环境。它内置 BM25 稀疏检索、稠密向量检索与混合配置，并提供 recall、precision、MRR、NDCG 评测指标，可在自有测试集上对比不同检索配置。
Mistral AIAI 评分5252 Mistral AI 发布企业 AI 编排层 Workflows 公开预览版
Mistral AI 发布企业 AI 编排层 Workflows 公开预览版，用于把 AI 驱动的流程稳定投入生产。Workflows 基于 Temporal 的持久化执行引擎构建，提供持久化执行、可观测性和单行代码的人工审批，并针对 AI 负载扩展了流式处理、负载处理与可观测性；控制平面由 Mistral 托管，workers 部署在企业自己的 Kubernetes 环境。
Mistral AI精选AI 评分6666 Mistral AI 发布 Spaces CLI，兼顾人类开发者与编码智能体
Mistral AI 发布 Spaces CLI，用 spaces init、cd、spaces dev 三条命令即可从零得到带热重载、数据库和自动生成 Dockerfile 的多服务项目。
推荐理由：Mistral 把 CLI 同时服务人类与编码智能体的设计原则整理成检查清单，可对照改造自家开发者工具。
Google ResearchAI 评分4444 Google 推出 TurboQuant：以极致压缩重新定义 AI 效率
Google 推出 TurboQuant，一种零精度损失的压缩算法，可同时压缩 KV cache 并加速向量搜索。它先用 PolarQuant 随机旋转向量完成主体压缩，再用 1 bit 的 QJL 消除残差误差，TurboQuant 将在 ICLR 2026 展示。
Google Research精选AI 评分7272 Google 与 NHS 合作在 Nature Cancer 发表两项 AI 乳腺癌筛查研究
Google 与多家 NHS 机构合作的 AIMS 研究在 Nature Cancer 发表两项论文，分别评估 AI 乳腺癌筛查系统的独立性能及其作为第二读片人嵌入双读流程的效果。
推荐理由：两项研究给出了AI作为第二读片人的性能数据与部署细节，可供评估AI嵌入既有人工复核流程的可行性与难点。
Mistral AIAI 评分4444 Mistral AI 推出 Forge：为企业构建基于自有知识的前沿级模型
Mistral AI 推出 Forge，一套让企业用自有专有知识训练前沿级模型的系统，覆盖预训练、后训练与强化学习，支持稠密与 MoE 架构。Forge 按 agent 优先设计，Mistral Vibe 等智能体可用自然语言完成微调、超参数搜索与数据合成。合作方包括 ASML、Ericsson、欧洲空间局、新加坡 HTX 与 Reply。
Mistral AIAI 评分5353 Mistral AI 定位 vLLM 内存泄漏，源头在 UCX 的 mmap hook
Mistral AI 团队复盘了 vLLM 中的一次内存泄漏排查。在他们用 Mistral Medium 3.1 做 P/D 分离部署并启用图编译时，系统内存以每分钟 400 MB 线性增长，数小时后会进入 OOM 状态。
Mistral AIAI 评分4343 Mistral AI 发布 Mistral AI Studio 生产级 AI 平台
Mistral AI 发布 Mistral AI Studio，一个由 Observability、Agent Runtime 和 AI Registry 三大支柱组成的生产级 AI 平台。
TensorFlow BlogAI 评分3838 TensorFlow 2.20 发布：tf.lite 由 LiteRT 取代，tf.data 加速预热
TensorFlow 2.20 发布，tf.lite 模块将弃用，端侧推理开发迁移至独立仓库 LiteRT，新 API 提供 Kotlin 和 C++ 版本。LiteRT 面向 NPU 和 GPU 硬件加速，为 NPU 提供统一接口，并通过零拷贝硬件缓冲减少内存拷贝。