Transformers 原生支持运行 llama.cpp GGUF 量化模型
Hugging Face 官宣 transformers 库新增对 GGUF（llama.cpp 量化格式）的支持，用户可从 Hub 选取 GGUF checkpoint，用 from_pretrained 在本机以熟悉的 transformers API 生成。
推荐理由：transformers 接入 GGUF 后，本地量化模型可在熟悉的 API 下加载与调试，读者可据此判断现有部署路径是否要调整。
端侧 AI
全部主题跑在手机、电脑与边缘设备上的 AI：小模型、本地推理与端侧芯片的进展。
最新精选
第 1–15 条 · 共 15 条AGI Hunt精选AI 评分6969 Google Developers Blog精选AI 评分6060 Antigravity SDK 新增本地 AI 模型支持，初期可运行 Gemma 4 26B A4B
Google 宣布 Antigravity SDK 支持本地模型工作流，初期可通过 Google AI Edge 的 LiteRT 运行 Gemma 4 26B A4B，在完全离线状态下提供智能体辅助。
推荐理由：Antigravity SDK 把本地模型接入智能体工作流，读者可据此判断离线运行与云端混合编排的成本和隐私取舍。
HuggingFace Blog精选AI 评分6262 Hugging Face 发布 @huggingface/kernels 与 207 个 WebGPU 内核
Hugging Face 发布 @huggingface/kernels，一个从 Hugging Face Hub 加载并运行 WebGPU 内核的 JavaScript 库，同时上线 207 个内核，每个内核以独立仓库发布并采用 Apache-2.0 许可。
推荐理由：文中给出与 ORT WebGPU 的算子级对比数据和加载示例，可据此了解浏览器端推理的性能空间。
Google DeepMind精选AI 评分7272 Google DeepMind 发布手语转文本模型 SL2T，Gboard 与 Live Transcribe 在 Pixel 11 上线 ASL 听写
Google DeepMind 发布多语言手语转文本模型 SL2T，并在 Gboard 与 Live Transcribe 中上线手语听写功能，先在 Pixel 11 上支持美国手语（ASL）转英文。
推荐理由：SL2T 用 10 万小时、50 多种手语数据训练并直接落到 Gboard 与 Live Transcribe，可作为手语翻译产品化的参考。
HuggingFace Blog精选AI 评分7979 Meta 发布开源多模态模型 Muse Glimmer，30B 参数主打本地智能体
Meta 发布开源多模态模型 Muse Glimmer，30B 参数、Apache 2.0 许可，面向本地智能体场景。模型由 2B 视觉编码器与 28B 文本解码器组成，并附带 DFlash 投机解码草稿模型，transformers、llama.cpp、vLLM 与 Inference Endpoints 均已提供 day-0 支持。
推荐理由：30B 多模态模型以 Apache 2.0 开放并在多智能体基准上与同级模型对比，可供本地部署的选型参考。
Mistral AI精选AI 评分6161 Mistral AI 发布 3B 开源多模态安全分类器 Shieldstral
Mistral AI 发布 3B 开源多模态安全分类器 Shieldstral，以 Apache 2.0 开放权重，可在单张 16GB NVIDIA GPU 上运行。
推荐理由：Mistral 把内容审核改写成推理时的自然语言问答，给出了小模型适配新策略的可迁移做法。
Google DeepMind精选AI 评分6666 Google DeepMind 发布 Gemini Robotics 2，为机器人带来全身智能
Google DeepMind 发布 Gemini Robotics 2，由三款模型组成，让机器人实现全身控制、灵巧操作和多机器人协作。其中 Gemini Robotics ER 2 已上线 Google AI Studio 并在 Gemini Enterprise Agent Platform 私密预览，VLA 与端侧模型面向早期接入合作伙伴。
推荐理由：从控制机器人上半身扩展到全身控制，并加入多机协作与端侧快速适配，可了解机器人基础模型的当前能力边界。
Google DeepMind精选AI 评分7676 Google DeepMind 发布实验性开源文本扩散模型 DiffusionGemma，推理最高提速 4 倍
Google DeepMind 发布实验性开源模型 DiffusionGemma，采用文本扩散方式并行生成整块文本，在专用 GPU 上推理速度最高提升 4 倍。
推荐理由：原文说明 DiffusionGemma 与 Gemma 4 的分工，前者面向低并发本地推理，并列出速度与质量上的取舍。
Google DeepMind精选AI 评分7777 Google DeepMind 发布 Gemma 4 12B 无编码器多模态模型
Google DeepMind 发布 Gemma 4 12B，一款无编码器的多模态模型，可在笔记本本地运行。该模型把视觉输入改为单次矩阵乘法的轻量嵌入模块，并去掉音频编码器，将原始音频信号投影到与文本 token 相同的维度，是 Gemma 4 系列首款支持原生音频输入的中等规模模型。
推荐理由：Gemma 4 12B 用无编码器架构让视觉和音频直接进入 LLM，性能接近 26B MoE 而内存占用不到一半。
Google Research精选AI 评分6262 Google 提出 PHRM 系统，用手机前置摄像头被动监测心率与静息心率
Google Research 在 Nature 发表研究，提出 PHRM 系统，可在日常使用手机时后台监测心率（HR）与静息心率（RHR）。该系统利用前置摄像头在面部解锁后的数秒内拍摄视频，通过端侧深度学习估计心率，与 ECG 相比 MAPE 低于 10%，符合所有肤色人群的行业精度标准，日 RHR 与 Fitbit Charge 6 相比 MAE 为 4.39 bpm。
推荐理由：论文公开了 PHRM 的跨肤色误差数据与大样本数据集规模，读者可对照可穿戴设备理解被动健康监测的量化标准。
Google DeepMind精选AI 评分7777 Google DeepMind 发布 Gemma 4 开源模型家族，含 26B MoE 与 31B Dense 四种尺寸
Google DeepMind 发布 Gemma 4 开源模型家族，提供 E2B、E4B、26B MoE 和 31B Dense 四种尺寸，采用 Apache 2.0 许可。
推荐理由：原文列出四档尺寸、Arena 排名与 Apache 2.0 许可，便于判断本地部署和微调的硬件与授权取舍。
Mistral AI精选AI 评分6363 Mistral 发布 Voxtral Transcribe 2，推出实时与批处理两款语音转写模型
Mistral 发布 Voxtral Transcribe 2 系列两款语音转写模型，包括用于批处理的 Voxtral Mini Transcribe V2 和面向实时场景的 Voxtral Realtime，后者以 Apache 2.0 权重在 Hugging Face 开源。
推荐理由：Realtime 以 sub-200ms 延迟和 Apache 2.0 权重开源，读者可据此比较实时语音应用的端侧落地成本。
Mistral AI精选AI 评分7878 Mistral 发布 Mistral 3 系列模型，全部以 Apache 2.0 开源
Mistral 发布 Mistral 3 模型家族，包含稀疏 MoE 的 Mistral Large 3（41B 激活、675B 总参数）与三款密集小模型 Ministral 3（3B、8B、14B），全部以 Apache 2.0 开源。
推荐理由：Mistral 3 一并公布参数规模、开源许可与硬件适配方案，读者可据此对照自身部署条件判断选型。
Mistral AI精选AI 评分6565 Mistral AI 发布语音理解模型 Voxtral，含 24B 和 3B 两个版本
Mistral AI 发布语音理解模型 Voxtral，提供 24B 和 3B 两个尺寸，均以 Apache 2.0 许可开源，并已上线其 API。模型支持 32k token 上下文，可处理最长 30 分钟的音频转写或 40 分钟的音频理解，还能根据语音意图直接触发函数调用。
推荐理由：原文对比了开源 ASR 与闭源 API 在成本、部署上的取舍，并给出两档尺寸和 API 定价，可作为语音方案选型参考。
Mistral AI精选AI 评分6565 Mistral 发布 Mistral Small 3.1，支持多模态与 128k 上下文
Mistral AI 发布 Mistral Small 3.1，在 Mistral Small 3 基础上提升了文本表现和多模态理解，上下文窗口扩展至最高 128k tokens。
推荐理由：官方列出多模态、长上下文与推理速度指标，可对照 Gemma 3、GPT-4o Mini 判断开源小模型的性能位置。