智能体 AI 正在突破按 token 计费，企业需为成本变化提前规划
分析师 Zeus Kerravala 指出，智能体 AI 每次任务的 token 消耗可达单次推理调用的 10 到 100 倍，按 token 计费让成功上线的 AI 项目成本失控。
#部署/工程
#部署/工程
今日 37 条SiliconANGLE：AIAI 评分5656 arXiv cs.CLAI 评分3535 MoSAR：学习自适应且可近似注意力几何的语义注意力模式混合
MoSAR 把注意力近似视作几何问题，用输入条件的 query/key 路由器在短、中、全局三种模式间混合，学习连续的距离相关注意力场，并可在训练后经 top-1 路由离散化。在 500M 参数匹配模型的预训练实验中，它未降低语言建模质量，困惑度优于 dense RoPE，长度外推下优于 ALiBi 等基线取得最佳困惑度。
arXiv cs.CLAI 评分3636 G²PTQ：用广义梯度补偿改进 LLM 训练后量化
G²PTQ 提出统一的大语言模型训练后量化框架，在全局监督的块级目标下融合一阶与二阶信息，并在量化每个 Transformer 块前刷新梯度与 Hessian 估计。它引入 trust-region 缩放机制约束梯度步长，防止权重更新爆炸。在多种模型族和位宽上，G²PTQ 与全精度模型的对齐优于 SOTA 基线。
arXiv cs.CLAI 评分4040 REALMS：面向高维嵌套画像实时精确受众规模测算的 AI 对话系统
REALMS 是已部署在企业客户数据平台上的对话式受众规模测算系统，可用自然语言查询数百万画像、数千属性并在几秒内返回精确计数。系统由基于嵌入向量搜索的属性检索、带模板化上下文学习的 LLM NL2SQL 流水线、schema 标准化三部分构成。真实企业数据评估显示属性检索召回高、SQL 执行准确率高、延迟低，此前需数小时的任务可实时完成。
AGI HuntAI 评分1717 4080 Super 本地跑图生视频：不是几小时一个 clip 就是 OOM
一位用户在 Reddit 求助：在 4080 Super + 32GB 内存上尝试的图生视频（I2V）方案全部失败，生成一个 4 秒片段要数小时，或直接 OOM 跑不完。帖子正寻求可行的本地视频生成配置建议。
Google Developers BlogAI 评分5353 在 MaxText 中复现 Olmo 3 7B 预训练：TPU 大规模训练案例研究
Google MaxText 团队在 Cloud TPU 上从头复现了 Ai2 的 Olmo 3 7B 预训练与中期退火，阶段 1、阶段 2 的损失曲线与 Ai2 公开参考在留出评估上对齐。
AGI HuntAI 评分5353 boxd 宣称 Linux 整机启动不到 10ms，可随时 fork 与休眠
boxd 发布一段 60 秒演示，宣称一整个 Linux 机器启动时间不到 10 毫秒。该产品定位为可组合的轻量虚拟机，配置一次工具和数据后可按需批量拉起，并支持运行中途 fork、休眠、按流量唤醒和团队共享，安装只需一行 curl 命令。
IT之家AI 评分3939 SK 海力士以 CoWoS 平台 HBM5 内存验证蝉联台积电年度合作伙伴奖
SK 海力士凭借在 CoWoS 2.5D 先进封装平台上的 HBM5 内存验证，获台积电“3DFabric-HBM 集成”类别年度合作伙伴奖，连续第二年获奖。该公司还在活动上展示 12Hi 48GB HBM4E 等新品，并表示正为 PCIe Gen6 / Gen7 固态硬盘准备基于 Chiplet、以 UCIe 互连的控制器方案。
SiliconANGLE：AIAI 评分2525 Dell AI Data Platform 活动前瞻：theCUBE 将于 10 月 6–7 日直播访谈
Dell Technologies 将于 10 月 6–7 日举办“AI Data Platform Event: From Ambition to AI at Scale”线上活动，theCUBE 同步直播并由分析师 Dave Vellante、John Furrier 进行独家访谈。
Towards Data ScienceAI 评分5555 如何用对抗验证捕捉每个特征都看似正常时的数据漂移
作者提出用对抗验证检测数据漂移，给训练集打 0、生产批次打 1 训练分类器，AUC 接近 0.5 说明分布一致，超过约 0.65 则说明特征间的联合关系已变化，并能指出具体是哪些列。
arXiv cs.CLAI 评分4848 生产级 text-to-SQL 流水线中 LLM-as-judge 失败的审计与修复
生产 text-to-SQL 流水线中部署的 gpt-4o-mini LLM-as-judge 与人工标注一致性极低，分歧富集集上 Cohen's kappa 仅 0.04、均匀随机抽查 0.42，并误标 77.1% 的人工判定 FAITHFUL 案例。
arXiv cs.CVAI 评分3535 CSCWD：面向边缘设备轻量微小目标检测的跨尺度通道知识蒸馏
CSCWD 通过跨尺度通道知识蒸馏，把 YOLO11m-P2 教师的高分辨率空间表征迁移到 YOLO11n 学生，且不改变其推理架构。在 Drone-vs-Bird 协议下，YOLO11n-CSCWD 达 50.17% mAP@0.5 与 59.73% recall，较 CA-YOLO11n baseline 提升 2.92 和 3.55 个百分点。
SiliconANGLE：AIAI 评分2222 Dell AI Leadership Symposium 前瞻：theCUBE 9 月 29 日直播
theCUBE 将于 9 月 29 日直播 Dell AI Leadership Symposium，Dell 与 Deepgram、Intel 等企业代表将讨论把 AI 推向生产环境所需的基础设施与运营决策。
SiliconANGLE：AIAI 评分3434 CoreWeave 扩展全栈 AI 云布局，承接增长的推理需求
CoreWeave 完成 Nvidia Vera Rubin NVL72 在 CoreWeave Cloud 上的行业首次 bring-up 与验证，推进面向智能体 AI 的全栈 AI 云布局。
AWS Machine Learning BlogAI 评分5757 NarrateAI 如何在 Amazon Bedrock 上实现生产级 LLM 质量保障
AWS 的 NarrateAI 团队公开了在 Amazon Bedrock 上实现生产级 LLM 质量保障的五种技术，覆盖自适应流水线编排、跨账号多模型故障转移、实时流式评估、复合评估框架和数据准确性验证。
AWS Machine Learning BlogAI 评分5151 在 Amazon SageMaker AI 上部署 Qwen3-TTS 实时个性化语音
AWS 官方博客给出在 Amazon SageMaker AI 上通过 JumpStart 部署 Qwen3-TTS-12Hz-1.7B-Base 到实时推理端点、并用几秒参考音频做语音克隆的完整步骤。
AWS Machine Learning BlogAI 评分2222 Datacor 如何用 Amazon Quick Sight 构建自助式租赁分析
Datacor 将 Amazon Quick Sight 嵌入 TrackAbout，为气体与焊接分销商提供自助式租赁分析仪表盘与自然语言搜索栏。TrackAbout 客户合计管理 2750 万个资产、每月超 72.5 万张账单，此前租金数据只能靠 IT 生成的报告获取。自然语言问答由 Amazon Q in Quick Sight 驱动。
AWS Machine Learning BlogAI 评分3737 用 Amazon SageMaker HyperPod 与 Qumulo 实现多区域训练
Amazon SageMaker HyperPod 搭配 Qumulo 的 CNQ 与 Cloud Data Fabric（CDF），让训练集群无需复制数据即可读取另一 AWS Region 的数据集。
Towards Data ScienceAI 评分2828 AI 之外我在学的 10 个技术概念：提升技术素养
在反思自己过度依赖 AI 后，作者改为把 AI 当学习向导，梳理出 10 个 AI 之外的技术概念。前四个是量子计算、后量子密码学（PQC）、分布式系统与边缘计算，其余涵盖云架构、事件驱动架构、零信任架构、数字主权、数据网格与数字孪生。文中引用 McKinsey 数据称，全球量子技术市场未来十年规模最高可达 $100 billion。
GitHub BlogAI 评分4545 GitHub Primer 如何通过交付更多 CSS 提升站点性能
GitHub 的 Primer Design System 将所有组件从 CSS-in-JS 迁移到 CSS Modules，到 2024 年 12 月完成，服务端渲染页面耗时减少 55%，组件初始化耗时减少 25%。
AWS Machine Learning BlogAI 评分4242 在 Amazon SageMaker AI 上用 WhisperX 实现带说话人标签的转录
AWS WhisperX DLC 可部署到 Amazon SageMaker AI 实时或异步端点，无需构建自定义镜像。WhisperX 基于 OpenAI Whisper，增加批量推理、wav2vec2 逐词时间戳和说话人分离，支持 json、verbose_json、srt、vtt 输出。实时端点限 60 秒内短音频，长音频和高吞吐批处理建议用异步端点。
AWS Machine Learning BlogAI 评分4646 如何用 Amazon Bedrock AgentCore Gateway 和 MCP 构建多账户 AI 智能体
平台账户用 Amazon Bedrock AgentCore Gateway 把各业务线账户的 MCP server 聚合成单一 MCP 端点，智能体无需复制数据即可跨账户发现并调用工具，数据只在查询时流出所属账户。
AWS Machine Learning BlogAI 评分3232 Aderant 用 Amazon Nova 打造智能工单分类系统
Aderant 通过 Amazon Bedrock 调用 Amazon Nova Lite 构建 Intelligent Ticket Analyzer，为 38 人 SierraOps 团队自动分类、路由工单并补全上下文。
Towards Data ScienceAI 评分6060 超越 RAG：如何构建真正可信的 AI 证据架构
Ari Joury 在 Towards Data Science 撰文提出，RAG 只是把候选证据交给模型，无法证明模型刚生成的论断得到支持，应把控制单位从文档下沉到原子论断。
Towards Data Science精选AI 评分6868 当正确答案为空时，结构化输出与语义缓存会返回什么
作者认为流水线中的必填字段和相似度缓存都会在正确答案为空时返回编造值，并以自建的开源本地 RAG 检索系统为例做了验证。他用自写的西班牙语行政问题对测试 bge-m3，加入仅差一个 token 的改写对照后 AUC 从 0.3556 升到 0.9333，但最低被接受的改写仍低于最高被拒绝的否定句，因此没有可用阈值。
推荐理由：文中记录了作者自建语义缓存的阈值实验与失败细节，并提出可套用到抽取和检索组件的三个自查问题。
AWS Machine Learning BlogAI 评分3737 从门户跳转到即时答案：HEMA 用 MCP 和 Amazon Bedrock AgentCore 构建 HAL 的历程
HEMA 基于 MCP 和 Amazon Bedrock AgentCore 构建内部 AI 助手 HAL，把分散在门户、wiki 与文档中的知识集中，并在 HAL 聊天、Kiro、Claude 等工具中直接提供答案。此前查一个答案需在 3 或 4 个门户间跳转、有时耗费整个下午，现在可在 IDE 或聊天窗口几秒内完成；当前为只读知识层，下一步将转为可执行操作层。
AWS Machine Learning BlogAI 评分4444 用 Amazon Bedrock 开放权重模型驱动 OpenCode AI 编程智能体
OpenCode 可接入 Amazon Bedrock 的开放权重模型，作为终端 AI 编程智能体在本地运行、推理留在 AWS 账户，且无按席位费用。示例模型包括 Moonshot AI Kimi K3、OpenAI GPT-OSS 120B 与 NVIDIA Nemotron 3 Super 120B。
OpenAI：官网动态AI 评分2929 Airbnb 扩大 GPT-6 Astra 与 OpenAI 前沿模型的接入范围
Airbnb 扩大对 GPT-6 Astra 及 OpenAI 前沿模型的接入范围，帮助工程团队排查 bug、设计系统并加快交付。
OpenAI：官网动态AI 评分4343 GPT-6 改进提示词缓存
GPT-6 改进了提示词缓存，带来更高的缓存命中率、新增的诊断能力与显式断点，以及可降低延迟和成本的控制项。这些改动让开发者能更清楚地排查缓存行为并控制推理开销。
AWS Machine Learning Blog精选AI 评分6767 GPT-6 Sol 与 GPT-6 Luna 在 Amazon Bedrock 正式可用
OpenAI 的 GPT-6 Sol 和 GPT-6 Luna 在 Amazon Bedrock 正式可用，API 定价显著低于 GPT-5.6 前代。GPT-6 Sol 面向开发与运维中反复出现的复杂任务，GPT-6 Luna 面向大批量重复任务，两者都支持显式提示词缓存。OpenAI 的内部事实性评测显示，GPT-6 Sol 的事实性错误约为 GPT-5.6 Sol 的一半。
推荐理由：两款模型按复杂任务与高频任务分层，API 定价低于 GPT-5.6 前代，可据此判断日常负载的选型。
AWS Machine Learning Blog精选AI 评分7272 Claude Opus 5.5 在 AWS 上线，Amazon Bedrock 与 Claude Platform on AWS 同步可用
AWS 宣布 Claude Opus 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上线，这是 Claude 5.5 系列的首个模型。
推荐理由：文章对比了 Claude Opus 5.5 与 Opus 5 在 token 效率、定价和安全分类器上的差异，并给出在 Bedrock 上调用该模型的代码示例。
Cloudflare Blog精选AI 评分6060 Cloudflare 发布 Worker Previews，为每个 Git 分支提供隔离预览环境
Cloudflare 发布 Worker Previews，为每个 Git 分支提供接近生产的隔离运行环境，各自拥有独立的代码、配置、URL、可观测性和状态。
推荐理由：每个 Git 分支都获得带独立状态与 URL 的预览环境，读者可据此了解智能体开发闭环怎样接入现有部署流程。
NVIDIA BlogAI 评分5252 NVIDIA 阐述 AI 安全是工程问题，如何覆盖智能体栈各层
NVIDIA 官方博客提出 AI 安全是工程问题，需要为智能体栈各层设置可强制执行的边界、明确责任人和可验证的保护证据。文章介绍了开源安全运行时 NVIDIA OpenShell，以及在其之上构建治理层的 Cisco DefenseClaw、用于扫描与校验智能体技能的 JFrog 等 Open Secure AI Alliance 伙伴实践。
Cloudflare Blog精选AI 评分6262 Cloudflare Python Workers 正式 GA，可运行 FastAPI、Django 与 Flask
Cloudflare 宣布 Python Workers 正式可用（GA），Python 成为 Cloudflare Workers 运行时的一等支持语言。
推荐理由：Python Workers 转为正式可用，文章说明了 WSGI/ASGI 连接器与 socket 桥接如何让框架、数据库驱动和 AI 库直接在 Workers 上运行。
OpenAI：官网动态AI 评分2929 V7 借助 GPT-5.6 Luna 将成本降低 78%，同时提升准确率
V7 使用 GPT-5.6 把分散的公司文件转化为智能体可用的上下文，用于完成复杂且带来源链接的工作。该方案将成本降低 78%，同时提升了准确率。
Simon WillisonAI 评分4545 llm-keys-ui 0.1 发布：为 llm CLI 提供 API key 配置界面
llm-keys-ui 0.1 插件发布，为 llm CLI 提供保存 API key 的网页界面，避免把 key 粘贴进智能体会话。运行 `uvx --with llm-keys-ui llm keys-ui --all` 会返回含局域网或 Tailscale 设备 IP 的 URL，之后可用 `llm keys get anthropic` 在 shell 命令中取用。
NVIDIA BlogAI 评分4949 NVIDIA Vera Rubin NVL72 在 MLPerf Inference v6.1 首秀中性能领先
NVIDIA Vera Rubin NVL72 在 MLPerf Inference v6.1 首秀中，Qwen3-VL 吞吐量最高达 GB300 NVL72 的 3.7 倍。GB300 NVL72 凭 288 个 GPU 跨四机架实现 99% 扩展效率；v6.1 提交的软件优化较 v6.0 最高提升 1.6 倍性能。
Latent SpaceAI 评分6464 TypeSafe 发布 Jev 决策模型，比小规模前沿 LLM 快 100 倍以上、成本低 200 倍以上
TypeSafe 发布 Jev，一款用 RLCD 训练、只做决策、分类、路由与打分的模型，宣称比小规模前沿 LLM 快 100 倍以上、便宜 200 倍以上，输出 token 不计费。
NVIDIA BlogAI 评分4040 曼彻斯特大学用 NVIDIA Earth-2 预测全英空气污染
曼彻斯特大学用 NVIDIA Earth-2 生成式模型训练出覆盖全英的空气污染模型，分辨率 2-3 平方公里，在 Isambard-AI 的单个八卡节点上仅用两天完成训练。
Apple Machine Learning ResearchAI 评分3535 Glyph：面向企业数据目录的多策略智能体系统，用于列描述与敏感度本体标注
Glyph 是一个生产系统，把列描述生成与列类型标注建模为由状态图编排的协作式 LLM 智能体。Descriptor 从企业 GitHub 按需检索流水线源码来支撑生成。