Google Developers Blog·· 2 小时前精选AI 评分60
Google 为 A2UI 推出可替换推理格式,新默认格式 A2UI Express 延迟最高降低 3 倍
Fast, reliable A2UI, with swappable inference formats
AI 导读
Google 为 A2UI 推出可替换的推理格式机制,新的默认格式 A2UI Express 相比 Direct JSON 延迟最高降低 3 倍,生成同类 UI 所需 token 最多减少 3 倍。
推荐理由
原文给出 Express 与 Direct JSON 的延迟和 token 对比及决策模型接入的实测数据,可作为生成式 UI 方案选型的参考。
来源:Google Developers Blog · developers.googleblog.com