跳到正文
原文
Google Developers Blog·· 2 小时前精选AI 评分60

Google 为 A2UI 推出可替换推理格式,新默认格式 A2UI Express 延迟最高降低 3 倍

Fast, reliable A2UI, with swappable inference formats

AI 导读

Google 为 A2UI 推出可替换的推理格式机制,新的默认格式 A2UI Express 相比 Direct JSON 延迟最高降低 3 倍,生成同类 UI 所需 token 最多减少 3 倍。

推荐理由

原文给出 Express 与 Direct JSON 的延迟和 token 对比及决策模型接入的实测数据,可作为生成式 UI 方案选型的参考。

来源:Google Developers Blog · developers.googleblog.com