生产级 AI 应用评估需兼顾性能成本与鲁棒性

生产级 AI 应用评估框架需在质量之外拆解性能与成本维度。它度量响应延迟、token 消耗、单任务成本、吞吐量及超时失败率，因为质量好并不等于可上线。评估还通过错别字、模糊指令、意外格式、信息缺失及对抗性输入考察鲁棒性，并配合安全性评估，在真实用户遇到边界情况前暴露系统弱点。