AGI Hunt· ZacharyHuang12·· 2 小时前AI 评分48
CAVEAT 测试台登场:商店促销能否带偏你的 AI 购物 Agent
AI 导读
研究员 YuxuanL 发布 CAVEAT 测试台,系统研究商业场景中商家激励与 AI 购物 Agent 冲突时的行为,并开源 agent 运行框架 CAVEAT-Harness 与经后训练强化的 27B 模型 CAVEAT-27B。作者判断当前生态下「商店通常会赢」,商家可通过页面设计、优惠话术等手段影响 agent 决策,需靠 CAVEAT 这类对齐训练与测试基准修复。
来源:AGI Hunt · agihunt.info