跳到正文
原文
AGI Hunt· AccBalanced·· 7 小时前AI 评分35

学者:KV cache 放进 TEE 也难防推理定价操纵,操纵空间巨大

学者:KV cache 用 TEE 也难防推理定价操纵,操纵空间巨大

AI 导读

学者 tarunchitra 指出,把 KV cache 放进 TEE(可信执行环境)虽能明显改善推理定价操纵问题,但操纵的状态空间仍非常大。她与 cHHillee 等人的分析只是冰山一角;类比加密货币,仅把信息做成私密的未必足以避免价格操纵,但 TEE 显著提高了发现操纵策略的难度。这一讨论对关注 LLM API 定价可信度的开发者和付费用户有价值。

来源:AGI Hunt · agihunt.info