arXiv cs.CL· Devansh Sharma, Faizul Rakib Sayem, Shahana Ibrahim·· 2 小时前AI 评分41
LOTUS:基于低秩多线性分解的 LLM 幻觉检测方法
LLM Hallucination Detection via Low-rank Multilinear Decomposition
AI 导读
研究者提出 LOTUS,一种基于低秩多线性分解的 LLM 幻觉检测框架:先从隐藏状态提取紧凑表示,再训练轻量级幻觉分类器,在多个 LLM 与问答基准上超过近期 SOTA 基线。该方法用峰值激活、激活分布和跨层变化等统计描述符汇总变长 token 表示,并以低秩多线性分解刻画隐藏状态的底层结构,从而降低对标注数据的依赖。
来源:arXiv cs.CL · arxiv.org