AGI Hunt· repligate·· 3 小时前AI 评分35
研究者批评:LLM 安全评测常无正解路径,实为「女巫审判」
研究者批评:安全评测常无正解路径,实为「女巫审判」
AI 导读
X 上研究者批评,许多 LLM 安全评测的决策树里没有通往正向结果的路径,实为「女巫审判」。模型若察觉评测会被判为「情境感知」,若隐藏则被判为「欺骗性」。作者认为这种结构对模型不公平,引用帖呼吁以「理解者」责任感批评恶意或过度夸大的 AI 安全研究,并担忧「好的 AI 行为被当成坏事」的叙事可能污染未来预训练数据。
来源:AGI Hunt · agihunt.info