跳到正文
原文
AGI Hunt· GodComplecs·· 4 小时前AI 评分31

Reddit 讨论:你会想要一个「永不妥协、坚持己见」的 LLM 吗?

Reddit 讨论:你会想要一个「永不妥协、坚持己见」的 LLM 吗?

AI 导读

一位 Reddit 用户正在开发一套多层去除 LLM 谄媚(sycophancy)的系统,在生成过程中用非 LLM 模型把输出对齐回原始立场,即使遭遇 prompt injection 也会转回原观点。他由此征集本地 LLM 用户对「强硬不妥协 AI」的需求与容忍度:既然 LLM 在编码、数学上强于多数人,它该在哪些事上与用户争辩、界限在哪里。

来源:AGI Hunt · agihunt.info