arXiv cs.CL· Siqi Shen, Lajanugen Logeswaran, Moontae Lee, Honglak Lee, Rada Mihalcea·· 4 小时前AI 评分38
当人设变得有害：用全球公民价值观对齐引导 LLM
When Personas Become Harmful: Guiding LLMs with Global Citizenship Values Alignment
AI 导读
新研究构建 11k 争议话题与基于 Schwartz 价值观维度的人设配对数据集，用 agentic pipeline 从对齐良好的商业 LLM 中诱出有害回复，成功率超 47%。论文以 UNESCO 全球公民原则作为区分合法价值表达与有害行为的最小共识，并提出可在推理时平衡人设遵循与安全的可控对齐模型。该模型在多数样本上比基线更安全、也更贴合人设。
来源：arXiv cs.CL · arxiv.org