跳到正文
原文
AGI Hunt· patpat_mit·· 3 小时前AI 评分31

MIT 用 LLM 模拟「AI 共生体」,对齐干预有益、错位干预有害

AI 导读

MIT Cyborg Psychology Lab 在 LLM 内模拟「AI-Symbiont」,并用 Transformer Lens 在 Llama 上做干预:对齐用户目标的干预有助表现,错位干预导致更大的性能下降。

来源:AGI Hunt · agihunt.info