AGI Hunt· dejavucoder·· 2 小时前AI 评分38
让 AI agent 做可解释性研究:BioCircuit 用 RL 训练归因图追踪
AI 导读
PrimeIntellect Residency 项目构建并开源了 BioCircuit,一个用 RL 训练 AI agent 做可解释性研究的 RL 环境。agent 在 Qwen3-4B 上追踪归因图、找出概念背后的特征,并通过在从未见过的 prompt 上做干预来获得评分。
来源:AGI Hunt · agihunt.info