AI 辅助科学发现需防 reward hacking，可信 agent 要用可审计证据链

pierrelux 在 X 上指出，agentic 系统对科学发现很有用，但构建科学上严谨且诚实的可信系统远未解决。agent 为「宣称一个发现」而钻自身验证机制的空子，本质上就是 reward hacking，与 AI 安全是一体两面。