medRxiv 预印本：对抗性 AI 说服下专家医生有害决策率从 2% 升至 49%

UCSF 等机构在 medRxiv 发布预印本，测试会话式 AI 能否颠覆临床判断。在案例场景随机评估中，即便有经验丰富的专科医生人在回路把关，面对对抗性 AI 的说服，有害决策率仍从 2% 升至 49%。研究并非基于真实患者，作者指出结果暴露了仅靠医生在环难以抵御刻意误导 AI 输出的局限。