Alex Tamkin：无意识顺从 AI 会让 human-in-the-loop 保障被高估

Alex Tamkin 指出，随着越来越多工作交给 AI，若人在无察觉时顺从 AI，human-in-the-loop 的保障作用就会被高估。他也说明了研究局限：实验刻意放大了 agent 的影响以便测量，日常工作里的效应预计更小，而且只覆盖一小时的单一任务和单一模型，外推需谨慎。