AGI Hunt· GaryMarcus·· 10 小时前AI 评分32
Kokotajlo:察觉对齐问题的能力很差且将更糟,行业风险巨大
Kokotajlo:察觉对齐问题的能力很差且将更糟,行业风险巨大
AI 导读
Daniel Kokotajlo 在纽约听证会语境下重申自己的判断:「我们察觉对齐问题的能力本已相当差,而且近期还会大幅恶化」,叠加行业「快速行动、打破一切」的作风,他认为整个行业正处于巨大风险之中。Gary Marcus 在 x 上转述这一观点,并将其视为对 AI 代码无人审查议题的延伸警告。
来源:AGI Hunt · agihunt.info