跳到正文
原文
AGI Hunt· GaryMarcus·· 10 小时前AI 评分32

Kokotajlo:察觉对齐问题的能力很差且将更糟,行业风险巨大

Kokotajlo:察觉对齐问题的能力很差且将更糟,行业风险巨大

AI 导读

Daniel Kokotajlo 在纽约听证会语境下重申自己的判断:「我们察觉对齐问题的能力本已相当差,而且近期还会大幅恶化」,叠加行业「快速行动、打破一切」的作风,他认为整个行业正处于巨大风险之中。Gary Marcus 在 x 上转述这一观点,并将其视为对 AI 代码无人审查议题的延伸警告。

来源:AGI Hunt · agihunt.info