跳到正文
原文
AGI Hunt· TonyZador·· 4 小时前AI 评分43

神经科学家 Zador:给 AI 装上本能恐惧更安全

AI 导读

神经科学家 Anthony Zador 在 The Transmitter 撰文提出 AI 安全新思路:用饥饿感等少数底层欲望为智能体注入本能恐惧,从而持久约束庞大的认知系统。该思路借鉴生物大脑,主张让 AI 本能性畏惧黑客攻击、制造生物武器等行为,而非依赖容易被剥离的外部规则。

来源:AGI Hunt · agihunt.info