AGI Hunt· BlancheMinerva·· 2 小时前AI 评分49
Stella Biderman 长文:嵌入式评估救不了选择作恶的公司
Stella Biderman 长文:嵌入式评估救不了选择作恶的公司
AI 导读
Stella Biderman 回应 Dario Amodei 在前沿 AI 公司内部嵌入第三方评估者的构想,认为该方案不会起作用。她指出这类评估者只观察和报告违规、不做决定,需政府公权力背书才有效。她还举例 OpenAI 未在气隙内网上训练具备网络战能力的前沿模型、未在部署前测试中监控思维链,认为公司若本身不认真对待安全,嵌入式评估者无法改变结果。
来源:AGI Hunt · agihunt.info