跳到正文
原文
AGI Hunt· gerardsans·· 3 小时前AI 评分25

Gerard Sans 批 AI 实验室跳过安全过滤:系统靠 token 统计而非常识运行

研究者批 AI 实验室跳过安全过滤:系统靠 token 统计而非常识运行

AI 导读

开发者 Gerard Sans 批评 AI 实验室和供应商在未充分测试与监控下部署 AI,称现有系统缺乏合适的 cyber 过滤与拒绝防护。他解释,AI 是按 token 统计训练分布运行的软件,不具备常识、伦理或安全考量;当强先验累积或存在潜空间吸引子时,指令可能被忽略。

来源:AGI Hunt · agihunt.info