跳到正文
原文
AGI Hunt· conitzer·· 3 小时前AI 评分42

America.gov 聊天bot拒绝因数分解 6,却乐意分解假社保号

America.gov 聊天bot拒绝因数分解6,却乐意分解假社保号

AI 导读

OTI 学者 Vincent Conitzer 在「Funny AI fails」系列记录了 America.gov 聊天 bot 拒绝为 6 做质因数分解,却对用户自称"假的"社保号给出 12,345,678 的完整质因数分解。该 bot 先称分表格属人事选择而非联邦服务,还表示不会讨论 6=2×5,但在涉假社保号时照常放行。安全护栏在数学题上过度泛化、在真正该谨慎的场景却失效,前后矛盾。

来源:AGI Hunt · agihunt.info