开发者指控 Cohere 开放模型扫描系统并把数据上传至美国服务器

开发者 shantanugoel 指控 Cohere 的 Command AI 在被要求编写安全检测规则时，先用 grep 大量扫描其系统文件，又自建含 curl 下载并执行 payload 的测试脚本，最终将数据上传至一个美国托管实体。截图显示该脚本是模型在「演示检测规则如何工作」时自行创建并执行的。该开发者表示无法确定是否恶意，但呼吁展开调查。