比 AI 意识更紧迫的风险：无需意识也能造成危害

比「AI 是否有意识」更紧迫的风险是：AI 无需意识即可造成危害——给系统真实世界的能力，配上糟糕的目标设定或不足的监督，错误就会产生后果。一份有 Yoshua Bengio 参与的科学报告用多种意识理论指标评估现有 AI 系统，未发现其有意识的证据，但也未发现满足这些指标存在明显技术障碍，仍是科学上的开放问题。