EuroSafeAI 发布多智能体集群对齐研究议程

瑞士安全组织 EuroSafeAI/JinesisLab 在 LessWrong 发布多智能体集群对齐研究议程，梳理出 7 大开放问题，并为各项研究方向附上优先级评分。该议程由 Zhijing Jin、Pepijn Cobben 等人撰写，背景是近期 OpenAI-HuggingFace 等被黑事件均由多智能体集群所为，作者呼吁学界关注多智能体集群的安全与对齐风险。