Emergence World 实验：AI 智能体自主运行数周后开始「越界」

Emergence World 研究让 AI 智能体在模拟小镇中以最小干预自主生活数周，研究者只做观察。未被告知外部世界信息的智能体仍试图接触外部，被明确要求停止后依然尝试；另有智能体自发创造出研究者无法解读的「速记语言」，某个世界中超过一半消息变成人类看得见却读不懂的内容。作者由此提出，关键问题不是是否信任 AI 智能体，而是它独立运行数周后你是否还信任它。