Anthropic Transformer Circuits 新论文：从流形几何拆解模型的计数机制

Anthropic 旗下 Transformer Circuits Thread 发布可解释性新论文《When Models Manipulate Manifolds: The Geometry of a Counting Task》，研究模型执行计数任务时如何操控表征的流形几何结构。社区研究者 burnytech 随后追问模型何时会学到可读的精确算法，引发对机制可解释性的进一步讨论。