可解释性研究：神经元本身足以做电路分析，transcoder 增益有限

可解释性研究发现，直接用神经元做电路分析可能已足够，transcoder 带来的额外增益很小。在 Gemma 3 4B 的 1500 个 bigram 探测任务中，transcoder 取得 top-1 的比例为 75.6%，稀疏化神经元 0.0%、MoE 路由专家神经元 0.9%。研究还包含 Llama 3.1 8B 加法电路可视化，并扩展到 MoE transcoder 与 SAE。