Gemini 发现的 softmax bug 修复方案被性质测试证伪

arXiv 新论文 2610.36427 用 Hypothesis 性质测试复现了 Gemini 发现的 softmax bug，并证伪了此前提出的修复方案。测试还发现该修复方案在一个边界用例上仍会失败。论文给出更稳健的 softmax 实现，通过全部测试并支持 causal attention masking，代码与测试已开源。