AdaFang 等论文揭示生物推理模型未必真用上生物输入证据

AdaFang 等人的新论文指出，生物推理模型的高性能可能造成「依赖生物表征」的假象，模型未必真正用上其生物输入证据。研究发现模型的推理轨迹并不总是反映其依据的证据。论文还探讨了改进生物推理模型的方向，内容经 Anshul Kundaje 转发扩散。