热点事件持续更新
DocSem共享任务EVICALC系统报告与失败分析
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
2026年10月1日,arXiv cs.CL 刊出 DocSem 共享任务系统 EVICALC 的系统报告与失败分析。该系统读取 PDF、选取段落,由语言模型写出算术表达式并在本地代码中求值。在 DocSem 共享任务官方最终测试的 1730 个任务上,EVICALC 取得 8.61% 联合准确率;另一次公开验证运行取得 92.17% 答案准确率和 1.00 证据 F1,但报道指出两者配置与指标不同,并非受控对比。事后分析中一例显示,OCR 与块分组把相关段落并入其他块,系统据无关文本作答。
AI 根据报道生成 · 2 小时前更新
最新进展10月1日 12:00
官方最终测试1730个任务联合准确率8.61%;失败分析称OCR与块分组错误致系统据无关文本作答。报道时间线
沿着报道,了解事件的不同侧面。
10月1日
- arXiv cs.CL证据优先、算术其次:DocSem 共享任务系统 EVICALC 的系统报告与失败分析
EVICALC 在 DocSem 共享任务官方最终测试的 1730 个任务上取得 8.61% 联合准确率。该系统读取 PDF、选取段落,由语言模型写出算术表达式并在本地代码中求值;一次公开验证运行另取得 92.17% 答案准确率和 1.00 证据 F1,但两者配置与指标不同,并非受控对比。事后分析中一例显示 OCR 与块分组把相关段落并入其他块,系统据无关文本作答。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。