跳到正文
原文
AGI Hunt· Yuhao Li·· 12 小时前AI 评分37

MinkowskiPE:用闵可夫斯基时空坐标做位置编码,视频预测 MSE 降 9.9%

MinkowskiPE:用闵可夫斯基时空坐标做位置编码,视频预测 MSE 降 9.9%

AI 导读

Yuhao Li 提出 Minkowski 位置编码(MinkowskiPE),以联合时空坐标参数化洛伦兹变换作用于 query/key 特征,让注意力得分只依赖两 token 的相对时空位移。分子动力学任务上,九个多轨迹分子评估全部取得最佳结果。KTH 视频预测 MSE 相比最佳基线降低 9.9%,参数量约为其十分之一。

来源:AGI Hunt · agihunt.info