arXiv cs.AI· Akash Kannan, Kiho Park, Victor Veitch·· 4 小时前AI 评分37
对比学习中的 Anchor Divergence:面向语义几何的锚点散度
Anchor Divergence for Semantic Geometry in Contrastive Learning
AI 导读
对比学习研究提出 Anchor Divergences,可在固定表示上指定上下文相关的语义几何。该方法借助对比学习、指数族与信息几何之间的相互作用,建立 anchor 分布与表示空间上 Bregman 几何的对应关系,使建模 anchor 分布等同于建模几何本身。检索实验表明,它能有效且高效地指定上下文相关的语义相似度,代码已公开。
来源:arXiv cs.AI · arxiv.org