跳到正文
热点事件持续更新

FLARE:跨模态蒸馏唇读表征框架

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

arXiv cs.CV 报道,FLARE 提出一种通过跨模态蒸馏与联合人脸-唇部建模学习视觉语音表征的框架。它以 Whisper 表征作为声学教师信号,经随机投影量化器转换为离散蒸馏目标,并采用双流架构分别处理唇部 ROI 与全脸输入。在 LRS2、LRS3、WildVSR 三个数据集上,词错误率分别为 11.7%、13.2%、34.3%。下游应用可搭配轻量 Transformer 解码器或基于 LLM 的解码器。相关代码与预训练模型已公开。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv cs.CV
    FLARE:用跨模态蒸馏与联合人脸-唇部建模学习视觉语音表征

    FLARE 通过跨模态蒸馏与联合人脸-唇部建模学习视觉语音表征,在 LRS2、LRS3、WildVSR 上的词错误率分别为 11.7%、13.2%、34.3%。它以 Whisper 表征作为声学教师信号,经随机投影量化器转为离散蒸馏目标,并用双流架构分别处理唇部 ROI 与全脸输入。下游可搭配轻量 Transformer 解码器或基于 LLM 的解码器,代码与预训练模型已公开。

本事件热度走势

当前热度 9·可比范围峰值 10(10月15日 13:00)·近 24 小时可比范围变化 –

02.557.51010月15日13:0010月15日14:0010月15日14:0010月15日15:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。