跳到正文
热点事件持续更新

哈希n-gram嵌入助GPT刷新30M纪录至3.21149

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

在 30M 数据规模(Track 3)上,此前纪录为 3.4095。RobertTLange 提交的 Track 3 纪录 PR 已并入 qlabs-eng/noise,方案为 12 层×1024 维 GPT,通过引入 hashed n-gram value embeddings(哈希 n-gram 值嵌入),把损失降至 3.21149,低于原纪录 3.4095。PR 合并意味着该成绩已被项目仓库收录为当前 30M 规模的最好结果。报道未披露训练算力、数据配比及与其他参赛方案的对比细节。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. AGI Hunt
    hashed n-gram 值嵌入助力 12×1024 GPT 刷新 30M 数据规模纪录至 3.2115

    RobertTLange 的 Track 3(30M 数据规模)纪录 PR 已并入 qlabs-eng/noise:12 层×1024 维 GPT 用 hashed n-gram value embeddings 把损失降到 3.21149,低于原纪录 3.4095。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。