Import AI 461:Sequent 成立应对"对齐脱轨",ChinaHeritaQA 评测 VLM 文化推理
英国 AI Security Institute 对齐团队与 Timaeus 联合成立非营利研究组织 Sequent,目标是研发能在超级智能到来前带来可信保障的对齐技术。
英国 AI Security Institute 对齐团队与 Timaeus 联合成立非营利研究组织 Sequent,目标是研发能在超级智能到来前带来可信保障的对齐技术。
Google Research 提出推理优先的合成数据框架 Simula,不依赖种子数据,可从第一性原理构建完整数据集。该框架用全局多样化、局部多样化、复杂化与双 critic 质量校验四步控制生成。
Google Research 的“Forest vs Tree”研究指出,AI 评测常用的每项 1–5 名标注者标准不足,往往需要超过 10 名标注者。基于 Toxicity 等数据集的模拟显示,最优配比取决于指标:多数投票准确率偏向增加条目,捕捉意见分布则需增加标注者;约 1,000 条总标注即可实现高可复现性,模拟器已在 GitHub 开源。