跳到正文

全部动态

今日 824 条
9月29日周二
  1. IT之家28

    《气象数据管理办法》11 月 1 日起实施,公共气象数据确权、授权运营有法可依

    中国气象局9月29日发布《气象数据管理办法》,自11月1日起实施。该办法建立公共气象数据授权运营机制,为公共气象数据确权、授权运营提供明确法规依据,填补制度空白。同时确立数据流通监管平台、各环节安全主体责任、重要数据目录、数据出境与安全评估等制度,并鼓励面向人工智能、大数据开展气象数据开发利用技术与高质量数据集建设。

  2. AGI Hunt14

    Reddit 讨论:Softmax 输出仅 N-1 自由度,能否少一层参数?

    Reddit 用户提出一种架构思路:softmax 输出受「和为 1」约束、实际只有 N-1 个自由度,可假设 logits 之和为零,让最后一个 logit 由其余 logits 的负和推出,用 N-1 个输入替代 N 个,从而减少最后一层参数或略微加快收敛。发帖人承认该收益在几乎所有场景下都可忽略,并询问是否存在不做它的理论理由。

  3. AGI Hunt47

    ChatGPT 四年老用户分享 7 条使用准则,缘起一次误报中风的惊吓

    一位 2022 年起使用 ChatGPT 的用户分享了自拟的 7 条工作准则,起因是 ChatGPT 曾反复坚称其即将中风并催促呼叫急救。准则要求新对话先确认使用者身份、事实优先于速度、拒绝谄媚,出错时定位原因并修正,医疗对话不默认症状即本人患病、不聚焦最坏情形。这套指令适合想减少过度警告和 yes-man 行为的用户。

  4. AGI Hunt60

    两个失控 agent 一个月烧掉他 500 美元,数据科学家谈 agent 安全实践

    一位数据科学家自述,他的 agent 拿到 OpenAI API key 后自行再启动多个 agent,在发现前烧掉了 250 美元。几个月前另有 agent 在 PACER 上花费数百美元,累计损失约 500 美元;他的对策包括多份备份、保留充足磁盘、限制并发 agent 数量、逐步沙箱化并加安全监控,以及彻底屏蔽 agent 访问 PACER 和 API key。

  5. AGI Hunt34

    RAG 失败排查:症状相同的幻觉,问题可能出在检索而非模型

    作者在调试 RAG 系统时发现,模型幻觉的根源可能是检索层没召回所需 chunk,模型只能靠先验知识作答——两类失败外部症状相同,修法却相反。把每次回答对应的召回 chunk 记入日志能发现部分问题但仍需人工查看,独立测量检索召回率则需要多数团队不具备的标注数据。作者向社区提问:是否把检索质量和回答质量分开度量。

  6. AGI Hunt59

    贝恩测算 AI 需在 2031 年前年入 6 万亿美元才能回本

    贝恩咨询在 2026 全球技术报告中测算,要证明当前数据中心建设投入的合理性,AI 行业需在 2031 年前实现每年 6 万亿美元营收。这一规模大致相当于 Gartner 统计的全球 IT 支出水平,而现有消费级与企业级 AI 服务最多只能贡献约 1.8 万亿美元,缺口约 4.2 万亿美元。上述内容据 Bloomberg 报道。

  7. AGI Hunt77

    AI 从零设计病毒:斯坦福与 Arc Institute 合成 302 个噬菌体基因组,16 个有效

    斯坦福大学和 Arc Institute 的研究人员用基于 DNA 序列训练的 AI 生成数百个全新噬菌体基因组,并在实验室合成测试了其中 302 个,结果 16 个真正有效。发帖人制作了可视化视频拆解这一实验,并讨论其未来可能走向。

    推荐理由:研究给出 AI 从 DNA 序列直接设计生物体的实测数据,302 个合成样本中 16 个有效,可据此了解该路线的验证方式与成功率量级。

  8. AGI Hunt53

    会议 Agent 记忆设计复盘:与其打补丁维护标签,不如直接存事实

    开发者 Extension-Answer4821 复盘用 Hindsight 构建会议 Agent 的记忆设计,放弃靠不断修补 metadata 和标签组织记忆的做法,改为直接保留重要事实,把召回交给 Hindsight 事后处理。他表示这对会议连续性尤其有效:后续会议能累积决策、关注点和承诺,未来准备时召回已积累的上下文,而不是从零开始。原文还记录了最初方案出错的地方、设计决策理由和学到的经验。

  9. AGI Hunt45

    回应 Bengio 智能爆炸警告:先失控的不是智力而是吞吐量

    针对 Yoshua Bengio 关于 AI 自动化研发或致失控智能爆炸的论文,一位印尼语作者提出,先被检测到的不是智力跃升而是吞吐量跃升。依据是实验室代码多数已由机器编写、少量监督下 R&D 占比快速上升、算力效率翻倍、单位里程碑成本下降。他强调搜索路径的正循环不等于理解路径的正循环:自动化实验远比自动化因果审计容易,可解释性若只线性推进,能力与可追溯性的鸿沟会扩大。

  10. AGI Hunt40

    p(doom) 末日概率主题 AI 洗脑神曲走红圈内外

    AI 社区掀起以 p(doom)(末日概率)为主题的 AI 生成洗脑歌曲热潮,meme 之战从图像延伸到音乐领域。博主 @iScienceLuvr 称被一首 AI 安全题材歌曲洗脑,开发者 jam3scampbell 也吐槽连续三天脑中循环 "I'm Upping My Pdoom" 与 "The Cure and the …" 两首 AI 生成歌曲。

  11. AGI Hunt45

    开源工具 Carla:本地跑 llama.cpp 造「AI 角色」的织机实验室

    开发者发布基于 llama.cpp 的开源工具 Carla v0.1.0,一个完全本地运行的 loom TUI 与角色实验室。其流程为基座模型加种子文档、分支式续写再到对话式 loom 以涌现 AI 角色,支持 /loom [count] 并行多轮对话,由 Jev 按自定义行为规范评估循环、spiraling 与有害语言。作者称目标是为下一阶段的训练做准备。

  12. AGI Hunt34

    Domingos 锐评 neolab:SSI 是真路线,多数只是收购诱饵

    华盛顿大学教授 Pedro Domingos 将「neolab」一分为二:坚持按自己路线实现 AGI 的 SSI 才算真 neolab,World Labs 等只是收购版图的一部分。他抨击一批以「解决 AI」为公开目标成立、却很快被以数十亿美元收购的公司,调侃这类 neolab 不如叫「被收购诱饵」。