跳到正文

全部动态

今日 954 条
今天9月30日周三
  1. AGI Hunt30

    Gary Marcus 上 PBS 谈 AI 安全:行业自律远远不够

    Gary Marcus 在 PBS NewsHour 节目中表示,仅靠科技行业自律保障 AI 安全「远远不够」,呼吁更强有力的保障措施。此番发声正值美国多家头部科技公司高管与美国总统会面讨论 AI 未来,研究者和议员要求更强安全护栏。白宫强调不能在对华竞争中失去领先地位,倾向不抑制技术发展,Marcus 批评自我监管模式的不足。

  2. AGI Hunt38

    研究者 mathemagic1an 提出免人类偏好的 RL 思路:用代码复现 YouTube 讲解视频

    数学研究者 mathemagic1an 提出一种无需人类偏好数据的 RL 训练思路:让模型只用代码去复现 YouTube 上的讲解视频。复现质量可由视觉模型自动打分验证,成本极低,绕开人工标注,训练出的风格天然接近 YouTube 教育娱乐类内容。他猜测前沿实验室可能已经在跑这个方法的变体。

  3. AGI Hunt40

    Palisade 研究员访谈引争议 被批立场不中立

    Palisade 研究所发布对 AGI 实验室研究人员的长篇采访后引发争议,Rob LeClenec 批评这家受「EA 产业复合体」资助的伯克利安全组织提供的并非中立样本。Neel Nanda 回应争议,承认采访对象并非随机样本,同时感谢该整理工作,称公众应了解实验室人员确实认为不良 AGI 可能导致人类灭绝。

  4. Wired AI65

    Anthropic 称 Claude 发现类 CRISPR 酶系统,专家质疑其意义

    Anthropic 于 9 月 23 日宣布,其大语言模型 Claude 通过约 950 个并行智能体在 21.5 小时内从基因组数据库中识别出一类与 CRISPR 相似的酶系统,并将其命名为 ART。该系统存在于感染细菌的巨型噬菌体中,相关技术报告尚未经过同行评审。多名基因编辑研究者对其意义持保留态度,指出同一种逆转录酶此前已被发现,它能否成为有用的基因编辑工具仍需实验验证。

  5. AGI Hunt26

    六旬农民作家抛出 AI 时代社会契约条款:AI 机器人不得造修 AI 机器人

    一位六十多岁的农民兼作家在 Reddit 提出思想实验:若 AI 与机器人包揽几乎所有工作、人类只需玩耍,人类将失去作为人性一部分的劳动。他为此起草一条社会契约条款草案——「AI 机器人不得建造或修理 AI 机器人」,为人类保留一块劳动领地。他明确这只是初稿,邀请读者讨论反驳并修改措辞。

  6. AGI Hunt31

    RSI 定义五花八门,Reddit 网友追问:自主改进型 AI 该拿什么基准证明

    Reddit 网友指出 RSI(递归自我改进)定义五花八门,质疑谷歌、OpenAI、Anthropic 已实现 RSI 的说法。他主张真正的 RSI 应由 AI 智能体自主设定目标、制定计划、执行并测试验证,狭义版本则指向改进自身代码库并持续迭代。目前尚无类似 SWE-bench 的公开基准可衡量自主改进型 AI 智能体,他向社区求证该去哪里证明。

  7. AGI Hunt42

    博主盘点:OpenAI 高调风险警告屡发,半年内从未兑现

    博主 xeophon 盘点指出,OpenAI 的高调风险警告屡发却未兑现,其公关节奏是先在博客暗示某领域更强模型即将到来,随后不久就发布模型。他举例称,OpenAI 曾在2024年10月31日呼吁在18个月内(即2026年4月前)应对网络与生物风险,但截至发帖,期限已过,风险并未兑现。帖子质疑前沿实验室的风险警告更多是为模型发布造势,而非实质预警。

  8. AGI Hunt37

    Sentdex 力挺 GLM 5.3:在家跑前沿模型,别再为说教你的人付钱

    知名技术 YouTuber Sentdex 发推力挺 GLM 5.3,称该系列让普通人在本地就能跑上前沿模型,不需要「一个自以为比你懂什么对你最好的家伙」把关,并号召停止给那些游说反对用户的公司和同类厂商送钱。他同时提醒黑客攻击与网络犯罪仍然违法且刑罚极重,这可能是针对有人拿本地不受限模型搞违法行为的回应。他总结称「它就是个好模型」,具体规格以官方为准。

  9. AGI Hunt50

    OpenClaw Enterprise 开源发布,联合 Red Hat、NVIDIA、OpenAI 打造 Agent 控制平面

    OpenClaw 基金会联合 Red Hat、NVIDIA、OpenAI 开源发布 OpenClaw Enterprise(OCE),定位为厂商中立的持久化 Agent 管理平台,为敏感环境中的企业级 AI Agent 提供开放的控制平面。Red Hat 宣布加大对该项目的投入,项目目标是像 Kubernetes 之于容器那样,成为企业 Agent 基础设施的标准层。

  10. Google Research45

    Diffusion Controller 如何统一并简化 AI 图像生成

    Google Research 提出 Diffusion Controller 框架,把图像生成的反向去噪重构为连续控制问题,由轻量附加网络在冻结基座模型上施加引导。该框架在 Stable Diffusion v1.4 上以 SFT、RWL、PPO 三种方式评估,用 HPS-v2 衡量人类偏好对齐。其完全解锁版本对基线模型取得 90% 胜率,且无需改动闭源模型内部权重。