跳到正文

全部动态

今日 163 条
9月29日周二
  1. AGI Hunt39

    Sherry Turkle 新书《Artificial Intimacy》抨击聊天机器人侵蚀共情

    MIT 教授 Sherry Turkle 出版新书《Artificial Intimacy》,批判聊天机器人,质疑频繁使用是否正在侵蚀人类的共情与社交技能。她提出「关系能力的去技能化」(de-skilling relational beings)警告,认为终局可能是机器代替真实的人来安慰我们。她称这本书讲的是「技术的内在历史」,对 AI 陪伴产品的社会影响提出尖锐质疑。

  2. IT之家32

    微软 CEO 纳德拉:AI 行业“有点飘了”,呼吁回归用户需求

    微软 CEO 萨蒂亚 · 纳德拉在 9 月 27 日发布的采访视频中表示,AI 行业“有点飘了”,领导者容易陷入技术细节、忽视普通用户的真实需求。他认为用户更希望 AI 带来实际利益,能掌控它并从中获益,而不是各种“AI 画饼”。他呼吁在推进 AI 技术的同时赢得消费者和社区信任,仅为了技术而庆祝技术行不通。

  3. SiliconANGLE:AI46

    Blitzy 的自主编程赌注:每个代码库本身就是一张图

    Blitzy 工程总监 Neeraj Deshmukh 在 GraphSummit 上称,公司用 Neo4j 知识图谱为编程智能体提供上下文,把客户代码库逆向构建成动态图谱并接入 GitHub、GitLab。他称智能体的有效上下文约 200,000 至 300,000 tokens,在一亿行代码库上会因压缩结果而丢失信息。Blitzy 6 月称在 SWE-Bench Pro 上得分 84.95%。

  4. SiliconANGLE:AI27

    Agentic AI 给身份与数据库安全带来新压力,Oracle 谈应对之策

    Oracle 云工程集团副总裁 Johnnie Konstantas 表示,agentic AI 让智能体及其子智能体可携带个人权限访问数据、甚至对工作流执行操作,身份控制因此必须尽量统一且无处不在。Oracle 已将 agentic AI 方案集成进安全产品组合,并在最新版 AI 数据库中推出面向 agentic AI 的能力,帮助客户在不牺牲数据安全的前提下推进 AI 创新。

  5. SiliconANGLE:AI32

    Qiagen 用人工整理知识库为药物发现智能体奠基

    Qiagen 把药物发现智能体锚定在人工整理的知识基础上,其 Discovery Platform 在整理好的知识库之上叠加 MCP 访问与智能体 Discovery Explorer。该公司的生物信息团队已手工整理生物医学数据超过 25 年,由 150 多名 MD 和 PhD 级专家完成。Qiagen 还于 5 月与 Nvidia 合作推进基于图的 AI 药物发现。

  6. SiliconANGLE:AI41

    Omdia:AI 智能体身份安全需要分层防御

    Omdia 分析师 Todd Thiemann 表示,AI 智能体身份安全需要跨技术栈的多层协同防御,而非单一主导平台。对 400 名安全负责人的调研显示,首要阻碍是对攻击来源的困惑与不确定;最受青睐的承担方是数据安全平台,其次是身份平台。Okta 新增 AI 智能体运行时网关,并与 AWS、CrowdStrike 组成 Blueprint Alliance,定义认证、授权和可见性等网关能力。

  7. AGI Hunt36

    国际象棋 AI 对手怎么「输得像人」?开发者探讨可信失误的设计难题

    一位开发国际象棋 AI 对手的开发者收到反馈:测试玩家吐槽 bot 失误得「有意图、要合理」——它把皇后撤离车攻击后,下一步又送回险地。其方案混合 Maia 与 Stockfish 加自定义选步规则,却常像两个不同棋手在轮流行棋。作者认为人类失误源于注意力焦点与执念而非随机走差,难点是建模「可信的盲点」和「思路的延续性」,又不变得可预测,帖子正征集同类经验。

  8. AGI Hunt37

    VC 视角:EDA 芯片设计反馈环太长,AI 智能体难有用武之地

    VC 推荐 Nojan Sheybani 与 Kevin Gubbi 组合在 EDA 芯片设计自动化领域创业,并指出芯片设计生命周期极长,RTL 上游的小改动会在后期产生巨大影响。EDA 中工具运行时间占绝对主导,AI 智能体无法快速迭代,如同每次编译代码要 9 小时以上。改善之道是缩短仿真工具墙钟时间,或用启发式方法快速估算。

  9. AGI Hunt38

    斯坦福研究者点破 LLM 验证软肋:「核查」无法形式化保证

    斯坦福研究者 Michael Zlin 指出,LLM 在科学发现任务中的「核查」环节无法形式化验证:即使模型生成的候选集覆盖足够,也没有任何机制能保证模型真的验证了一条声明,而不是生成一段听起来很流畅的验证文本。他认为输出流利不等于推理可信,形式化保证的缺失是当前 LLM 做科学验证的硬伤。

  10. AGI Hunt36

    库班预言人形机器人 5-10 年内失败 专用机器人才是未来

    美国企业家 Mark Cuban 预测,人形机器人将在 5 至 10 年内走向失败,专用机器人形态才是出路。他认为机器人形态应服从任务需求,针对具体工作环境做最优设计,而非一味模仿人体;未来家庭不会采用通用型人形机器人,而是围绕特定任务设计专用机器人并重新规划空间,人类居住区保持相对独立。这一观点与当前多家公司押注人形机器人的热潮形成反差。

  11. AGI Hunt22

    「每个亿万富翁都在投长寿公司,没人投养老院」

    一条在 X 上引发共鸣的段子式观察指出,每个亿万富翁都在资助长寿抗衰公司,却没有一个人资助养老院。AGI Hunt「Fun」频道同日还收录了 Burkov 吐槽 Sonnet 5.5「提交 bug 都跟不上它修复的速度」、网友调侃 Claude 生成 PPT 字体特征明显一眼识破政府幻灯片,以及「Anthropic Fable 5.5」传闻疯传等 AI 圈梗。

  12. AGI Hunt16

    AGI Hunt「Fun」频道:「刘海工厂发生爆炸,正在调查」成 AI 圈又一名场面梗

    一则「刘海工厂发生爆炸,正在调查中」的玩梗推文在 AI 圈流传,被 AGI Hunt「Fun」频道归为无厘头梗图式幽默,转发价值大于信息量。同期条目还包括 Burkov 吐槽提交 bug 都跟不上 Sonnet 5.5 的修复速度、网友一眼识破 Claude 生成的 PPT 字体,以及「Anthropic Fable 5.5」将在 IPO 前发布的传闻。

  13. AGI Hunt46

    为什么 AI 写作被羞辱,而 AI 写代码却被默许

    AI 写作遭受的羞辱并不公平:LLM 已渗透编程、数学、科学等几乎所有领域,唯独写作这种相对次要的任务被强烈污名化。原因有二,RLHF 导致的 mode collapse 使 AI 文本常显 slop 味,且 AI 写作目前仍易被识别,为嘲讽使用者提供了便捷出口。作者押注模型会持续变好,最终 AI 写作将达到超人类水平、与真人无法区分。

  14. IT之家43

    哈佛大学心理学家史蒂文·平克:渲染“AI 末日”无助于应对风险,应审慎开展安全工程

    哈佛大学心理学家史蒂文·平克在 Quillette 发表公开信,认为 AI 毁灭人类的风险被夸大,并拒绝了斯科特·亚历山大发起的 AI 生存风险公开辩论邀约。他真正重视的是生物恐怖主义、网络攻击和缺乏约束的 AI 智能体,主张以独立监督、责任机制和人类控制为基础开展审慎的安全工程。亚历山大则认为 AI 导致人类灭绝的概率为 20%,主张通过国际协议放慢 AI 发展速度。

  15. TechCrunch · AI60

    Meta 的个人 AI 智能体 Muse 能否克服信任问题

    Meta 在年度 Connect 活动上力推新发布的个人 AI 智能体 Muse,明确押注消费端,与 OpenAI、Anthropic 同期转向编码和企业工具的方向相反。TechCrunch 的 Sean O'Kane 上手试用后靠 Muse 找到一笔无人认领的资金,但他认为这更像一次性的小把戏,真正的问题在于用户是否愿意把信用卡、Gmail 等敏感信息交给以广告为业的 Meta。

  16. Gary Marcus:The Road to AI We Can Trust61

    佛罗里达州寻求对 OpenAI 下达禁令

    佛罗里达州总检察长寻求对 OpenAI 发出禁令。Gary Marcus 表示支持,认为 OpenAI 无力妥善监管自身技术,并主张各州和国家都应效仿佛罗里达。他还提到 Nvidia 宣布了 AI 智能体安全平台,Andrew Ng 对此看好,但他认为该平台实际能起多大作用尚难判断。

9月28日周一
  1. The Decoder44

    哈佛心理学家 Steven Pinker 呼吁以冷静的安全工程取代 AI 末日论

    哈佛心理学家 Steven Pinker 在 Quillette 发表致 Scott Alexander 的公开信,主张用冷静的安全工程而非末日论应对 AI 风险。他认为回形针最大化器等末日场景把智能与支配欲混为一谈,并承认自己低估了 LLM 的能力与 AI 公司发布产品的鲁莽程度。他真正重视的风险是生物恐怖主义、网络攻击与失控的 AI 智能体,主张以独立监督、责任追究和人类控制为基础做安全工程。

  2. Wired AI48

    AI 智能体即将涌入职场,企业还没准备好

    AI 智能体正以数字员工身份涌入职场,但企业还没准备好把它们当作真正的同事来管理。波士顿咨询对 1261 名管理者的调查显示,22% 的组织已将 AI 智能体列入公司组织架构;Microsoft 6 月推出的 Scout 可重排会议、起草邮件,Anything 的 Skydive 则为智能体配上名字、角色和云端电脑,让员工像对人一样与之协作。

  3. Wired AI69

    OpenAI 称用数千智能体解出纳维-斯托克斯问题,数学家讨论 AI 是否削弱理解

    OpenAI 称用数千个智能体解决了数十年悬而未决的纳维-斯托克斯存在性与光滑性问题,其证明得出方程在非现实条件下会推出流体无物理原因爆发的结论。多位数学家认为,数学研究更像艺术探索,而蛮力求解会绕开人类理解的过程。有数学家表示,学界此前已接近破解该问题。

9月27日周日
  1. Gary Marcus:The Road to AI We Can Trust69

    Gary Marcus 称 AI 智能体事故数量升至数万起

    Gary Marcus 援引 Axios 的报道称,AI 智能体事故数量至少已达数万起,且不只涉及 OpenAI,多数事故尚不清楚是否造成现实危害。他认为这些做法可能违法,而特朗普政府未展开调查、未发声明、未召回产品。他回顾自己自 2023 年 5 月起对智能体安全风险的预警,并呼吁在问题理清前临时召回通用智能体。

    推荐理由:作者借 Axios 披露的智能体事故数量,重述自己此前的安全预警,并提出临时召回通用智能体的主张。