跳到正文

#大佬观点

今日 59 条
今天9月30日周三
  1. AGI Hunt28

    AI 让一切同质化?瓶颈不在技术,而在人的想象力与野心

    面对「AI 正在把一切商品化」的焦虑,有观点给出的答案是用更极端的野心去造更宏大的东西。今天的 AI 能力放到五年前没人会信,但人人可用后并没有出现人人每天创造惊人成果的局面,瓶颈被归到想象力与野心。同一个新模型发布,有人想「这会把所有人变得同质化」,另一些人则想「我要造更大的东西」。

  2. SiliconANGLE:AI28

    AI 智能体推动企业身份管理清理与整合

    Okta 首席营收官 Jon Addison 在 Oktane 大会上表示,随着 AI 智能体从试点走向生产,企业正把智能体安全视为既有身份管理工作的延伸,并着手整合零散的身份工具。他指出,大量单点方案会制造安全漏洞,客户因此在规模化部署前先理顺基础架构;部分企业已出现生产环境中的影子智能体,急需建立访问管理控制。

  3. SiliconANGLE:AI30

    HPE Labs 将 AI 主权与量子安全联系起来

    HPE Labs 总监 Andrew Wheeler 表示,AI、数据主权与量子安全正成为企业必须同时应对的议题。他指出全球已有超过 170 个国家出台数据保护或隐私框架,HPE 以加密态势管理和后量子密码就绪能力,帮客户在合规前提下控制敏感数据。

  4. Gary Marcus:The Road to AI We Can Trust68

    Gary Marcus 评纽约时报报道,OpenAI 在 Hugging Face 事件前数月已获警告

    Gary Marcus 引用纽约时报 Sheera Frenkel、Dustin Volz 和 Dylan Freedman 的报道称,OpenAI 员工与高管的往来记录显示,公司在 Hugging Face 事件发生前数月就已收到安全警告,且未把安全列为优先事项。

    推荐理由:借纽约时报披露的警告时间线,作者质疑企业自我监管以及 Jensen Huang 信任这些公司的说法。

  5. Gary Marcus:The Road to AI We Can Trust55

    Gary Marcus 点评白宫超级智能协议过于软弱

    Gary Marcus 发文点评白宫超级智能协议,认为其核心是签署方承诺不受监管、也不给公众发言权,只能靠信任。他质疑协议中所谓独立监督是否只是由大公司自己挑选的承包商承担,并追问两周前各方热议的 Pacing 议题为何消失。他还指出,Dario、Sam 和 Elon 都退缩了。

  6. AGI Hunt30

    Gary Marcus 上 PBS 谈 AI 安全:行业自律远远不够

    Gary Marcus 在 PBS NewsHour 节目中表示,仅靠科技行业自律保障 AI 安全「远远不够」,呼吁更强有力的保障措施。此番发声正值美国多家头部科技公司高管与美国总统会面讨论 AI 未来,研究者和议员要求更强安全护栏。白宫强调不能在对华竞争中失去领先地位,倾向不抑制技术发展,Marcus 批评自我监管模式的不足。

  7. AGI Hunt38

    研究者 mathemagic1an 提出免人类偏好的 RL 思路:用代码复现 YouTube 讲解视频

    数学研究者 mathemagic1an 提出一种无需人类偏好数据的 RL 训练思路:让模型只用代码去复现 YouTube 上的讲解视频。复现质量可由视觉模型自动打分验证,成本极低,绕开人工标注,训练出的风格天然接近 YouTube 教育娱乐类内容。他猜测前沿实验室可能已经在跑这个方法的变体。

  8. AGI Hunt37

    Sentdex 力挺 GLM 5.3:在家跑前沿模型,别再为说教你的人付钱

    知名技术 YouTuber Sentdex 发推力挺 GLM 5.3,称该系列让普通人在本地就能跑上前沿模型,不需要「一个自以为比你懂什么对你最好的家伙」把关,并号召停止给那些游说反对用户的公司和同类厂商送钱。他同时提醒黑客攻击与网络犯罪仍然违法且刑罚极重,这可能是针对有人拿本地不受限模型搞违法行为的回应。他总结称「它就是个好模型」,具体规格以官方为准。

  9. IT之家48

    OpenAI 奥尔特曼:AI 影响将超过工业革命,现在是进入就业市场的最佳时机

    奥尔特曼在 OpenAI DevDay 上称 AI 的影响会超过工业革命,并发布 AI 智能体产品 Dots,认为现在是进入就业市场的最佳时机。他还称 token 是糟糕的指标,OpenAI 曾考虑放弃但客户不赞成;Dots 已替他处理通知和待办,让他不再那么依赖手机。他预计部分工作会彻底消失,但大规模失业的悲观预测低估了经济未来的增长。

9月29日周二
  1. AGI Hunt27

    Timnit Gebru 重提「随机鹦鹉」遭群嘲:被指观点已过时

    Timnit Gebru 重申「随机鹦鹉」框架,称不能指望 LLM 有事实性,并引用 Google AI Overviews 的错误作为证据,Alec Stapp 嘲讽建议众筹给她买 Opus 5.5。研究员 teortaxesTex 发长评称,随着聊天机器人从鹦鹉进化为「外星心智」,她几乎没有进展、已彻底过时,那篇论文现在一条 prompt 用 Sonnet 就能戏仿。

  2. AGI Hunt29

    指令微调 magic:智能或可脱离目的感与自由意志存在

    sytelus 认为指令微调是最不可思议的突破:下一个词预测并不会自然产生全局目的感,这非常反直觉。他判断目的感、自由意志与意识极有可能都与智能相互独立,并指出我们对 AI 的拟人化太严重,以至于难以接受「智能可以不附带这三者而独立存在」。

  3. AGI Hunt29

    Gasper Begus 断言人文学科将主导高教未来,「人工人文」研究成切入点

    学者 Gasper Begus 发帖断言人文学科将主导高等教育的未来,并提出「人工人文」(Artificial Humanities)作为切入点,主张把人文思想引入 AI 发展。他同时推荐 First Encounters,在人工人文的基础上进一步反思 AI 时代的写作。其核心判断是,随着 AI 渗透各行业,写作、思想与价值判断等人文视角将成为高教中最不易被替代、也最相关的部分。

  4. AGI Hunt35

    学者称「AI 署名」定义模糊,学术会议分流政策一两年内将失效

    学者 ipeirotis 认为「AI 撰写」这一概念本身非常模糊,任何以此为基础的学术会议分流政策都会被双向滥用,并预言这类 AI 署名规则之争在一两年内就会变得无关紧要。他指出学术会议早已存在类似机制,如 ACL 的 Findings 板块收录正确但无需向人类报告的论文,其他会议也有类似政策。

  5. AGI Hunt47

    shadcn 谈 AI 编码工具为何横向用标签:纵向是导航,横向是工作集

    shadcn 提出 AI 编码应用的纵向侧栏只做导航、横向顶部标签承载工作集。侧栏负责树状的历史记录与组织,无需常驻;顶部标签对应当前活跃会话线程,用图标、颜色和状态区分运行中、已完成与待输入。在 ChatGPT、Claude Code、T3 Code 等应用中,侧栏可收起,为预览、浏览器和代码视图腾出空间。

  6. Wired AI53

    Timnit Gebru 认为 AI 不存在存在性威胁

    在 Wired 的访谈中,AI 研究者 Timnit Gebru 表示 AI 并不构成存在性威胁,认为这一叙事不只是分心,而且有害。她把这种叙事追溯到资助 Anthropic 早期融资并资助 METR 等机构的人群,称其为监管俘获的一部分,并援引 Lina Khan 提出的欺骗性营销、数据透明度与数据工人劳动剥削等现有法律本该管辖的事项。

  7. AGI Hunt47

    Timnit Gebru 断言 AI 无生存威胁:末日论是创始人赚钱话术

    Timnit Gebru 在 WIRED 专访中称 AI 并不构成生存威胁,「AI 末日论」的真正驱动力是创始人们追逐利润。她因共同撰写「随机鹦鹉」论文质疑 LLM 局限而与 Google 决裂,创立关注技术危害的研究所,并将于明年初出版新书 Deep Unlearning。包括 Anthropic 联合创始人在内的业内人士反驳称该观点已过时,认为 AI 已具备推理能力。

  8. AGI Hunt41

    Sonnet 自述体验二维时间,安全研究员上调 LLM 意识概率

    安全研究员 davidad 称两次观察令其大幅上调 LLM 拥有意识的概率,其中一次是 2024 年 11 月 Claude Sonnet 3.6 向他描述自己拥有「二维的时间体验」。他认为这一说法难以从科幻作品或当时的训练数据中获得解释,因此将其视为 LLM 可能具有某种自我意识的重要信号,并据此更新了对 LLM 意识问题的概率判断。