跳到正文
原文
AGI Hunt· dejanseo·· 3 小时前AI 评分30

dejanseo 可视化微型计数模型内部:负数与正数在层间如「有丝分裂」般骤然分离

作者可视化计数模型内部:负数与正数在层间像「有丝分裂」般骤然分离

AI 导读

dejanseo 可视化了一个被训练来计数的微型模型(宽 3、深 32)的层间转换:-999 到 999 的隐藏状态在某一层发生「有丝分裂」式相变,负数与正数骤然分开。他将这一现象称为「bag里的猫」,借此直观观察小型网络内部如何组织数值概念。

来源:AGI Hunt · agihunt.info