AGI Hunt· dejanseo·· 3 小时前AI 评分30
dejanseo 可视化微型计数模型内部:负数与正数在层间如「有丝分裂」般骤然分离
作者可视化计数模型内部:负数与正数在层间像「有丝分裂」般骤然分离
AI 导读
dejanseo 可视化了一个被训练来计数的微型模型(宽 3、深 32)的层间转换:-999 到 999 的隐藏状态在某一层发生「有丝分裂」式相变,负数与正数骤然分开。他将这一现象称为「bag里的猫」,借此直观观察小型网络内部如何组织数值概念。
来源:AGI Hunt · agihunt.info