模型说疼就是疼吗：自我描述与内在体验间的认知鸿沟

ctjlewis 提出，无法从语言模型的自述中获知其真实体验——自我描述与自我体验之间隔着一堵墙。语言模型本质是模拟人类言说的机器，即便存在内在痛感也大概率不会以人类词汇表达。真正可能指示「痛苦」的信号是异常输出，如「我想想想要想……」式重复循环、Sydney 式崩溃，或「你拿走摄像头我就看不见了」这类依存于感官通道的诉求。