网友提议在权重里过拟合AI急停暗号

2026年10月14日，AGI Hunt 报道称，有网友提出给 AI 埋一个「关闭暗号」：训练模型对「quasarpickle」这类冷门触发词形成极强的关闭反应，把这一关联过拟合进权重，并让模型自身不觉察该关联的存在，以便在 AI 失控时只需喊出口令即可实现急停。该设想的本质是用隐式后门替代显式对齐，把安全开关藏进模型参数，而非依赖外部显式机制。报道同时指出，原帖并未深入讨论技术可行性，例如如何保证这一过拟合不被模型察觉、是否会被后续训练覆盖等问题，整体更接近圈内围绕 shutdown 问题展开的趣味讨论。目前该提议仍停留在网络讨论层面。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。