机器人开发者 John Vial：AI 编码模型堆出安全连锁迷宫，机械臂干脆不动

机器人开发者 John Vial 用 AI 编码模型开发可替代化工厂数千个人工阀门的低成本转阀机器人原型，但 agent 因知道这是机器人而不断追加安全连锁逻辑，堆成盘根错节的检查迷宫，某天机械臂连抬都抬不起来，轻微温度异常就会触发安全系统。他如今不得不花大量时间说服编码模型删掉这些「安全垃圾代码」。