跳到正文
原文
AGI Hunt· Wattenberger·· 3 小时前AI 评分47

Wattenberger:代码库需区分「明确指定/暗示/智能体假设」

Wattenberger:代码库需要区分「明确指定/暗示/agent假设」

AI 导读

Wattenberger 指出,与 AI 协作写代码的下一个难题,是代码进库后无法分辨哪些行为被明确指定、只是暗示,还是 AI 智能体自己的假设,人们会不小心回滚本不该动的功能。被引用的 thdxr 认为三者本身都无害,但「放弃方案 1-4 而选定 5」这类决策历史测试和文档都捕捉不到,后续的智能体可能觉得方案 3 更简单而改掉有意的取舍,额外的文档也只会漂移。

来源:AGI Hunt · agihunt.info