AGI Hunt· mark_k·· 2 小时前AI 评分39
限制模型做逆向工程和漏洞研究,惩罚的恰恰是守规矩的白帽
AI 导读
markk 发长文批评对 AI 模型限制逆向工程、漏洞研究等白帽安全工作的做法,认为这惩罚的恰恰是守规矩的白帽。恶意攻击者可用无审查/abliterated 模型、本地跑开源权重模型或现成工具绕过限制,合法开发者、安全研究员和爱好者却被挡在强大的软件分析与漏洞发现工具之外。作者强调逆向工程本身并非恶意,一刀切限制只制造安全表象,削弱防守方却几乎挡不住攻击方。
来源:AGI Hunt · agihunt.info