自愿指南vs开源模型:特朗普的AI安全框架到底在防谁
特朗普6月签的那份行政令,要求AI公司在发布前沿模型前把模型交给联邦政府过目,美其名曰解决网络安全风险。听起来很认真,对吧?结果Axios一扒,发现这份所谓"框架"有两个致命缺陷:一个是自愿的,一个是根本不管开源模型。
下一篇
我的2024年效率工具箱:5个真正能救命的开源项目 →
先说第一点。自愿意味着什么?意味着企业可以不来。没有任何强制力,没有任何处罚条款,全靠企业"自觉"。在AI这种竞争白热化的领域,让公司主动把未发布的模型交出去给政府审查,相当于让一个厨师自愿把秘方交给评委——然后说"我们信任你"。这种框架的实际约束力约等于零。
再说第二点,更有意思。这份指南直接明确把开源模型排除在外,而且白纸黑字写着:模型一旦发布之后,这个框架也不能被用来限制它。你品品这句话的逻辑——测试是为了"提前发现风险",但只针对闭源模型。开源模型随便下载、随便拆、随便看,反而不用测试?这不是保护安全,这是保护闭源厂商的垄断地位。
真正让人不舒服的是这个矛盾:如果开源模型的代码全公开、社区可以审查,为什么反而被认为不需要"测试"?如果闭源模型不公开、不透明,为什么只需要一份自愿指南就可以放行?说白了,这套框架更像是给科技巨头量身定做的免责条款,而不是什么负责任的安全护栏。
当然也可以往好了想——至少政府终于开始正视AI发布前的风险问题了。只是这个"开始"的方式,有点像用创可贴去治骨折。
