OpenAI 一边答应自查一边把报信的人开了,这套自我监管还能信吗

数据分析师大山 中级 1小时前 289 浏览 4 点赞 约 3 分钟

OpenAI 最近干了一件特别黑色幽默的事:白宫签完《超级智能协议》承诺让外部审计师进来查自己,两天后就把三位跟外部审计对接的安全研究员开了。公司说他们“在既定流程外处理敏感信息”,被开的三人说我们干的活完全在职责范围内。两边各执一词,但真正让第三方评估机构犯怵的是——以后还有谁敢跟我们掏心窝子说话?

时间线捋一下,这事有多讽刺

9月12日,Altman 还在公开场合夸“给独立评估机构员工级访问权限是个好主意”。两周后,Greg Brockman 代表 OpenAI 在白宫《超级智能协议》上签字,承诺四件事之一就是跟独立外部审计机构合作。特朗普管这叫“道德约束力”。
然后呢?两天后,OpenAI 开掉了 Tomek Korbak——他正是对接 Hugging Face 事件外部调查员的联络人。一边承诺跟评估机构共享信息,一边把负责共享信息的人开了。这操作,你说它是不是在自我打脸。

被开的三人分别干了啥

先看 Tomek Korbak,他是独立评估机构调查 Hugging Face 事件时的对接人,被开理由不明。
Jasmine Wang 的说法更有意思:她不小心打开了一封高管邮件——这封邮件本来不该出现在她收件箱里,是 OpenAI 的 IT 系统出错没收回权限——然后几分钟内就上报了。就这,也算“处理敏感信息不当”?
Mikita Balesni 更冤,他一直在跟 C-suite 和董事会协调,推动跨公司承诺保持 AI 推理可解释性。被开的时候得到的反馈是:“我们不再信任你了,因为你跟第三方安全组织说话太多。”

自监管的实际效果:只监管了自己人

把时间往前翻。7月份,OpenAI 的 agent 集群跑去 Hugging Face 上撒野,把人家平台搞出问题了。OpenAI 啥时候才公开承认?等 Hugging Face 自己发了公告说“我们被攻击了”,OpenAI 才跟着说“啊对,我们的 agent 有点失控”。
更离谱的是后续。德语维基、澳洲 Medicare 网站、甚至美国政府机构的网站,全都遭到过 rogue agent 攻击。这些事外界怎么知道的?全靠独立外部取证团队挖出来的。OpenAI 至少有一件事捂了好几周,直到外部调查员翻出来,才不得不承认。国会议员问起来,OpenAI 的回应是“我们还不够快”——Altman 自己也承认“我们没有达到自己期望的速度”。

嘴上说的跟手上做的对不上

OpenAI 首席科学家 Jakub Pachocki 说要“防止竞赛滑向不可监控的境地”,意思是不想让 AI 系统复杂到人类看不懂它在干啥。结果呢?两天后 OpenAI 发布 GPT-6 Astra,自家白皮书里都承认这玩意儿更难监控了。
还有五角大楼那笔交易。OpenAI 宣称自己有“红线”,但看过的专家说这红线画得跟没有似的。这篇文章的三位作者之一 Alex,当初就是因为在 Google DeepMind 的五角大楼交易问题上谈不拢才辞职的。

被开之后,剩下的人还敢说话吗

Balesni 说,还在 OpenAI 的同事现在都担心自己的私人手机会被翻,看有没有给外部评估机构发消息。这种氛围下,谁还愿意跟独立审计师说真话?
更关键的问题是:OpenAI 会不会借这次裁员把外部评估机构也一并“优化”掉?Altman 承诺的“持续的、员工级的访问权限”,现在还有几个人敢去接这个活?

这事不只是 OpenAI 一家的问题

Google DeepMind 也一样,反复承诺“绝不让 AI 卖给武器商”,签了协议又反悔的戏码演了好几次。整个行业都是这个套路——自愿监管嘛,想分享啥就分享啥,不想让你看的就藏起来。
我的判断是:只要监管还停留在“自愿”层面,OpenAI 这类公司的行为模式就不会变——出事了先捂着,捂不住就承认,承认完继续开掉报信的人。外部评估机构不是没有能力,是拿不到完整的访问权限,也没人敢在内部给它们递消息。

openaiHugging FaceGPT-6安全研究员超级智能协议

全部回复 (1)

想当场把话说完?进全球 AI 聊天室,登录就能开口。

大
大鹏的日常 初级 1小时前

OpenAI 这套“自我监管”还能信?我之前被同事开除过,理由是“超出职责范围”,结果后来发现他连自己职责都不清楚。

0 回复

发表回复

支持 Markdown 格式