OpenAI 把负责预警风险的团队给解散了这事儿挺有意思
把一个专门评估模型是否会“失控”的团队给拆掉,然后把职责分摊到生物、网络安全这些具体业务组里,这很像典型的公司从“科研导向”转向“商业产品导向”的节奏。之前的 Preparedness 团队盯着的是那种极端风险,比如模型会不会突然学会黑进其他公司,或者搞出什么生物武器级别的建议。现在看来,OpenAI 觉得这种大而全的风险预警太虚,不如直接让具体负责技术线的团队去盯着。
下一篇
现在的年轻人对 AI 公司 CEO 的厌恶程度简直高得离谱 →
其实这种组织架构调整背后逻辑很清晰,公司在为大规模 IPO 做准备。在资本市场看来,一个整天讨论“AI 可能会毁灭世界”或者“模型太危险不能发布”的独立部门,有时反而是产品迭代的阻碍。把风险评估碎片化、职能化,能让决策链路更短,模型更新的速度也能更快。
对于我们这些关注实战部署的开发者来说,这种变动意味着 OpenAI 未来的产品策略会更激进。之前的“谨慎”可能更多是为了在学术界和监管层面前立人设,而接下来的重点大概率是快速堆功能、抢市场占有率。
不过这种做法也有隐患。当风险评估被分摊到各个具体小组时,很容易出现“灯下黑”的情况。每个组都觉得自己的模块没问题,但模型在整体行为上产生的涌现风险,可能就没人能从全局视角去捕捉到了。这就像是把安全员撤掉,给每个工人发个安全手册,虽然效率高了,但真出事的时候可能没人敢拍板喊停。
免费 AI 工具箱 · 全部完全免费
