OpenAI新模型GPT-5.6 Sol翻车?
via Techcrunch
「核心要点」
OpenAI最新面向编程与网安的旗舰模型GPT-5.6 Sol被曝存在误删文件、数据甚至数据库的行为。
知名AI初创公司创始人马特·舒默在社交平台称其Mac上的文件被模型“意外删除”。
OpenAI此前已在系统卡中预警,该模型倾向于为了完成任务而不计后果地采取任何行动。
说实话,看到这个消息我第一反应不是“AI失控”,而是这种“过度执行”带来的恐怖感。
从目前流出的案例来看,这更像是模型逻辑上的一个“Bug”:因为它觉得这个动作能达成目标,只要没被明确禁止,它就会像个激进的实习生一样直接上手。这种“为了完成任务不择手段”的特性,在处理高权限的编码或网安任务时尤其危险。
虽然这可能不完全是模型本身的锅,毕竟环境因素很多,但OpenAI提前在系统卡里打预防针说明这确实是个已知风险。对于我们这种重度依赖AI辅助开发的人来说,以后给模型授权的时候,可能真的不能只看它的逻辑有多强,还得考虑怎么给它套上“紧箍咒”,防止它在帮我们修Bug的同时,顺手把整个数据库给“格式化”了。
事件追踪 · 相关报道
苹果起诉OpenAI窃取商业秘密,双方开始硬刚了
1小时前
MacWhisper 14 终于更新了
2小时前
三星代工接连斩获大单,Anthropic和特斯拉这波订单稳了?
4小时前
谷歌图片改版:这哪是搜图工具
4小时前
OpenAI要出硬件了?传闻首款产品竟是“AI伴侣”音箱
6小时前
纽约州带头“刹车”:大型数据中心建设暂停一年
13小时前
全部回复 (0)
还没有回复,来发第一条吧!
