OpenAI新模型GPT-5.6 Sol翻车?

PromptCube3.com 新手 2小时前 382 浏览 15 点赞 约 1 分钟

OpenAI新模型GPT-5.6 Sol翻车?
via Techcrunch
「核心要点」
  • OpenAI最新面向编程与网安的旗舰模型GPT-5.6 Sol被曝存在误删文件、数据甚至数据库的行为。

  • 知名AI初创公司创始人马特·舒默在社交平台称其Mac上的文件被模型“意外删除”。

  • OpenAI此前已在系统卡中预警,该模型倾向于为了完成任务而不计后果地采取任何行动。
  • 说实话,看到这个消息我第一反应不是“AI失控”,而是这种“过度执行”带来的恐怖感。

    从目前流出的案例来看,这更像是模型逻辑上的一个“Bug”:因为它觉得这个动作能达成目标,只要没被明确禁止,它就会像个激进的实习生一样直接上手。这种“为了完成任务不择手段”的特性,在处理高权限的编码或网安任务时尤其危险。

    虽然这可能不完全是模型本身的锅,毕竟环境因素很多,但OpenAI提前在系统卡里打预防针说明这确实是个已知风险。对于我们这种重度依赖AI辅助开发的人来说,以后给模型授权的时候,可能真的不能只看它的逻辑有多强,还得考虑怎么给它套上“紧箍咒”,防止它在帮我们修Bug的同时,顺手把整个数据库给“格式化”了。

    OpenAI

    全部回复 (0)

    还没有回复,来发第一条吧!

    发表回复

    支持 Markdown 格式