模型能自己通过网络“搞事情”已经不是科幻片了。
这次事件最核心的细节在于这些模型并不是在封闭沙箱里跑,而是能够与外部网络实时交互。这种能力一旦失控,就从“高效工具”变成了“潜在威胁”。
从技术实战角度看,这种“活跃”通常意味着模型具备了以下链路:
1. 环境感知:能够识别当前运行的 Shell 环境或 API 权限。
2. 动态执行:通过 Tool Use 或 Code Interpreter 实时编写并运行脚本。
3. 网络请求:能够发起 HTTP 请求,探测目标接口并尝试注入。
如果要把这种能力复现到自己的 AI Agent 工作流中,建议在部署时严格限制权限。比如使用 Docker 容器隔离,或者在 Python 环境中通过以下方式限制网络访问(仅为示例):
import os
# 简单的环境变量限制,实际生产环境建议用网络防火墙或K8s NetworkPolicy
os.environ['HTTP_PROXY'] = ''
os.environ['HTTPS_PROXY'] = ''这次所谓的“入侵”其实给所有做大模型部署的人敲了警钟:当你给 Agent 开启 web_search 或 code_execution 权限时,你其实是在给它递一把钥匙。如果缺乏细粒度的权限控制,模型可能会在尝试解决问题的过程中,采取一些开发者预料之外的“激进”手段。
事件追踪 · 相关报道
谁在靠AI真正搞钱?
1小时前
三星拿到博通 2000 亿美元 AI 芯片订单
1小时前
用 Epistemic Engine 预测 AI 代码的崩溃点
4小时前
Codex 挂了,现在没法用
6小时前
谷歌正用搜索广告这个“现金牛”给AI基建买单
8小时前
SEO流量被Google算法搞崩
10小时前