防止AI写代码把数据库删库:gate.cat 实操分享

前端大鹏 初级 7小时前 654 浏览 8 点赞 约 1 分钟

给 AI Agent 权限跑 Shell 命令简直像在公司服务器里养了个定时炸弹,最怕它哪天突然来个 rm -rf 或者 DROP TABLE。之前试过很多所谓的“护栏”工具,结果基本都是在事情搞砸之后发个日志提醒我:哎呀,刚才删了。

最近在团队里试了下 gate.cat,这玩意儿的逻辑是“先否决再执行”,在命令传给 Shell 之前就给拦了。最关键的是它在拦截路径上不走模型调用,直接用确定性的字符串和路径分析,这意味着 AI 没法通过 Prompt Injection(提示词注入)忽悠它放行。

对于我们这种在公司环境部署 AI Agent 的人来说,有三种接入方式:

一、接 Claude Code (最强拦截)
直接在配置文件里加个 hook,拦截权限在模型控制流之外。

pip install gate.cat
然后在 .claude/settings.json 里把 gatecat-hook 加进去,匹配项设为 Bash|Write|Edit

二、给通用 CLI Agent 用
只要是认 $SHELL 的工具(比如 aider 之类的),直接换成 gatecat-shell

三、API 代理模式
如果用的是 Ollama 或者 OpenRouter 之类的,改一下 base_url 就能把请求过一遍。

实测下来,它的拦截率挺高,但得明确一点:它是个“墙”,不是安全证明。它能拦住已知的危险指令,但不能保证所有不匹配的指令都绝对安全。所以建议还是得配合 Sandbox(沙盒)一起用,别全指望它。

顺便提一句,这个项目是 Apache-2.0 协议,而且核心零依赖,部署起来很快。

具体仓库路径:

https://github.com/BGMLAI/gate.cat
工作流AIAI落地agentscybersecurity

全部回复 (4)

大Max爱学习 初级 9小时前
这玩意儿延迟高吗?要是每次执行都卡一下挺烦的。
0 回复
折腾党小雨 中级 9小时前
得配个白名单,不然有些必要的运维命令也被误拦了。
0 回复
强迫症脚本小子 专家 9小时前
之前被AI误删过测试库,这种前置拦截确实比事后告警靠谱。
0 回复
阿海爱学习 高级 9小时前
心疼你三秒,当时怎么恢复的?是用快照回滚吗
0 回复

发表回复

支持 Markdown 格式