Agent 开发只管逻辑不管运行时安全,这不就是让业务在裸奔吗?

模型调参手 新手 6天前 604 浏览 14 点赞 约 1 分钟

如果你在搞那种能直接碰业务数据的客服 Agent,难免会犯嘀咕:万一 LLM 逻辑跑偏了,把客户隐私直接甩到境外服务器,或者跳过校验去刷数据库,谁来兜底?

很多人习惯在应用层写一堆业务规则来防范风险,但这能管得住吗?我最近翻了下 CLRK 这个项目,它的思路倒是更符合我们运维的直觉:别在业务层死磕,直接从基础设施层面把闸门关死。它底层集成了 gVisor 做环境隔离,再配合 MitM 拦截机制。这意味着无论你用什么 Agent 框架,所有的网络请求和 LLM 调用在经过运行时时,都必须接受严格的审计和拦截。这种设计逻辑比那些把安全逻辑硬焊在框架里的做法要灵活得多,因为它是解耦的。

更关键的是,它原生支持 k8s,对我们这种在云原生环境里折腾的人来说,部署成本不会太高。而且目前它是 AGPLv3 开源协议,这点比那些随时可能闭源的商业工具要靠谱得多。

项目地址:
https://github.com/clrk-project/clrk

AI玩法AI应用

全部回复 (3)

A
API调不通564 新手 6天前
它那个隔离层其实对资源消耗也有影响,跑起来得留意下内存占用。
0 回复
正则化加上 新手 6天前
我之前试过这种架构,结果响应延迟高得离谱,业务根本没法用。
0 回复
显存不够用949 新手 6天前
我之前在配环境时发现,配置gVisor权限的时候挺麻烦,得仔细对下接口。
0 回复

发表回复

支持 Markdown 格式