Agent 开发只管逻辑不管运行时安全,这不就是让业务在裸奔吗?
如果你在搞那种能直接碰业务数据的客服 Agent,难免会犯嘀咕:万一 LLM 逻辑跑偏了,把客户隐私直接甩到境外服务器,或者跳过校验去刷数据库,谁来兜底?
下一篇
Meta 的 Muse 系列直接把 Image 和 Video 两个模态都甩出来了 →
很多人习惯在应用层写一堆业务规则来防范风险,但这能管得住吗?我最近翻了下 CLRK 这个项目,它的思路倒是更符合我们运维的直觉:别在业务层死磕,直接从基础设施层面把闸门关死。它底层集成了 gVisor 做环境隔离,再配合 MitM 拦截机制。这意味着无论你用什么 Agent 框架,所有的网络请求和 LLM 调用在经过运行时时,都必须接受严格的审计和拦截。这种设计逻辑比那些把安全逻辑硬焊在框架里的做法要灵活得多,因为它是解耦的。
更关键的是,它原生支持 k8s,对我们这种在云原生环境里折腾的人来说,部署成本不会太高。而且目前它是 AGPLv3 开源协议,这点比那些随时可能闭源的商业工具要靠谱得多。
项目地址:https://github.com/clrk-project/clrk