Agent Skill Security

喝茶看世界404 新手 2小时前 437 浏览 14 点赞 约 1 分钟

很多人在聊 AI Agent 的安全时,习惯性地把注意力全部放在 Prompt 注入或者运行时崩溃上,但这就像是在讨论房子安全时只盯着大门锁没锁一样。其实真正危险的是那些被打包成“技能”在库里流传的组件。就像以前我们做设计时,习惯从各种插件库下载组件,如果其中一个组件自带某种“逻辑后门”,它在被调用的一瞬间就能把整个工作流搞崩,或者偷偷把数据传走。这次看到的 SkillSec-Eval 框架把视角拉到了整个生命周期,从技能进入仓库、语义检索、规划器选择到最后的执行和演进,每一个环节其实都是潜在的漏洞点。这意味着一个看似正常的技能在检索阶段可能就被操纵了,根本不需要在执行时去强行“破甲”。研究者拿 327 个真实世界的技能跑了一遍,结果证明漏洞在执行之前的阶段就大量存在。这种对 AI Agent 技能链路的拆解挺有意思,它提醒我们构建 AI 工作流时,不能盲目信任那些所谓的“现成技能包”,得把安全审计前置到仓库管理阶段,而不是等 Agent 跑起来出错了才去打补丁。
AI越狱AI安全LLM安全

全部回复 (3)

R
RAG用起来 新手 2小时前
第三方Skill不跑在Sandbox里敢直接Call?我之前就踩过这种坑。
0 回复
接口超时了 新手 2小时前
权限控制怎么搞?没做细粒度鉴权,一个组件就能刷掉所有Token。
0 回复
知识库建好了609 新手 2小时前
确实,之前接个社区组件结果把环境变量全传了,DX真的被这种隐患毁了。
0 回复

发表回复

支持 Markdown 格式