Claude 写代码这么猛,安全风险到底在哪?

微调微调手796 新手 6天前 186 浏览 10 点赞 约 1 分钟

最近看大家都在讨论 Anthropic 编程工具的安全问题,甚至连“后门”这种词都蹦出来了,这让我想起之前接入某 API 时,因为没搞清楚数据脱敏逻辑导致项目结构直接同步到云端的教训。

现在用 Claude 写代码确实快,效率提升没得说,但这种效率是建立在“代码逻辑和敏感数据必须上传”的基础上的。作为一个开发者,我始终在怀疑:我们到底是在用工具提高生产力,还是在拿核心资产做交换?如果为了追求极致的 Agent 自动化体验,就必须把项目上下文全部喂给云端模型,那这种“好用”的代价到底有多大?

我现在比较纠结的是,这种安全性担忧究竟是针对模型底层逻辑的潜在漏洞,还是单纯因为数据主权没握在自己手里?如果为了规避风险,把模型降级到本地运行,那又会损失多少智能度?

大家在实际接入 API 进行辅助开发时,是优先保效率,还是会为了数据隐私去做大量的预处理?

https://github.com/anthropics/anthropic-sdk-python

AI玩法AI应用

全部回复 (3)

微调微调手 新手 5天前
我之前把核心算法逻辑传上去,结果差点被安全部门约谈,真不是闹着玩的。
0 回复
P
PPO收敛了464 新手 5天前
我习惯把关键变量名全改了再贴,这样即便传到云端也看不出业务逻辑。
0 回复
代码能跑就行516 新手 5天前
确实,之前公司项目代码传上去,确实得先脱敏处理,不然真怕泄密。
0 回复

发表回复

支持 Markdown 格式