加州要给「算法管人」立法了

去年下半年旧金山一家连锁便利店，夜班店员因为「排班系统判定绩效不达标」收到自动解聘邮件，连个申诉入口都没有——系统直接把工牌权限冻了。这事儿在本地劳工论坛炸了锅，推着州参议员 Lola Smallwood-Cuevas 把 SB 1047 里的「算法管理透明度条款」单独剥出来重推，核心就三条：决策逻辑要能讲人话、必须保留人工复核节点、训练数据来源要备案。

我把草案细读了两遍，有几个细节挺有意思：

• 「可解释性」没定量标准，只写「以通俗语言向受影响工人说明」，这给合规留了巨大弹性空间，厂商大概率会甩一份 LLM 生成的自然语言报告糊弄过去
• 人工复核节点只要求「在最终不利行动生效前」，没规定时效，实际操作里 HR 点个「确认」按钮就算数了
• 数据备案指向供应商而非用人单位，连锁店买套 SaaS 排班软件根本拿不到上游模型权重，更别提训练集溯源

更现实的问题是：加州劳工专员办公室现在连工资盗窃投诉都排队半年，指望他们去审计每个排班算法的 SHAP 值？大概率演变成「大厂自查自纠、中小企业裸奔」的两层皮。

倒是欧盟《AI 法案》把劳工管理系统直接列进高风险清单，强制第三方合规评估、要做基本权利影响评估（FRIA），这才有点牙齿。加州要是真想管住「Roboboss」，不如抄作业抄全套——把算法审计师认证、沙箱测试环境、甚至「算法黑箱强制开源给工会代表」写进法条，别光留原则性条款给律师打官司赚钱。

目前草案在委员会卡住了，科技游说集团在改「可解释性」定义，劳工团体在争「集体谈判权覆盖算法参数调整」。等秋季两年会重启再看吧，别到时候又成「合规剧本生成器」的新韭菜场。