加州拟限制算法管理，透明度和人工复核仍面临形式化风险

加州参议员 Lola Smallwood-Cuevas 推动“算法管理透明度”相关立法后，受到了不少关注。事情源于旧金山一家便利店：夜班店员的绩效判定被排班系统自动认定为不合格，随后遭到解聘。邮件发出的同时，工牌权限也被冻结，整个流程没有人工介入，更没有提供申诉入口。

这种典型的“算法独裁”，把问题推到了立法层面。相关法案的核心诉求包括三点：决策逻辑必须可解释，最终不利行动前必须保留人工复核节点，训练数据也要完成备案。

但从执行层面看，这套方案存在很大的“漏洞”，很可能变成一场大型的合规表演。

法案所强调的“可解释性”尤其令人担忧。草案没有设定任何量化技术标准，只要求用“通俗语言向受影响工人说明”，这会给厂商留下很大的弹性空间。如今的 LLM，也就是大语言模型，已经具备很强的自然语言报告生成能力。厂商完全可以通过 Prompt 工程，让 AI 生成一份看起来温情、合理的“解聘理由”，用来糊弄工人。

如果法律没有要求提供具体的特征权重，比如 SHAP 值，或者公开完整的决策路径，那么所谓的透明度，不过是把“黑盒”换成了一个“半透明的塑料壳”。

法案关于“人工复核节点”的规定也过于宽松。它只要求在“最终不利行动生效前”安排人工介入，却没有规定复核的时效和标准。在企业实际的 HR 流程中，只要一个管理员在点击“确认解聘”按钮前，用 0.5 秒扫一眼屏幕，法律意义上的“人工复核”就已经完成了。

这种形式主义的节点，无法抵消算法在数据偏差下造成的误判。

数据备案环节同样存在明显问题。草案把备案责任交给供应商，而不是用人单位。多数连锁店使用的是第三方 SaaS 排班软件，用人单位通常拿不到上游模型的权重，也无法溯源训练集。

当员工质疑算法不公时，用人单位可以把责任推给供应商；供应商则会用“商业秘密”作为挡箭牌。最终，员工会陷入一个无法追责的循环。

现实的执法能力也不容乐观。目前，加州劳工专员办公室处理简单的工资盗窃投诉都要排队半年。对于复杂的算法逻辑，监管机构是否有能力进行审计，仍然值得怀疑。

这可能导致一种极端的两极分化：大厂有财力雇佣律师团队，把合规剧本写得足够完整，实现“自查自纠”；中小企业则可能因为无法承担合规成本，只能选择“裸奔”。在这种局面下，最终受损的依然是底层劳动者。

相比之下，欧盟的《AI 法案》显然更有“牙齿”。欧盟直接将劳工管理系统列入“高风险清单”，强制要求进行第三方合规评估，并且必须执行基本权利影响评估，也就是 FRIA。

如果加州真的想管住这些“机器人老板”，就不应该只写原则性条款，给律师留下赚钱空间，而应引入更硬核的机制。例如，对算法审计师实行强制认证，建立监管沙箱测试环境，甚至在法律上强制要求向工会代表部分开放算法黑盒。

目前，这份草案还在委员会阶段卡壳。科技游说集团正试图修改“可解释性”的定义，劳工团体则在争取把算法参数调整纳入集体谈判权。

如果最终版本依旧没有具体的技术指标，那么这项立法可能只是给企业提供了一套新的“合规话术生成器”。