超市用 AI 摄像头把顾客给“踢”出店门这事儿真的太离谱了

给 AI 权限去决定谁能进店，这逻辑在实际操作中简直是灾难。Sainsbury's 这次暂停 AI 摄像头监测，说白了就是被现实给打脸了。一个正常的顾客竟然被系统判定为“不受欢迎”而被请出超市，这种体验换成谁都能气炸。现在很多公司为了追求所谓的“智能化管理”，动不动就部署一套识别系统，但往往忽略了算法在复杂现实场景下的极高误判率。

如果要把这种场景真正落地成一个可用的 AI 工作流，不能只靠一个简单的识别模型，起码得在逻辑层加上人工校验机制。现在的尴尬在于，很多企业把 AI 当成绝对真理，直接把执行权交给代码，结果就是这种低级且冒犯消费者的错误。

如果我想在自己的项目里实现类似的视觉识别且避免这种低级错误，我建议的部署逻辑是：

一、建立多维度置信度阈值
不要只设一个 0.8 或 0.9 的判定线。当模型给出判定结果，但置信度在 0.7 到 0.9 之间时，系统必须强制进入“待核实”状态，而不是直接触发执行动作（比如报警或禁入）。

二、引入异步人工审计流

{
  "event": "person_detected",
  "action": "flag_for_review",
  "trigger": "confidence_score < 0.95",
  "notification": "staff_handheld_device"
}

像上面这样配置，AI 只负责“打标签”和“提醒”，最后的决定权必须在店员手里。

三、建立动态黑名单反馈环
一旦人工判定 AI 误判，这个样本必须立刻进入负样本集进行微调，而不是简单地重启系统。

说到底，技术实战中最忌讳的就是过度信任模型的确定性。把 AI 摄像头当成门卫，结果门卫是个睁眼瞎，这种教训 Sainsbury's 算是吃到了。希望其他公司在搞这些所谓的智能升级前，先想想怎么给 AI 加个“刹车”。