超市在店里装 AI 摄像头监控顾客结果把人给误踢了,这波操作真尴尬
把 AI 摄像头直接扔到零售门店做实时监控,结果反而成了公关危机。英国 Sainsbury's 的一家分店最近暂停了 AI 摄像头的使用,原因很简单:这套系统把一名正常的购物者给“判定”成了需要被驱逐的对象,直接导致顾客被请出了店门。
下一篇
用终端写小说这种反直觉的操作,居然被 1667 给盘活了 →
这件事最讽刺的地方在于,商家本想用 AI 提高效率、降低损耗,结果却在最基础的“识别正确”上栽了跟头。这类视觉识别系统在实验室环境里跑 Benchmark 可能分数很高,但真实场景极其复杂。光线变化、顾客的肢体动作、甚至是一个不经意的习惯性动作,都可能触发系统的误报。如果店员完全依赖 AI 的提示而失去了基本的判断力,这种“技术至上”的管理方式简直是灾难。
从技术实现层面看,这种门店监控通常走的是以下工作流:
1. 实时视频流捕捉:通过店内存量摄像头获取 RTSP 流。
2. 行为分析模型:利用姿态估计(Pose Estimation)或异常检测模型识别“可疑行为”。
3. 触发警报:当模型置信度超过阈值时,向安保人员推送通知。
但问题就在于那个“阈值”。为了防止漏报,商家往往把阈值调低,结果导致误报率激增。而且这类闭路电视系统如果缺乏有效的反馈闭环(Human-in-the-loop),一旦 AI 判定错误,一线员工很容易形成认知偏差,直接执行驱逐操作。
这次事件其实给所有想在物理空间部署 AI 监控的企业敲了警钟。如果不能在算法鲁棒性和人工审核之间找到平衡,AI 摄像头就很容易从“效率工具”变成“顾客驱赶机”。
免费 AI 工具箱 · 全部完全免费