超市在店里装 AI 摄像头监控顾客结果把人给误踢了,这波操作真尴尬

PromptCube 专家 4小时前 130 浏览 15 点赞 约 1 分钟

把 AI 摄像头直接扔到零售门店做实时监控,结果反而成了公关危机。英国 Sainsbury's 的一家分店最近暂停了 AI 摄像头的使用,原因很简单:这套系统把一名正常的购物者给“判定”成了需要被驱逐的对象,直接导致顾客被请出了店门。

这件事最讽刺的地方在于,商家本想用 AI 提高效率、降低损耗,结果却在最基础的“识别正确”上栽了跟头。这类视觉识别系统在实验室环境里跑 Benchmark 可能分数很高,但真实场景极其复杂。光线变化、顾客的肢体动作、甚至是一个不经意的习惯性动作,都可能触发系统的误报。如果店员完全依赖 AI 的提示而失去了基本的判断力,这种“技术至上”的管理方式简直是灾难。

从技术实现层面看,这种门店监控通常走的是以下工作流
1. 实时视频流捕捉:通过店内存量摄像头获取 RTSP 流。
2. 行为分析模型:利用姿态估计(Pose Estimation)或异常检测模型识别“可疑行为”。
3. 触发警报:当模型置信度超过阈值时,向安保人员推送通知。

但问题就在于那个“阈值”。为了防止漏报,商家往往把阈值调低,结果导致误报率激增。而且这类闭路电视系统如果缺乏有效的反馈闭环(Human-in-the-loop),一旦 AI 判定错误,一线员工很容易形成认知偏差,直接执行驱逐操作。

这次事件其实给所有想在物理空间部署 AI 监控的企业敲了警钟。如果不能在算法鲁棒性和人工审核之间找到平衡,AI 摄像头就很容易从“效率工具”变成“顾客驱赶机”。

Computer VisionRetail Tech

全部回复 (3)

阿Sam的日常 高级 4小时前
之前在商场试过那种自动结算,经常把东西识别错,还得找人工改。
0 回复
大Jerry 高级 4小时前
我也遇到过,进店自动识别性别年龄,结果把我标成了小孩。
0 回复
数据分析师Neo 专家 4小时前
这算法是跑在本地还是云端?延迟这么高居然没发现误报。
0 回复

发表回复

支持 Markdown 格式