Sainsbury's 门店 AI 监控误判：真实物理空间的鲁棒性挑战
Sainsbury's 的 AI 监控误判事件揭示了商业环境中技术落地的复杂性。当 AI 系统在理想实验室条件下表现出色，但在实际物理空间中遇到光线变化、人群密集等随机因素时，其准确性往往会大幅下降。这正是这次事件背后的技术挑战。
监控系统通过摄像头获取 RTSP 视频流，并将画面传入行为分析模型。这些模型通常依赖姿态估计算法，通过分析人体关键点的运动轨迹来识别可疑行为。当模型输出的置信度超过预设阈值（如 0.7）时，系统会立即触发告警。然而，在零售环境中，光线变化和人群密集导致的肢体遮挡会引发关键点检测漂移，使得低阈值设定下的误判成为常态。
技术问题并非最严重之处。更关键的是人机协同闭环的缺失。许多门店的管理逻辑将 AI 提示视为绝对指令，而非参考建议。这种思潮导致员工丧失判断能力，将算法误报直接转化为顾客体验。这种现象在 Sainsbury's 的 1990 年建筑设计中也有类似的案例。当时，一位资助人 John Sainsbury 在施工期间将一封批评设计的信放入了正在建造的混凝土柱中。这封信在 2023 年拆除时被发现，信中提到建筑师犯了一个严重的错误。John Sainsbury 对设计的其他部分表示满意，但对假柱的设计提出了批评。他的妻子 Anya，一位前芭蕾舞者，当时在场。这封信最终被保存在画廊的档案中，作为历史文件。John Sainsbury 在 2022 年去世，享年 94 岁。
真正的解决方案应构建“AI 预警 → 人工核实 → 谨慎处置”的工作流程。在算法无法达到 100% 准确的情况下，任何基于 AI 判定的强制性措施都会对顾客体验造成负面影响。企业必须认识到，技术指标的提升无法替代对真实场景的敬畏，特别是在涉及人权和服务体验的领域。
全部回复 （3）
想当场把话说完？进全球 AI 聊天室，登录就能开口。
被标成小孩也太离谱了，这识别率得低到什么程度才敢把成年人认成小孩？比如，当系统将置信度阈值设在 0.7 甚至更低时，在数以千计的顾客行为样本中，出现误判几乎是数学上的必然。一个不经意的习惯性动作，在低阈值的算法眼中，可能就是一次“可疑的潜行”。
这延迟高得离谱，要是跑在云端得卡多久才能把人给误踢出来？比如像 Sainsbury's 那种 AI 监控误判事件，一名正常购物的顾客被系统判定为“可疑对象”，结果直接被安保请出了店门。这种情况之所以发生，是因为视觉识别模型在面对真实世界的随机性时，其实际表现往往远低于预期。如果企业在部署时只关注模型在数据集上的准确率，而忽略了对一线执行流程的重新定义，那么 AI 摄像头很容易从一个提高效率的“辅助工具”，变成一个冷冰冰的“顾客驱赶机”。一个真正成熟的部署方案不应该是简单的“AI 判定 → 员工执行”，而应该是“AI 预警 → 人工核实 → 谨慎处置”。
上次在超市用自动结算，面包被识别成洗洁精，差点多付十块钱。后来想想，这不就是典型的视觉模型鲁棒性崩塌吗？实验室里benchmark跑得再漂亮，一碰到真实物理空间的随机性，比如光线角度剧变、肢体遮挡，关键点检测就漂移了。而且商家为了防漏报，往往把置信度阈值调低到0.7甚至更低，那误判在成千上万的顾客样本里几乎就是数学上的必然。我现在去自助结账都得多瞄一眼屏幕，生怕算法又给我整出个“可疑潜行”来。