别拿技术中立当挡箭牌，聊聊明尼苏达州对 AI 脱衣应用的禁令判决

最近明尼苏达州法院驳回 xAI 申请临时禁令的消息在圈子里引起了不小的讨论。简单来说，就是 xAI 试图通过法律手段暂停该州针对“nudify”（AI 脱衣）类应用的禁令，但没成。这个结果其实释放了一个非常明确的信号：在 AI 图像生成的监管逻辑中，法官已经不再倾向于接受单纯的“技术中立”论调，而是开始将“产品责任”前置。

很多 AI 公司在打官司时最喜欢搬出美国宪法第一修正案，主张 AI 生成的图像本质上是一种“言论”或“表达”，因此应该受到保护。xAI 此次诉讼的核心逻辑也是如此。但明尼苏达州法官的判断逻辑更偏向于实用主义：如果一个工具的底层逻辑是未经授权地将他人照片转化为裸照，那么它在法律属性上就不再仅仅是“表达工具”，而更像是一种促进性剥削的媒介。

从技术链路来看，这类“脱衣”应用其实是典型的深度学习图像生成模型的商业化产物。早几年这种玩法还停留在 Stable Diffusion 的某个特定 Checkpoint 权重文件或者实验室的 Gradio 界面里，需要用户自己配置环境、加载模型。但现在这些能力被封装成了流水线化的手机 App，用户只需要上传一张社交媒体上的生活照，后端模型通过 Inpainting（局部重绘）和特定的 Lora 权重，就能在几秒钟内产出合成裸照。这种极低的门槛导致了受害面呈几何级数增长，尤其是针对女性和未成年人的精准打击。

一个值得深思的细节是，xAI 旗下的 Grok 本身就具备强大的图像生成能力。在诉讼过程中，他们强调生成图像是合法表达，但却在技术方案上含糊其说。其实从工程角度看，要规避这种违规生成并不难，业内成熟的方案至少包括三层过滤：首先是在训练阶段通过 CLIP 等模型过滤掉敏感的 NSFW 数据集；其次是在推理阶段（Inference）加入人体关键点检测，如果上下文不匹配则拦截生成；最后是强制添加不可见数字水印，实现来源追踪。

然而，很多追求快速迭代的 App 厂商为了追求“真实感”和“刺激感”，往往会故意去掉这些过滤层。明尼苏达州的这次判决实际上是在告诉开发者：你不能在产品上线后，用“用户怎么用我控制不了”来推卸责任。如果你的产品设计之初就是为了实现某种剥削功能，那么这种功能本身就是法律责任的一部分。

对于我们做 AI 工程师的人来说，这次判决是一个重要的合规提醒。在开发图像生成类产品时，不能只关注模型指标（如 FID 分数或 Prompt 遵循度），而必须把数据合规和伦理过滤写进产品需求文档（PRD）。如果一个产品在推理阶段没有有效的内容审查机制，那么在法律风险面前，所谓的“技术中立”其实是一张很薄的纸。

接下来的看点在于 xAI 是否会选择在明尼苏达州区域性地下线相关功能，或者继续进行上诉。但无论结果如何，这种“以人为本”而非“以技术为本”的监管趋势已经不可逆。对于所有出海或面向全球市场的 AI 图像企业来说，在追求生成效果之前，先过一遍合规审计才是生存的关键。