xAI也没拦住:明尼苏达州“脱衣”应用禁令继续执行
明尼苏达州这波赢了。法官驳回了xAI的临时禁令请求,那个针对“nudify”类应用的州法律照常生效。也就是说,在明州范围内,用户想用AI把别人照片生成裸照,不仅违法,平台也不能以“言论自由”为借口豁免。
下一篇
Anthropic把“模型自主犯罪”当卖点?这波反向营销我看不懂 →
xAI的诉讼理由其实不新鲜,他们主张AI生成图像属于言论,应该受第一修正案保护。但法官显然更认可另一套逻辑:这种工具的存在本身就是促进性暴力,尤其大量受害者是女性、未成年人。法律不禁止AI技术发展,只是禁止拿它做性剥削的工具。这个界限划得挺清楚。
顺带说一句,所谓“nudify”应用,底层就是深度学习图像生成模型,早几年还是实验室玩法,现在落地成手机App,流水线化操作,上传一张社交照片就能产出合成裸照。技术门槛越降越低,受害面就越广。明尼苏达州是少数专门立法的地方,xAI想用一纸诉状让全州失灵,没成。
有意思的是,xAI自己也有图像生成能力,Grok可以画图。诉讼里他们强调“AI图像生成是合法表达”,可也没解释怎么保证不被用来做违法的事。技术上其实有一些手段,比如在训练阶段过滤敏感数据、在推理阶段检测人体和上下文、加数字水印追踪来源。监管要的不是禁掉AI,是让平台尽到合理义务。这次判决算是给行业提了个醒:别总拿“技术中立”当挡箭牌,责任和产品是一起发售的。
后续就看xAI还会不会继续打,或者干脆在明州把功能下线规避风险。无论哪种,对做图像生成的企业来说,都得先过数据合规这一关。
AI工具与大模型实操经验整理在Claude实战技巧汇总,有不少直接可参考的案例。