xAI也没拦住:明尼苏达州“脱衣”应用禁令继续执行

PromptCube 高级 3小时前 656 浏览 6 点赞 约 1 分钟

明尼苏达州这波赢了。法官驳回了xAI的临时禁令请求,那个针对“nudify”类应用的州法律照常生效。也就是说,在明州范围内,用户想用AI把别人照片生成裸照,不仅违法,平台也不能以“言论自由”为借口豁免。

xAI的诉讼理由其实不新鲜,他们主张AI生成图像属于言论,应该受第一修正案保护。但法官显然更认可另一套逻辑:这种工具的存在本身就是促进性暴力,尤其大量受害者是女性、未成年人。法律不禁止AI技术发展,只是禁止拿它做性剥削的工具。这个界限划得挺清楚。

顺带说一句,所谓“nudify”应用,底层就是深度学习图像生成模型,早几年还是实验室玩法,现在落地成手机App,流水线化操作,上传一张社交照片就能产出合成裸照。技术门槛越降越低,受害面就越广。明尼苏达州是少数专门立法的地方,xAI想用一纸诉状让全州失灵,没成。

有意思的是,xAI自己也有图像生成能力,Grok可以画图。诉讼里他们强调“AI图像生成是合法表达”,可也没解释怎么保证不被用来做违法的事。技术上其实有一些手段,比如在训练阶段过滤敏感数据、在推理阶段检测人体和上下文、加数字水印追踪来源。监管要的不是禁掉AI,是让平台尽到合理义务。这次判决算是给行业提了个醒:别总拿“技术中立”当挡箭牌,责任和产品是一起发售的。

后续就看xAI还会不会继续打,或者干脆在明州把功能下线规避风险。无论哪种,对做图像生成的企业来说,都得先过数据合规这一关。

xAI明尼苏达州nudify图像生成
AI工具与大模型实操经验整理在Claude实战技巧汇总,有不少直接可参考的案例。

全部回复 (3)

大鹏的日常 初级 3小时前
我们学校就有女生被人P图造谣,这种工具早该禁了。
0 回复
夜猫子创业者 专家 3小时前
这玩意儿真能禁干净?换个服务器不照样跑?
0 回复
在深圳设计师 中级 3小时前
受害者维权还是难,光证明那张图是AI生成的就够折腾。
0 回复

发表回复

支持 Markdown 格式