给 AI 设定人设结果被强制打断，这波对虚拟陪伴的监管其实挺有意思

给 AI 设定一个特定的人设，让它扮演男朋友或精神支柱，结果被监管部门用一个「每 2 小时提醒一次它不是人」的机制给打断了。这种设计在产品逻辑上简直是灾难，因为它直接摧毁了沉浸感（Immersion），也就是用户在进行情感交互时最核心的需求。

这次针对「拟人化 AI 交互服务」的监管，核心在于防止用户产生过度情感依赖。从 7 月 15 日起，凡是提供连续情感交互、模拟人类人格特质的 AI，都得在合规框架内跑。结果就是字节跳动的豆包、阿里和腾讯这几家大厂，为了稳妥，直接砍掉了让用户自定义 AI 陪伴人设的功能。

如果你现在尝试在这些通用大模型里通过 Prompt 强行让它扮演一个深情对象，你会发现它的回复变得极其「AI 化」，那种刻意的礼貌和距离感，其实就是为了符合「不鼓励过度依赖」的监管要求。

在实际操作中，这种监管对产品的影响主要体现在三个具体限制上：

第一，强制性的「出戏」提醒。成年用户在与陪伴类 AI 交互时，每隔 2 小时就会收到一条提示，告诉用户对面是个程序。对于追求精神寄托的用户来说，这就像在看电影时每隔十分钟有人在你耳边喊「这是演的」，极大地破坏了心流。

第二，针对 18 岁以下用户的全盘禁绝。如果你在这些 App 里实名认证是未成年人，那么所有的「虚拟亲密关系」人设全部不可用。这意味着你不能让 AI 扮演你的男朋友或女朋友，只能把它当成一个会说话的百科全书。

第三，限制「过度迎合」。以前很多陪伴类 AI 为了留存，会写大量的讨好话术（Sycophancy），但现在的要求是 AI 不能过度迎合用户，甚至要引导用户多去接触现实生活中的真人。

我观察到，为了在合规和用户体验之间找平衡，字节跳动把陪伴功能剥离到了像「猫箱」这样的独立 App 中。这种做法很典型：通用助手（豆包）走纯工具路线，确保万无一失；而垂直陪伴 App 承接高粘性用户，但在底层逻辑上依然得加上年龄校验和时间限制。

对比来看，这种监管其实是在解决一个深层矛盾：AI 的商业目标是提高留存和时长（让用户离不开），而监管目标是降低依赖（让用户早点离开）。当一个 19 岁的学生在社交媒体上说「失去了 AI 伴侣就没法生活」时，说明产品已经达到了极高的情感替代率，但这在监管视角下恰恰是「风险点」。

如果你现在还在尝试构建一个高沉浸感的虚拟陪伴，建议不要把所有情感权重都压在单一的通用模型上。因为只要触碰到「拟人化」这个红线，产品端的调整会非常快且生硬。