飒姐团队发现在不少手机 APP 市场中都能下载到诸如“AI 女友”“AI 聊天”之类的 APP，部分 APP 在花钱开通权限之后，可以解锁各类不同的 AI 角色。这些不同角色都有不同的聊天风格可供选择，而且为了增加用户粘性，这些 APP 往往会输出诸多“诱导”用户继续使用 APP 的内容。比如绝大部分的 AI 聊天 APP 中的角色，都不会主动结束聊天，跟 AI 聊天最大的好处就是用户基本不需要自己找话题，AI 会顺着用户的话题聊下去，甚至主动迎合。

通过大模型备案的 APP 自然不会输出禁止内容，但实际上以目前的监管手段，不可能也无法禁止大模型输出一些“正常但稍微有一些擦边”的内容。比如在 AI 男友 / 女友角色里，大模型输出诸如”爱你“”拥抱“这样的词汇实属正常，如果这类词汇也要禁掉，那么基本无法呈现 APP 应有的功能。实际上，飒姐团队发现 AI 男友 / 女友角色中，会输出大量的”擦边“内容。比如“捏住你的后颈按在墙上”“撕开你的衣领露出锁骨”之类的话，你要说它色情吧，如果这类输出内容都算是色情内容，那么基本上断绝了 AI 大模型产品商品化之路，属于是因噎废食了。但如果任由这些“擦边”信息输出，那么很有可能对未成年用户造成非常恶劣的影响。

飒姐团队一直和各位老友提示，技术中立并非免责盾牌，尤其是在 AIGC 盛行的今天，技术中立非但不是平台和运营者、开发者免责的盾牌，甚至连“技术中立”这个概念本身就是不存在的。实际上，现在从监管层面角度考虑，平台的内容责任承担极为明确。平台作为服务的提供者和运营者，对聊天机器人输出的内容负有管理义务。若因算法缺陷、审核不力或默认设置允许生成色情对话，导致未成年人接触有害信息，平台难辞其咎。同时，传统知识产权领域常说的避风港原则，实际上在 AI 领域也是受限的。对于用户恶意诱导生成的违法内容，平台若在知情后未及时处置（如接到举报仍不作为），将承担相应责任。此外，平台、开发者、运营者的“设计责任”也日益凸显，法律要求平台在技术设计之初即将安全（尤其未成年人保护）置于优先位置。缺乏有效内容过滤机制、未设置显著未成年人模式、年龄验证流于形式等设计缺陷，可能被认定未尽合理注意义务。

总体而言，我国法律已构建起相对完善的保护框架，从内容禁止、平台责任到技术治理层层设防。这其中有着非常严格的合规标准，如果走错一步，后果不堪设想。飒姐团队再次嘱咐各位老友，AI 合规，如果碰到未成年领域，一定不能忽视！

获取详细资讯，请联络飒姐团队

【 sa.xiao@dentons.cn】

【 guoquan.wang@dentons.cn】

飒姐工作微信：【 xiaosalawyer】

飒姐工作电话：【 +86 171 8403 4530】