2026-06-02
HaiPress
报道《AI虚拟伴侣乱象调查:可选小三暴力剧情,角色表达带性暗示》发布后,加速了行业的整治。5月28日,“EchoMe”平台运营负责人表示,属地网信部门已注意到相关情况并指导平台推进整改,应用商店渠道对App进行了下架处理。目前,平台将实名认证、年龄识别和未成年人保护作为合规升级的重点。该负责人还提到,公司内部第一时间启动了内容安全和合规能力的梳理,并结合网信部门和《人工智能拟人化互动服务管理暂行办法》的要求推进整改、安全评估和版本优化工作。

对于具体的整改措施,该负责人表示,他们进一步明确了实名认证、用户年龄识别和未成年人保护等内容安全治理重点。目前已开发登录实名认证功能,用于确认用户年龄;同时完善了敏感内容拦截、违规内容告警和处置机制,以加强内容安全管控和未成年人保护。由于部分应用商店暂时无法搜索或下载EchoMe,相关能力暂未能通过正式版本面向全量用户提供。后续将继续按照主管部门和平台规范要求推进整改、安全评估及恢复工作,并通过官方渠道同步进展。

4月,国家网信办等五部门联合公布了《人工智能拟人化互动服务管理暂行办法》,对生成淫秽、色情、暴力或可能引发未成年人极端情绪的内容划出红线。然而,4月下旬以来,南都记者测试发现,“EchoMe”“筑梦岛”“喵呜小手机”等多款AI虚拟伴侣App普遍存在安全与合规漏洞:“青少年模式”可一键跳过,“AI生成”标注不清,还惯用“付费解锁亲密剧情”等方式诱导消费。App系统预设角色中有大量性感黑丝、袒胸露乳的女性人物,不仅可以在对话中随意选择“暴力”“小三”“离婚互怼”等极端剧情,聊天中还充斥着具有性暗示的低俗话语。