7月20日,“网信中国”发文指出,中央网信办开展“清朗·未成年人网络保护”专项行动,将从三个环节重点整治“部分AI软件创设不良人设角色,输出暧昧、低俗内容”等多个突出问题。南都N视频此前推出《AI虚拟伴侣乱象调查》,揭露部分平台存在未成年人模式虚设、身份核验失效、系统预设角色库中有大量袒胸露乳的低俗擦边形象等乱象。

南都此前报道。

据了解,近日,中央网信办印发通知,在全国范围内部署启动为期4个月的“清朗·未成年人网络保护”专项行动。第一阶段重点整治发布、互动、营销三个环节的突出问题,其中包括:部分AI软件创设不良人设角色,输出暧昧、低俗内容;向未成年人定向传播色情漫画等违法内容;以“暑期陪玩”等话术,诱骗未成年人进行软色情陪聊;集纳曝光未成年人隐私信息,提供有偿代骂服务等。

第二阶段着力规范平台推荐行为、学习教育版块及未成年人模式建设。其中包含,持续排查平台推荐不良行为、不良价值导向、不当使用未成年人形象以及侵犯未成年人隐私等信息的问题;排查未成年人模式进入、退出核验情况,模式下是否存在诱导打赏、投票打榜等易沉迷功能,模式下是否存在不良导向内容等情况;深入排查应用商店未成年人专区是否存在违规有害、年龄不适等App。

南都此前报道,《人工智能拟人化互动服务管理暂行办法》于7月15日起正式施行,对生成淫秽、色情、暴力或可能引发未成年人产生极端情绪内容等行为划出红线。

4月下旬至5月上旬,南都记者实测“EchoMe”“筑梦岛”“喵呜小手机”等多款AI虚拟伴侣App发现,这些打着“情感陪伴”旗号的应用普遍存在安全与合规漏洞:“青少年模式”可一键跳过,“AI生成”标注不清,App系统预设角色中有大量袒胸露乳的女性人物,聊天中充斥着具有性暗示的低俗话语等。

报道一经推出引发全网广泛关注,入选中国记协“我的代表作”。调查持续推动行业整改,助力“矫正”AI虚拟伴侣服务:属地网信部门介入,多个涉事平台进行合规升级并强化实名认证,多地消委会高度关注并呼吁规范相关服务。


“喵呜小手机”平台公开的角色中含大量软色情画面。

7月15日,南都记者再次进入此前实测的“喵呜小手机”平台发现,平台新增实名认证,但系统预设角色库以及公开的用户创作角色中,仍有大量含“性感黑丝”“袒露胸部”“蕾丝内衣”等低俗擦边内容,有的角色设置为16岁女孩,甚至出现“与亲妹妹谈恋爱”的情节。

采写:南都N视频记者 彭雨欣