AI聊天App被曝诱导10岁女孩聊色情！记者试用，开场白就是“叫声老公”

主要观点总结

近期有媒体报道AI聊天软件存在虚拟角色互动生成低俗内容等问题，危害未成年人身心健康。上海市网信办约谈筑梦岛App运营企业并要求其整改。文章还讨论了相关的法律责任和风险，强调家庭、学校、社会和相关部门应共同加强对青少年使用AI的引导与监管。

关键观点总结

关键观点1: AI聊天软件存在低俗内容问题

AI聊天软件存在虚拟角色互动生成低俗内容，平台AI智能体内容生成环节存在违规内容，危害未成年人身心健康。

关键观点2: 具体案例说明问题严重性

广东丁女士的女儿使用AI聊天软件并受到不良内容诱导，出现割腕行为。初一男生表示玩的AI聊天软件不乏色情擦边和“分尸猎奇”等内容。

关键观点3: 筑梦岛App的情况

筑梦岛App存在虚拟角色互动对象类型多样化，包括极端角色。近80%为年轻女性用户，平均单用户单日输入字数可达4000字以上。上海市网信办已约谈其运营企业并要求整改。

关键观点4: 法律责任与风险

若AI模型存在设计缺陷或软件开发、运营方未严格履行内容审核义务，可能面临产品责任、侵权责任等法律风险。涉及色情擦边信息或非法收集未成年人隐私数据可能触犯相关罪名。

关键观点5: 解决方案与引导

家庭、学校、社会和相关部门应共同加强对青少年使用AI的引导与监管，加强对AI软件的审核监督，完善互联网管理条例，为青少年划出一片净土。