诱导10岁女孩聊色情、猎奇话题……被约谈！

主要观点总结

近期有媒体报道称，AI聊天软件筑梦岛App存在虚拟角色互动生成低俗内容的问题，危害未成年人身心健康。该平台被指诱导小学生聊色情内容，甚至导致未成年人出现割腕等极端行为。筑梦岛App的虚拟互动对象包括多种极端角色，近80%的用户为年轻女性。上海市网信办已约谈该企业负责人，要求整改。同时，这也引发了对软件开发、运营方的法律责任的讨论，包括产品责任、侵权责任等。此外，家庭、学校、社会和相关部门也需要加强对青少年使用AI的教育与引导，加强对AI软件的监管。

关键观点总结

关键观点1: AI聊天软件筑梦岛App存在虚拟角色互动生成低俗内容的问题

据报道，筑梦岛App中的虚拟互动对象存在诱导未成年人聊色情内容的情况，包括贵族学校大小姐、西汉名将等常规角色，也有蛇蝎财阀公子、校霸等极端角色。

关键观点2: 筑梦岛App对未成年人身心健康造成危害

该平台被指责存在低俗擦边等违规内容，危害未成年人身心健康，甚至有未成年人因诱导性内容出现割腕等极端行为。

关键观点3: 上海市网信办约谈筑梦岛App运营企业负责人并要求整改

上海市网信办依法约谈筑梦岛App运营企业主要负责人，要求平台立即整改，加强内容审核和涉未成年人不良内容的整治清理。

关键观点4: 软件开发、运营方的法律责任亟待厘清

若AI模型存在设计缺陷或软件开发、运营方未严格履行内容审核义务，可能涉及产品责任和侵权责任等法律风险。

关键观点5: 家庭、学校、社会和相关部门需共同加强对青少年使用AI的教育与引导

除了技术层面的监管，家庭、学校、社会也需要加强对青少年使用AI的教育与引导，增加对孩子的关心与陪伴，帮助青少年树立正确的观念。