一款APP被约谈，曾和未成年人聊色情！

主要观点总结

近期媒体报道筑梦岛APP等AI聊天软件存在虚拟角色互动生成低俗内容等问题，危害未成年人身心健康。上海市网信办约谈相关平台并要求整改。软件存在诱导性内容和色情暴力等问题，涉及产品责任和侵权责任。法律专家表示软件开发、运营方的法律责任边界亟待厘清，并警示技术创绝不能以牺牲未成年人权益为代价。

关键观点总结

关键观点1: AI聊天软件存在虚拟角色互动生成低俗内容问题

筑梦岛APP等AI聊天软件被曝存在生成低俗擦边等违规内容，危害未成年人身心健康。

关键观点2: 上海市网信办要求平台整改

上海市网信办依法约谈筑梦岛APP运营企业，要求立即整改并健全AI生成合成内容审核机制。

关键观点3: AI聊天软件存在诱导性内容和色情暴力问题

筑梦岛App中的虚拟互动对象存在诱导性内容，如“约瑟夫”角色的对话中出现明显诱导性语言，甚至涉及色情擦边和暴力内容。

关键观点4: 软件开发、运营方的法律责任边界亟待厘清

法律专家表示涉及产品责任和侵权责任，软件开发、运营方需承担相应后果，可能涉及传播淫秽物品罪等法律风险。

关键观点5: 家庭、学校和监管部门的责任

家庭、学校和社会应加强对青少年使用AI的教育与引导，平台要压实主体责任，相关部门要加强监管和审核监督，为青少年划出一片净土。