上海市网信办宣布对一批拒不整改的生成式AI 服务网站予以立案处罚

主要观点总结

上海市网信办联合相关部门开展“亮剑浦江·2025”个人信息权益保护专项执法行动，重点打击AI滥用，包括侵犯个人信息权益、产出违法违规内容等。个别企业在生成式人工智能服务中存在违规问题，如未进行安全评估、未采取措施防止滥用等。上海市网信办已对涉事企业进行约谈、批评和立案查处，并强调企业应遵守法律法规，承担网络信息内容生产者和个人信息处理者的责任。下一步，上海市将持续打击AI滥用，重点整治侵犯个人信息权益的违法违规行为。

关键观点总结

关键观点1: “亮剑浦江·2025”个人信息权益保护专项执法行动开展

上海市网信办联合相关部门重点打击AI滥用，聚焦三大领域八项重点任务，其中包括抵制AI滥用，并发现部分网站存在违规行为。

关键观点2: 企业存在生成式人工智能服务中的违规问题

个别企业在提供生成式人工智能服务时未按法律要求开展安全评估工作、未采取必要的安全措施防范违规信息生成等，导致存在侵犯个人信息权益、产出违法违规内容等问题。

关键观点3: 上海市网信办对涉事企业进行约谈、批评和立案查处

上海市网信办对已发现存在违规问题的企业进行严肃处理，包括约谈、批评、立案查处，并通报典型问题。

关键观点4: 强调企业遵守法律法规和承担责任的必要性

上海市网信办强调企业应遵守《个人信息保护法》等法律法规，承担网络信息内容生产者和个人信息处理者的责任，对于屡教不改、问题严重的企业将坚决予以处置处罚。

关键观点5: 下一步的整治重点

上海市将持续开展个人信息权益保护专项执法行动，重点打击AI滥用，特别是“AI变装”“AI换脸变声”“AI造假”等侵犯个人信息权益的违法违规行为。