京沪网信办通报整治AI技术滥用成效

主要观点总结

文章介绍了北京和上海两地关于AI技术的监管和整治行动。包括京东等公司的AI特征敏感词增加，训练语料清洗机制的完善，违规产品与内容的遏制，训练数据治理的初见成效，重点领域风险的防控，标识管理与技术能力的突破等。上海市也开展了类似的行动，对违规AI产品和信息进行清理整治，深化大模型合规指导，强化AI平台的安全风控能力，强化重点领域AI安全管理等。

关键观点总结

关键观点1: 北京AI监管重点

包括制定专项行动实施方案、上线举报渠道、组织互联网企业自查自纠、增加AI特征敏感词、完善训练语料清洗机制等。

关键观点2: 违规产品与内容的遏制

全市已备案大模型企业未发现违规功能，清理了传播违规内容的账号和信息。

关键观点3: 训练数据治理初见成效

提升数据来源合规率，强化敏感内容过滤，提高拦截准确率等。

关键观点4: 上海AI整治行动

指导重点网站平台清理违规AI产品、信息，强化合规，深化大模型合规指导，提升AI平台安全风控能力，强化重点领域AI安全管理等。

关键观点5: 标识管理与技术能力突破

近60家企业已落实标识要求，实现生成内容显著标识加元数据水印双标注，建立攻防技术升级机制等。