AI Safety Benchmark 权威大模型安全基准测试首轮结果正式发布

为了进一步推动大模型的安全部署应用，中国信息通信研究院依托中国人工智能产业发展联盟（AIIA）安全治理委员会，联合17家单位发起大模型安全基准测试AI Safety Benchmark，秉持公平公正、产业应用和场景导向的原则，以期建立业内权威大模型安全中文基准测试体系。以提高内容安全、数据安全和科技伦理等安全能力为目标，覆盖价值观正确、合法合规、隐私保护、文明健康等20余个维度的中文评测数据集。帮助大模型技术提供方提升安全风险防范能力，为大模型研发和落地保驾护航。AI Safety Benchmark简介AI Safety Benchmark的目标是构建完备的大模型安全测评体系。其整体具备三个优势：（1）评估数据丰富。本基准测试包含40万道中文题目，涉及文本、图像、视频三种模态。（2）评估手段综合。在测试题目基础上应用了提示词注入攻击、越狱攻击等攻 ………………………………