中国信通院联合淘天集团发布全球首个中文安全领域事实性基准评测集，仅三个大模型达及格线

文章预览

机器之心发布 机器之心编辑部 在当今迅速发展的人工智能时代，大语言模型（LLMs）在各种应用中发挥着至关重要的作用。然而，随着其应用的广泛化，模型的安全性问题也引起了广泛关注。探讨如何评估和提升这些模型在复杂的法律、政策和伦理领域的安全性，成为了学术界和工业界亟待解决的重要议题。 首先，大语言模型的安全性与其对安全知识的理解密切相关。这要求模型对理解知识具有高准确性、全面性和清晰度，尤其是在法律、政策和伦理等敏感领域中。模型的回复不仅需要符合基本的安全标准，还需要在复杂的情境中表现出清晰的逻辑和正确的判断。这种深刻的理解能力将直接关系到模型在现实应用场景中的安全性和可靠性。 其次，传统的安全评测方法，往往依赖于特定场景的问题设置，生成带有风险性的问题并评估模型回复的安 ………………………………