大模型的知识水平堪比博士，但安全防护极其脆弱！英国政府最新评估报告

文章预览

前不久，人工智能教父 Geoffrey Hinton 等 25 位顶尖人工智能科学家联合发布报告，警告世界： 我们尚未为人工智能的突破做好准备，人工智能的能力愈发强大，但这项技术还存在很多安全隐患 。   图丨相关论文（来源： Science ） 报告呼吁建立一套持续性的监督机制，紧密跟踪AI技术进展及安全性问题，从而为可能出现的危机提供即时有效的应对方案。 因为对于 AI 来说，其技术的发展固然重要，但其能力的提高，同时也意味着可能会引起更大的危机，“携才以为恶”在 AI 这里同样成立。 尤其是当 AI 应用于在科学研究之中时，就更是如此。 而近期，英国政府人工智能安全研究所（AISI）发布了他们的第一份评估报告，剖析了当前大型语言模型所掌握科学知识的水平，同时，也揭示了这些模型可能带来的风险与挑战。 评估方式 报告主要评估了五种 ………………………………