Gartner：企业在部署生成式人工智能时面临新的安全威胁

文章预览

在近期举办的 2024 中国科技行业高管交流大会上， Gartner 发布了关于生成式人工智能（ GenAI ）安全的最新研究。随着 GenAI 技术的迅速发展和应用，全球超过 58% 的技术提供商已经在他们的产品中内嵌了 GenAI 技术。这种技术虽然为企业带来了创新的机会，但同时也引入了新的安全挑战。 Gartner 高级研究总监曾劭清表示： “GenAI 技术在提高业务效率和开拓新服务方面具有巨大潜力，但它也使企业的安全攻击面扩大，尤其是在提示工程和数据安全方面。 GenAI 技术为攻击者提供了新的途径，例如利用 AI 生成的内容进行社会工程攻击或通过污染训练数据来破坏 AI 系统的完整性。此外，攻击者可以利用 GenAI 提高攻击工具的自动化和智能化水平，这对传统的安全防御措施构成了挑战。同时， GenAI 系统的复杂性本身也可能引入新的漏洞和弱点，要求企业采用 ………………………………