存在严重供应链安全风险，MLOps平台曝20多个漏洞

主要观点总结

网络安全研究人员发现机器学习（ML）软件供应链存在安全风险，涉及固有漏洞和实现漏洞。漏洞可能导致任意代码执行、加载恶意数据集和模型即服务攻击。漏洞示例包括利用ML模型运行攻击者选择的代码、JupyterLab中的跨站脚本（XSS）漏洞和MLOps平台中的身份验证漏洞。这些漏洞具有现实威胁性，并已被武器化，用于部署加密货币矿工和威胁服务器。

关键观点总结

关键观点1: ML软件供应链存在安全风险

研究警告了机器学习软件供应链存在的多个漏洞。

关键观点2: 存在固有漏洞和实现漏洞两类

固有漏洞涉及底层格式和过程，如利用ML模型运行攻击者选择的代码；实现漏洞涉及身份验证等问题，允许威胁行为者通过滥用ML管道功能获得代码执行能力。

关键观点3: 漏洞可被用于针对MLOps平台和模型即服务

研究人员提供了关于如何利用这些漏洞的具体示例，包括利用JupyterLab中的XSS漏洞执行客户端代码和利用Anyscale Ray的容器逃逸漏洞部署加密货币矿工。

关键观点4: 开源LangChain生成式AI框架中存在两个已修复的漏洞

Palo Alto Networks Unit 42详细说明了这两个漏洞可能允许攻击者执行任意代码和访问敏感数据。

关键观点5: 存在针对大型语言模型（LLMs）的新型攻击技术

一种名为CodeBreaker的新型攻击技术利用LLMs进行复杂的负载转换，以确保微调的毒害数据和生成的代码都可以规避强大的漏洞检测。