G.O.S.S.I.P 阅读推荐 2024-12-02 TensorAbuse

文章预览

12月的第一篇论文推荐为大家推荐的论文来自浙江大学申文博老师研究组与新加坡管理大学谢肖飞老师合作完成并投稿的，已被IEEE S 2025接收的论文 My Model is Malware to You: Transforming AI Models into Malware by Abusing TensorFlow APIs 。 本文聚焦于近年来日益引发关注的AI模型软件安全问题，尤其是在字节跳动实习生“模型投毒”事件引发广泛讨论后，这一问题变得尤为重要。据悉，该实习生利用transformers库中的load_ckpt函数漏洞实施攻击，该函数使用了不安全的序列化格式pickle，从而导致在模型从检查点加载时发生任意代码执行。传统的AI模型软件攻击通常依赖于二进制替换或利用pickle等不安全的序列化构造进行攻击，但这些方法往往会损害模型精度，并且容易被检测到。 与这些传统攻击方式不同，本文聚焦于一种新型的AI模型软件攻击。论文的一个重要发现是Tens ………………………………