G.O.S.S.I.P 阅读推荐 2025-03-05 LLM是安全的银弹吗？

文章预览

1986年，Fred Brooks 发表了经典论文  No Silver Bullet—Essence and Accident in Software Engineering ，指出了没有什么神奇的“银弹”（silver bullet）能一次性解决所有软件开发问题。差不多40年过去了，新一轮的AI热潮（嗯，上一轮的AI热潮刚好也是在1986年前后）又催生了新的“银弹”——LLM，今天我们要介绍的一篇论文  LLMs in Software Security: A Survey of Vulnerability Detection Techniques and Insights  就是对这一波LLM行情在软件安全（特别是漏洞检测）方面的应用的中期小结（但愿这一轮的热潮能够持续200年）： 说到漏洞检测，首先请看下图！在现实世界中，漏洞检测的输出可以分为四个不同的层次： 层次一：判断是否存在（某种）漏洞 层次二：判断漏洞的类别（属于哪种CWE） 层次三：判断漏洞的威胁程度（severity） 层次四：对漏洞的成因分析 而本文关心的就是LLM的出现 ………………………………