暗藏 “基因缺陷”？阿里云大模型原生安全免疫机制

文章预览

Gartner 2024 年发布生成式 AI 领域的两大核心风险：一是大模型滥用可能生成更具迷惑性的虚假信息，二是因事实偏差和推理错误产生的模型幻觉。被高频提及的幻觉，仿佛是大模型泛化能力的“基因缺陷”级伴生问题。 现实世界中，人的幻觉比大模型严重多了，幻觉是否会成为大模型应用落地的掣肘之一？ 本期阿里云《安全记》栏目邀请 阿里云研究院院长穆飞担任主持人，和阿里云通义大模型安全负责人张荣， 聚焦 “大模型原生安全的发展和治理” 主题，深入探讨阿里云在大模型的预训练、后训练以及推理阶段，如何借助技术手段加强安全与合规，减少幻觉和指令攻击等问题，结合通义大模型的一线实践经验，剖析大模型原生安全理念下的技术发展趋势。 本文基于访谈嘉宾观点进行提炼，完整版内容请点击下方视频。 01 大模型泛化能力背后的 ………………………………