谷歌推出前沿安全框架：评估AI模型严重风险，4个领域影响最大

文章预览

分析和减轻先进AI模型带来的未来风险。 编译 |   ZeR0 编辑 |   漠影 智东西5月18日消息，谷歌DeepMind昨晚推出AI前沿安全框架，并公布技术报告。 ‍ ‍ 前沿安全框架是一套协议，强调了在AI模型发展过程中识别和缓解潜在风险的重要性，旨在主动识别未来可能造成严重伤害的AI能力，并建立检测和减轻它们的机制。 其计划是到2025年初全面实施这一初步框架。该框架侧重于模型级别的强大能力（如特殊机构或复杂的网络能力）所导致的严重风险，对谷歌的一致性研究进行补充。 在技术报告中，值得关注的是，保护安全性方面的主要缓解风险措施是保护模型权重，这里的安全似乎更多跟商业秘密相挂钩。 01 . 三大关键组成：识别危害阈值，定期评估检测，应用缓解措施 今天公布的第一版框架建立在谷歌对前沿模型中关键能力评估的研究基础上，并 ………………………………