欧盟发布大语言模型 AI 辅助监管决策的指导原则

主要观点总结

欧洲药品管理局（EMA）和药监机构首脑团体（HMA）发布了关于使用大语言模型（LLM）做出监管决策的原则和建议。LLM是一种生成式人工智能，可在药品监管中发挥巨大作用，但也存在挑战。指导原则旨在让欧盟监管机构工作人员了解LLM的能力和局限性，以有效利用其潜力并避免缺陷和风险。该指导原则包含伦理考量因素，并深入探讨了用户和组织级别的原则。EMA表示，指导原则将定期更新，并计划举行网络研讨会介绍该指导原则。

关键观点总结

关键观点1: 欧洲药品管理局和药监机构首脑团体发布了大语言模型使用原则和建议。

生成式人工智能大语言模型在药品监管中有巨大的作用，但也需要遵循一定的原则和应对挑战。

关键观点2: 大语言模型的使用存在挑战。

大语言模型的结果具有可变性，可能存在返回不相关或不准确答案的风险，同时也面临数据安全性挑战。

关键观点3: 指导原则包含伦理考量因素。

这些伦理考量因素包括人的尊严、自主、法治、问责、保障、安全、透明度、非歧视、错误信息伤害和恶意使用等。

关键观点4: 指导原则深入探讨了用户和组织级别的原则。

在用户层面，EMA指出利益相关者应确保数据负责任且安全地输入LLM，并学习有效使用LLM。在组织层面，应定义如何安全和负责任地使用LLM，通过提供适当的训练来最大化其价值，并协作和分享经验。

关键观点5: 指导原则将定期更新并以网络研讨会形式分享经验。

EMA计划于9月13日举行网络研讨会介绍该指导原则，以分享经验并减少不确定性，促进共识。