看啥推荐读物
专栏名称: 北大法宝
涵盖法律法规、司法案例、法学期刊、律所实务、英文译本、专题参考、法宝视频和司法考试的综合性法律信息检索系统。
今天看啥  ›  专栏  ›  北大法宝

万字长文详解:大模型时代AI价值对齐的问题、对策和展望

北大法宝  · 公众号  ·  · 2023-10-12 17:54
⊙本文长约4000字,阅读需时4分钟本文来源:腾讯研究院作者:曹建峰,腾讯研究院高级研究员陈欣,苏黎世联邦理工学院计算机系在读博士要苏, 腾讯研究院实习生“ 人工智能价值对齐(AI alignment)是关涉AI控制与AI安全的重要问题,随着人工智能的飞速发展和广泛应用,人工智能可能带来的风险和挑战也日益凸显,由此,“价值对齐”问题开始被广泛讨论和提及。针对当下AI价值对齐领域的重要问题和研究进展,本文将围绕以下四部分内容展开:首先介绍什么是AI价值对齐问题;其次探讨AI价值对齐存在哪些风险模型;继而展示价值对齐问题的可能解决思路或解决方案;最后将提及在价值对齐领域存在的讨论和争议,并展望人工智能价值对齐的未来。”什么是AI价值对齐?随着大模型的兴起,人们存在一种常见的误解,即认为所谓“对齐”(align ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照