AI会完美的执行我们设定的目标，但这不是一个好消息

导读： 科普网站quanta magazine上一篇名为 Artificial Intelligence Will Do What We Ask. That’s a Problem的文，是关于AI与人际交互时，如何满足更好的理解人类需求。该文的核心观点是：通过教机器理解我们真实的欲望，科学家希望避免让它们做我们所要求的事情可能带来的灾难性后果。本文先详述（部分翻译并用自己的话重述）一篇AI伦理相关的文章，之后会根据这篇文章的观点，对当前最热门的时政，进行简要的延伸和议论。1）当今以目标为导向的人工智能存在局限性牛津大学哲学家Nick Bostrom在2003年提出了一个现在已经成为经典的思想实验，来说明这个问题。设想一个超级智能机器人，其编程目标看似无害，仅仅是制造回形针。这个机器人最终把整个世界变成了一个巨大的回 ………………………………