《AI新生》读书笔记-通过逆向强化学习应对强AI带来的危机

已故的史蒂芬 · 霍金称人工智能是人类面临的最大威胁。尽管霍金是一位受人尊敬的物理学家，但他并不是一位计算机科学家。马斯克将人工智能的应用比作“召唤魔鬼”，但马斯克也不是计算机领域的专家。有几十部电影描绘了一个机器人和人工智能发狂的未来。但它们只是提醒我们，人类在预测未来方面是多么糟糕。人们很容易忽视机器人大灾难的警告。毕竟，几乎所有该领域的人都同意，我们距离实现人工智能至少还有半个世纪的时间。至于我们今天拥有的人工智能，最好的形容是“白痴学者”。我们的算法可以非常好地执行清晰定义的任务，但是当面对需要解决一般性的问题时，却总是失败。计算机科学家斯图尔特 · 拉塞尔在他的新书《人类兼容性: 人工智 ………………………………