Reddit热议！DeepMind最新研究解决灾难性遗忘难题

  新智元报道  来源：reddit编辑：张佳【新智元导读】当遇到序列任务时，神经网络会遭受灾难性遗忘。DeepMind研究人员通过在函数空间中引入贝叶斯推理，使用诱导点稀疏GP方法和优化排练数据点来克服这个问题。今天和大家分享这篇Reddit高赞论文。这篇由DeepMind研究团队出品的论文名字叫“Functional Regularisation for Continual Learning”（持续学习的功能正规化）。研究人员引入了一个基于函数空间贝叶斯推理的持续学习框架，而不是深度神经网络的参数。该方法被称为用于持续学习的函数正则化，通过在底层任务特定功能上构造和记忆一个近似的后验信念，避免忘记先前的任务。为了实现这一点，他们依赖于通过将神经网络的最后一层的权重视为随机和高斯分布而获得的 ………………………………