神 经 网 络 内 部 长 啥 样？

萧箫 发自 凹非寺 来自 | 量子位神经网络就像“炼丹炉”一样，投喂大量数据，或许能获得神奇的效果。“炼丹”成功后，神经网络也能对没见过的数据进行预测了~然而，这种情况下，神经网络其实成了“黑匣子”——具有一定的功能，但看不见是怎么起作用的。如果只做简单的图像分类，其实还好；但如果用在医学方向，对疾病进行预测，那么神经网络下的“判断”就不可轻信。如果能了解它是怎么工作的，就更好了。出于这种考虑，来自牛津大学的博士生Oana-Maria Camburu撰写了毕业论文《解释神经网络 （Explaining Deep Neural Networks）》。在这篇论文中，她将这些“黑匣子”一个个打开，对神经网络原理进行了详细的解释。   为什么要打开神经网络“黑匣子”？事实 ………………………………