可逆ResNet：极致的暴力美学

作者丨苏剑林单位丨广州火焰信息科技有限公司研究方向丨NLP，神经网络个人主页丨kexue.fm今天我们来介绍一个非常“暴力”的模型：可逆 ResNet。为什么一个模型可以可以用“暴力”来形容呢？当然是因为它确实非常暴力：它综合了很多数学技巧，活生生地（在一定约束下）把常规的 ResNet 模型搞成了可逆的！▲ 标准ResNet与可逆ResNet对比图。可逆ResNet允许信息无损可逆流动，而标准ResNet在某处则存在“坍缩”现象。模型出自 Invertible Residual Networks，之前在机器之心也报导过。在这篇文章中，我们来简单欣赏一下它的原理和内容。可逆模型的点滴为什么要研究可逆 ResNet 模型？它有什么好处？以前没有人研究过吗？ 可逆的好处可逆意味着什么？ 意味着它是信息无损的 ………………………………