简介
Disentangling factors of variation in deep representation using adversarial training.NIPS-2016,Cited-226.
Open source,official,torch,star-22.
关键字
特征解耦，VAE，GAN，深度学习，机器学习
正文
1. 任务和思路
从样本中解耦出任务相关的特征和任务无关的特征，假设为手写数字分类任务，那就是从样本中解耦出数字类别特征和手写风格特征。
思路上的关键点是分解后的特征怎么满足上面的要求，如果说语义特征直接使用分类器，那么特征是可以判别了，但是没法保证在这个分类器的判别期间不丢失有效的信息。怎么判断不失去有效信息，那就是提取出来的特征还能够重构回原来的样本，但是仅仅重构就成了自编码器了，还是要有个机制来保证解耦的效果。这样考虑，如果解耦的特征有效，那语义特征
固定的情况下，不同的风格特征
所合成的样本都具有相同的语义，这是对生成的样本进行判别的问题，恰好GAN解决的就是生成-判别的问题，所以使用GAN模型来解决问题。至于解耦过程，就是编码的过程，可以使用VAE来完成。所以这类似VAE-GAN模型。
2. 模型和算法
模型如下，使用同标签的不同样本提取的语义
，在同一个
下应该重构出同样的样本；同一个样本提取的
，在标准高斯中（由于是VAE）采样的
合成的样本具有相同的语义，这个使用GAN的判别器来判别。模型（原文Fig1）如下：
算法（AL1）如下：
3. 实验
实验数据集：Sprite，MNIST，NORB，Extended-YaleB。MNIST上效果如图（原文Fig2）：
参考资料
[1] Mathieu, Michael F., et al. "Disentangling factors of variation in deep representation using adversarial training." Advances in neural information processing systems. 2016.
