今天看啥  ›  专栏  ›  机器之心

何恺明一作,刷新7项检测分割任务,无监督预训练完胜有监督

机器之心  · 公众号  · AI  · 2019-11-15 11:13
机器之心报道机器之心编辑部Facebook AI 研究团队的何恺明等人提出了一种名为动量对比(MoCo)的无监督训练方法。在 7 个与检测和分割相关的下游任务中,MoCo 可以超越在 ImageNet 上的监督学习结果,在某些情况下其表现甚至大大超越后者。作者在摘要中写道:「这表明,在许多视觉任务中,无监督和监督表征学习之间的差距已经在很大程度上被消除了。」论文链接:https://arxiv.org/pdf/1911.05722.pdf无监督表征学习在自然语言处理领域非常成功,诞生了 GPT、BERT 等性能强大的模型。但在计算机视觉领域,监督预训练一直是主流方法,无监督方法则被落在了后面。这可能是因为它们对应的信号空间不同。语言任务有着离散的信号空间(词等),可以用于构建成分词后的词典(d ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照