看啥推荐读物
专栏名称: PaperWeekly
PaperWeekly官方微博 PaperWeekly是一个推荐、解读、讨论、报道人工智能前沿论文成果的学术平台。
今天看啥  ›  专栏  ›  PaperWeekly

【一行代码提升ALBERT表现】本文实验了一个新鲜的玩法:fin-20200219080052

PaperWeekly  · 微博  ·  · 2020-02-19 08:00
2020-02-19 08:00 本条微博链接 【一行代码提升ALBERT表现】本文实验了一个新鲜的玩法:finetune 阶段把 ALBERT 的参数共享去掉,把 ALBERT 当 BERT 用,在几个任务上发现这样做有着持平甚至超过原始 ALBERT 的表现,最后给出了对 ALBERT 以及此现象的个人理解。抛开约束,增强模型:一行代码提升 ALBERT 表现 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照