看啥推荐读物
专栏名称: 爱可可-爱生活
知名互联网资讯博主 北邮PRIS模式识别实验室陈老师
今天看啥  ›  专栏  ›  爱可可-爱生活

提出DOMINO算法,通过预计算和推测性解码解决了大型语言模型在-20240314052719

爱可可-爱生活  · 微博  · AI  · 2024-03-14 05:27
2024-03-14 05:27 本条微博链接 提出DOMINO算法,通过预计算和推测性解码解决了大型语言模型在受约束文本生成中的子词对齐问题,显著提高了生成效率和准确性,尤其在执行语法约束时,几乎不增加额外开销,甚至可能加快生成速度。 [LG]《Guiding LLMs The Right Way: Fast, Non-Invasive Constrained Generation》L Beurer-Kellner, M Fischer, M Vechev [ETH Zurich] (2 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照