今天看啥  ›  专栏  ›  爱可可-爱生活

通过预训练连接器实现不同模态表示的统一,并在LLM中引入稀疏Mo-20240522053032

爱可可-爱生活  · 微博  · AI  · 2024-05-22 05:30
2024-05-22 05:30 本条微博链接 通过预训练连接器实现不同模态表示的统一,并在LLM中引入稀疏MoE层,配合渐进的三阶段训练策略,构建了Uni-MoE这一高效处理多模态任务的统一多模态LLM。 [CL]《Uni-MoE: Scaling Unified Multimodal LLMs with Mixture of Experts》Y Li, S Jiang, B Hu, L Wang... [Harbin Institute of Technology] (2024) 网页链接 #机器学习##人工智能##论文# ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照