注册    登录
看啥推荐读物
专栏名称: 爱可可-爱生活
知名互联网资讯博主 北邮PRIS模式识别实验室陈老师
今天看啥
微信公众号rss订阅, 微信rss, 稳定的RSS源
目录
今天看啥  ›  专栏  ›  爱可可-爱生活

[CL] Tied-Lora: Enhacing paramet-20231118060751

爱可可-爱生活  · 微博  · AI  · 2023-11-18 06:07
2023-11-18 06:07 本条微博链接 [CL] Tied-Lora: Enhacing parameter efficiency of LoRA with weight tying 网页链接 通过权重绑定与精细训练设计，提出优化LoRA(Low-rank Adaptation)方法降低参数量的“Tied-LoRa”范式。文章探索各种可能的组合，将LoRA中的投影矩阵A、B以及缩放向量u、v分别固定或训练，找到平衡性能和参数数量的最佳解。通过5项应用不同的任务进行实验，比较不同配置下的效果。结果显示，仅在投影矩阵A上训练，同时将B矩阵和缩放向量u、v固定且跨 ………………………………

原文地址：访问原文地址
快照地址： 访问文章快照
推荐文章
人工智能那点事  ·  新版ChatGPT在哪些方面“更像人”？
15 小时前
爱可可-爱生活  ·  //@爱可可-爱生活：欢迎参与～-20240516062517
昨天
爱可可-爱生活  ·  [CV] The RoboDrive Challenge: Dr-20240516060235
昨天
宝玉xp  ·  让 GPT-4o 根据你所处环境猜猜你在干嘛，或者朋友让你猜，你-20240514095139
3 天前
宝玉xp  ·  要准备去参加重要面试，或者要去相亲，不知道穿着怎么样，让 GPT-20240514095856
3 天前
西部战区总医院  ·  媒体看西总丨CCTV7报道西部战区总医院展开高原卫勤保障演练
6 月前
电子工程专辑  ·  特斯拉的“擎天柱”机器人即将公布，是风口还是噱头？
1 年前
充电头网  ·  未来MagSafe可以通过外围设备传输数据并验证用户身份
2 年前
华泰期货研究院  ·  【华泰期货宏观点评】定向降准落地——去杠杆路径下的货币结构性宽松
5 年前
上海发布  ·  刚刚！上海2018春季高考作文题出炉！那些年的作文题集锦奉上
6 年前
关于   移动版   ·   Py中国   ·   RSS之家   ·   codingpro   ·   Code   ·   link之家   ·   卧龙AI搜索   ·   藏经阁   ·   小百科
今天看啥 - 微信公众号rss订阅, 微信rss, 稳定的RSS源
© 2024 ~ 沪ICP备11025650号