注册    登录
专栏名称: 爱可可-爱生活
知名互联网资讯博主 北邮PRIS模式识别实验室陈老师
今天看啥
公众号rss, 微信rss, 微信公众号rss订阅, 稳定的RSS源
目录
今天看啥  ›  专栏  ›  爱可可-爱生活

【[44星] ZO2：用18GB显存就能微调1750亿参数大模型-20250323202959

爱可可-爱生活  · 微博  · AI  · 2025-03-23 20:29
    

文章预览

2025-03-23 20:29 本条微博链接 【[44星] ZO2：用18GB显存就能微调1750亿参数大模型的神器！亮点：1. 仅需18GB GPU显存即可完成175B参数模型的全参数微调；2. 采用零阶优化技术，避免冗余数据传输，显著降低GPU内存需求；3. 支持动态调度，优化计算与通信重叠，提升GPU利用率】 'ZO2 (Zeroth-Order Offloading): Full Parameter Fine-Tuning 175B LLMs with 18GB GPU Memory' GitHub: github.com/liangyuwang/zo2 #零阶优化# #大模型微调# #GPU内存优化# #AI创造营# ………………………………

原文地址：访问原文地址
快照地址： 访问文章快照
总结与预览地址：访问总结与预览
推荐文章
爱可可-爱生活  ·  【[39星]FinTSB：金融时间序列预测领域的全新基准工具。它-20250419120913
8 小时前
爱可可-爱生活  ·  【[225星]Dify-Kubernetes：轻松部署Dify到-20250419121045
8 小时前
爱可可-爱生活  ·  《爱可可微博热门分享(4.18)》 爱可可微博热门分享(4.1-20250418223619
21 小时前
中国社会科学网  ·  AI心理治疗机器人虽能缓解症状，却永远无法取代人类治疗师？这五个核心属性是关键
昨天
中国社会科学网  ·  AI心理治疗机器人虽能缓解症状，却永远无法取代人类治疗师？这五个核心属性是关键
昨天
黄建同学  ·  //@FdiskBrain:不错的例子-20250417224104
昨天
深圳交通  ·  大鹏⇌龙岗、坪山30分钟！这条铁路上新啦！
10 月前
重庆本地宝  ·  惋惜！重庆这一大型书店将停业关闭！还会回来吗?
7 月前
OpenCV学堂  ·  别掉坑 | C++中如何正确找到Mat最大值
7 月前
生物谷  ·  南京大学陈迪俊团队开发基于单细胞和空间转录组的肿瘤微环境空间域识别方法
6 月前
大河报  ·  车市周评 | 商务部：正抓紧制定明年以旧换新相关政策 本田日产官宣开启合并谈判
3 月前
关于   移动版   ·   Py中国   ·   RSS之家   ·   CodingPro   ·   Code   ·   Link之家   ·   卧龙AI搜索   ·   小百科   ·   51好读   ·   小百科（海外）   ·   Link管理
今天看啥 - 公众号rss, 微信rss, 微信公众号rss订阅, 稳定的RSS源
© 2024 ~ 沪ICP备11025650号