专栏名称: 斌叔OKmath
橙旭园CEO 教育博主 教育部双创优秀导师。前微软员工。橙旭园儿童编程创始人。
今天看啥  ›  专栏  ›  斌叔OKmath

网页链接短短几年内,大部分 AI 的使用可能都会发生在设备上。很-20240717072715

斌叔OKmath  · 微博  ·  · 2024-07-17 07:27
    

文章预览

2024-07-17 07:27 本条微博链接 网页链接 短短几年内,大部分 AI 的使用可能都会发生在设备上。很高兴看到 SmolLM,这是 Apache 2.0 下一系列由 1.35 亿、3.6 亿和 17 亿参数组成的小型语言模型,经过训练可推动设备上的进步和创新! 🔥 总结: 🚀 SmolLM 模型:135M、360M 和 1.7B 参数 🧬 Smollm-Corpus 摘自 Cosmopedia v2、FineWeb-Edu 和 Stack-Edu-Python 💪🏻 135M 和 360M 模型在 600B 个 token 上进行训练;1.7B 模型在 1T 个 token 上进行训练 📊 1.7B 在 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览