分享丨万万没想到，ChatGPT参数只有200亿？

中国人工智能学会 · 公众号 · AI · 2023-11-01 17:34

转自机器之心编辑：小舟这合理吗？谁都没有想到，ChatGPT 的核心秘密是由这种方式，被微软透露出来的。昨天晚上，很多讨论 AI 的微信群都被一篇 EMNLP 论文和其中的截图突然炸醒。微软一篇题为《CodeFusion: A Pre-trained Diffusion Model for Code Generation》的论文，在做对比的时候透露出了重要信息：ChatGPT 是个「只有」20B（200 亿）参数的模型，这件事引起了广泛关注。距 ChatGPT 发布已经快一年了，但 OpenAI 一直未透露 ChatGPT 的技术细节。由于其强大的模型性能，人们对 ChatGPT 的参数量、训练数据等信息抱有诸多疑问和猜测。作为行业一直以来的标杆，ChatGPT 性能强大，可以解决各种各样的问题。它的前身 GPT-3 参数量就达到了 1750 亿，实用化以后的大模型居然被 OpenAI 瘦身了快 9 倍，这合理吗？「如何看待这篇论文」的话题立刻冲上了知乎热榜。论文链接： ………………………………

原文地址：访问原文地址
快照地址：访问文章快照

分享到微博

推荐文章

宝玉xp · 回复@Amoyian:目前没有LLM能做这种复杂数学运算，需要让-20240520125102

昨天

宝玉xp · //@李隐枫:当地政府和通信公司保障有力//@亚东:其实挺好的/-20240520003340

昨天

深度学习与NLP · 如何看待大学老师上课放视频超8分钟定为教学事故？

4 天前

深度学习与NLP · 特斯拉万人大裁员涉及中国市场，销售部门是重灾区，哪些信息值得关注？

4 天前

黄建同学 · 这两天除了OpenAI和Google发布模型，腾讯也发布了混元--20240516073452

5 天前

刘晓光恶魔奶爸 · 如何发朋友圈才能够吸引到优秀的异性？

6 月前

孟祥远 · 重磅招标启动！南京3条地铁，大提速！

1 年前

移民(微博搜索) · 移民(微博搜索)-20210129-1

3 年前

大夏天王赫连勃勃 · 大家觉得女真人和蒙古人的单兵力量谁更优？我最近看女真的历史书籍，-20200715002203

3 年前

FaceH5 · 网易大保健，“丧”到你相信人生

6 年前