每闻春风之怒号则寸心欲碎

3月28日（星期四）晚上，我本来准备好了要看小米汽车的发布会。我不懂车，至今也只开过油车，对新能源车近乎一窍不通，所以有必要加强学习。不过，发布会开始不到半小时，我的一位从事大模型研发的朋友发来一条消息：“快看新闻。”同时发来的还有一条新闻链接。Databricks, 这家位于硅谷的数据解决方案公司，发布了一个名为DRBX的开源大模型。这是在短短一个星期之内，市面上出现的第二个开源大模型（第一个是马斯克的x.AI开源的Grok）。我们知道，全世界已经有几百种、可能上千种开源大模型了，但是其中很多都是在LLaMA、GPT-J、通义千问等已有开源大模型基础上的改良；DRBX则是一个全新的自研架构大模型。它至少具备如下令人印象深刻的特点：采用了混合专家(Mixture of Experts)架构，这是继Mistral、Grok以来，又一个确定采用混合专家架构 ………………………………