小比大好？商汤发布业内最快推理速度「日日新 5.0 端侧大模型」，性能跨级领先

现在，就是AI大模型在端侧应用的春天！无论全球芯片巨头，还是“AI手机”、“AIPC”厂商们，都在发力AI大模型的端侧应用。是什么让大家蜂拥而至？4月23日「商汤技术交流日」上，商汤科技董事长兼CEO徐立用一段街霸小视频讲出了其中道道：红色KEN是商汤日日新端侧模型操纵，绿色KEN是GPT-4操纵。对战开始绿色KEN略占上风，但红色KEN出拳速度更快，各种连招打到绿色KEN反应不过来，最终取胜。这个对比表达的并不是模型能力强弱，而是体现了不同使用场景下端侧模型决策速度更快，它不需要云端大模型的漫长等待，直接在设备上给出答案，速度飞起“天下武功，唯快不破”当数十亿个端侧设备都在不停地调用云端大模型，估计没有任何一个服务器受得了。因此，能够提供即时推理决策的端侧能力是AI大模型进一步提高应用渗透率的关键。来看看 ………………………………