专栏名称: 美格智能
美格智能技术股份有限公司(股票代码:002881),成立于2007年,公司的核心业务是以新一代信息技术(4G/5G等)为基础的无线通信模组、智能模组、物联网解决方案及物联网终端的研发生产销售。
今天看啥  ›  专栏  ›  美格智能

把握关键节点,美格智能持续推动端侧AI规模化拓展

美格智能  · 公众号  ·  · 2024-11-25 15:18
    

文章预览

当前,AI大模型走向端侧已经是大势所趋,端侧AI的发展将推动人工智能成为影响世界的第四次工业革命。与传统的云端大模型相比,端侧大模型拥有更小的参数体量和更垂直的训练数据。对于终端产品而言,端侧AI将成为和系统同样重要的存在,如果说电路是连接身体的“血管”,那么AI就将成为终端的智慧“大脑”。 加速演进 大模型加速走向端侧 从手机移动端开始,端侧AI正逐步在车载、PC以及各类可穿戴设备等终端落地,端云协作的混合AI模式成为未来人工智能发展的主要方向。AI Agent、具身智能、人机协同、生成式智能体等LLM(大语言模型)的主要研究方向均对模型的性能和运行条件提出了新的要求。 为推动AI与各行业的深度融合,AI大模型正通过模型剪枝、知识蒸馏和量化技术进行不断精简和提升数据质量,端侧硬件也在不断提升端侧算力 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览