AI专题·从模型视角看端侧AI：模型技术持续演进，交互体验有望升级

文章预览

今天分享的是：AI专题·从模型视角看端侧AI：模型技术持续演进，交互体验有望升级 报告共计：56页 《AI 专题·从模型视角看端侧 AI》由西南证券发布，报告指出端侧 AI 发展迅速，模型实现高效压缩是端侧 AI 的第一步。 海外小模型加速迭代，性能向百亿参数模型靠拢。谷歌 Gemma 系列、Meta Llama 系列、微软 Phi 系列、苹果 OpenELM 系列等模型在参数规模、训练数据、算力消耗等方面各有特点，且通过模型压缩技术、稀疏注意力机制、多头注意力变体等优化，在保持性能的同时减小模型尺寸。 模型适配终端硬件是端侧 AI 的关键，从小模型论文看，端侧硬件存在内存、功耗、算力等瓶颈。手机芯片厂商正通过升级制程、提高内存容量及带宽、增强 AI 处理器、提升电池性能和改进散热等方式解决这些问题。 模型助力人机交互是端侧 AI 的重要发展方向。UI ………………………………