今天看啥  ›  专栏  ›  未尽研究

AI PC,微软真正下场了,Copilot+PC集成40TOPs NPU,还有GPT-4o等40多个模型

未尽研究  · 公众号  ·  · 2024-05-21 11:40
    

文章预览

就在微软举办Build活动前夕,它发布了真正的AI PC: 推出了Copilot+PC; 推出了新款平板兼笔记本电脑Surface Pro; Windows操作系统与Arm架构更深度集成。 Windows可以运行40多个本地预装的模型,其中包括了8个小型的语言模型。用Copilot完成较更多复杂的任务,仍然需要使用ChatGPT,包括新发布的GPT-4o。 微软预计在接下来的一年里,将售出5000万台Copilot + PC。 3月份时,我们发布了一份报告   《从工具到平台AI PC:AI普惠第一终端》 。 我们对AI PC下了一个量化的定义: 当大模型在本地部署时,需要 PC 这样的设备,足以容纳完整而又最小可行的通用推理能力。下面是其最基本的配置: 40TOPs,AI算力 70亿,模型参数 16G, 内存 20 tokens/s,推理速度 4k tokens,上下文长度 AI PC的最基本特征,就是它能在本地部署大模型,本地完成知识工作者的基本任务,同时连接云计 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览