微软推出iPhone能跑的ChatGPT级模型，性能超Llama-3

‍本文来自微信公众号：量子位 （ID：QbitAI），作者：量子位，原文标题：《微软推出iPhone能跑的ChatGPT级模型，网友：OpenAI得把GPT-3.5淘汰了》，题图来自：视觉中国Llama 3发布刚几天，微软就出手截胡了？今天发布的Phi-3系列小模型技术报告，引起AI圈热议。其中仅3.8B参数的Phi-3-mini在多项基准测试中超过了Llama 3 8B。为了方便开源社区使用，还特意设计成了与Llama系列兼容的结构。微软这次打出“手机就能直接跑的小模型”的旗号，4bit量化后的phi-3-mini在iPhone 14 pro和iPhone 15使用的苹果A16芯片上跑到每秒12 token。这意味着，现在手机上能本地运行的最佳开源模型，已经做到ChatGPT水平。在技术报告中还玩了一把花活，让phi-3-mini自己解释为什么构建小到手机能跑的模型很令人惊叹。除了mini杯之外，小杯中杯也一并发布：Phi-3-small，7B参数，为支持多语言换 ………………………………