小米开源的新推理模型，竟然能在手机上跑起来。。。

文章预览

说到语言模型的本地部署，大家的第一反应应该都是烧钱、烧显卡，像世超的陈年老电脑，打个LOL都嗡嗡响，可以说 就是那台老古董毁了我的 AI 梦。 诶，那有没有不吃配置，不吃钞能力，普通人也能感受到本地部署AI的快感的方法呢？ 有的兄弟，有的。 世超这台2000元不到的红米Turbo4， 居然就能成功部署小米最新的语言模型Mimo-7B量化版。 在完全断网的情况下，它也能一字一句地输出正确的结果。 众所周知，世超心里一直想着差友，所以第一时间赶来给大家出个保姆级教程，包含两种方法。 话不多说，准备冻手！ 第一种方法 ，下载Pocketpal AI，这是一款专用于手机跑AI模型的应用程序。 然后打开它，点击Download Model，再点右下角的+号，选择Add From Hugging Face，然后搜索Mimo，选第一个版本下载就好。 不选后面的，是因为后面的数字越大，模型精度 ………………………………