主要观点总结
蚂蚁集团采用中国制造的半导体开发新技术降低AI模型成本,新模型成本降低约20%,同时使用专家混合的机器学习方法,取得了与英伟达芯片相当的效果。蚂蚁集团已经开源两款MoE模型Ling-Lite和Ling-Plus,计划用于医疗和金融领域的AI服务。
关键观点总结
关键观点1: 蚂蚁集团使用中国制造的半导体开发AI模型新技术
该技术将AI模型的成本降低了约20%,同时保持了高性能。
关键观点2: 采用专家混合(MoE)的机器学习方法
蚂蚁集团在训练模型时采用了包括阿里巴巴和华为在内的国产芯片,使用MoE方法取得与英伟达芯片相当的效果。
关键观点3: 开源两款MoE模型Ling-Lite和Ling-Plus
这两款模型分别有不同的参数规模,并已经在预训练阶段使用较低规格的硬件系统来降低成本。
关键观点4: 计划将新模型用于医疗和金融领域的AI服务
蚂蚁集团打算使用这两个新模型在医疗和金融领域提供AI服务,这将有助于推动这些领域的技术进步和创新。
文章预览
据彭博社援引知情人士消息称,蚂蚁集团使用中国制造的半导体开发了一种训练 AI 模型的新技术,能将相关成本降低约 20%。 消息人士表示,蚂蚁集团在训练模型时采用了包括阿里巴巴和华为在内的国产芯片,并使用了一种名为「专家混合」(Mixture of Experts,MoE)的机器学习方法。 🥊 据称,这种训练方法取得了与英伟达 H800 等芯片相当的效果。 其中一位知情人士透露,蚂蚁目前仍在使用英伟达的芯片进行 AI 开发,但在最新的模型中,主要依赖的是来自 AMD 和中国厂商的替代芯片。 具体来说,蚂蚁集团 CTO、平台技术事业群总裁何征宇带领 Ling Team 团队,打造了两款开源 MoE 模型:Ling-Lite 和 Ling-Plus。 前者参数规模为 168 亿,后者参数规模高达 2900 亿。 💰 公开论文显示,技术团队在模型预训练阶段使用较低规格的硬件系统,将计算成本( 635 万元
………………………………