看至强® 可扩展处理器如何为千帆大模型平台推理加速

文章预览

“大模型在各行业的广泛应用驱动了新一轮产业革命，也凸显了在AI算力方面的瓶颈。通过携手英特尔释放英特尔 ® 至强 ® 可扩展处理器的算力潜力，我们为用户提供了高性能、灵活、经济的算力基础设施方案，结合千帆大模型平台在大模型工具链、丰富的预置模型等方面的升级，我们将进一步推动大模型技术在各行各业的广泛应用，为企业智能化提供更多可能性。” —— 谢广军 百度副总裁 “百花齐放的大模型时代呼唤着更加经济、可及的AI算力资源，通过百度智能云千帆大模型平台，用户能够快捷、高效地部署基于CPU的LLM推理服务，并发挥英特尔 ® 至强 ® 可扩展处理器在AI推理方面的巨大价值。我们将进一步加速大模型的生态建设与软硬件创新，助力更多的用户利用大模型推动业务创新。” —— 陈葆立 英特尔数据中心与人工智能集团副 ………………………………