技术应用 | 证券行业异构GPU池化平台建设与探索

文章预览

文/中信建投证券股份有限公司信息技术部总监   李剑戈   中信建投证券股份有限公司信息技术部   周立斌   刘达   魏尧  自从2022年11月OpenAI发布了ChatGPT后，掀起了新的一波AI热潮，带火了以大语言模型（LLM）和生成式人工智能（Generative AI，AIGC）为代表的大模型应用。在这之后的一年多时间里，大模型更新迭代速度日新月异，模型的数量与参数量均呈指数级增长，对算力的需求急剧攀升。英伟达作为GPU芯片行业龙头，其GPU产品在AI算力领域占据最领先位置，性能与生态是其最明显的优势。然而，B端的AI业务本身具有多样化落地场景需求，对GPU芯片的需求也呈现多元化；再加之复杂的国际局势，各行业对芯片的安全可控、持续稳定交付有强烈需求，因此探索一套能够针对不同架构GPU资源进行有效管理与调度的解决方案迫在眉睫。 本文从业务 ………………………………