中国信通院正式启动AI大模型算子适配生态建设工作

文章预览

为加速大模型软硬件协同生态构建，推动不同尺寸、类型模型与芯片软件栈、Triton等第三方中间件以及开发框架等多路线兼容适配，中国信息通信研究院（简称“中国信通院”）与人工智能关键技术和应用评测工业和信息化部重点实验室依托AISHPerf（Performance Benchmarks of Artificial Intelligence Software and Hardware）基准体系，联合业界伙伴共同开展面向大模型的算子级适配生态构建工作。第一批大模型算子级适配测试主要围绕大语言模型算子的丰富度、功能、性能开展，现已正式启动报名。后续将迭代更新算子列表，分类分批持续开展。 AISHPerf是由中国信通院与人工智能关键技术和应用评测工业和信息化部重点实验室联合构建的人工智能软硬件基准体系和工具平台，围绕兼容适配、训推系统、协同技术等方面进行创新研究与测试验证，引导软硬件协同技术生 ………………………………