【兴证非银&金融科技】金融科技产业链跟踪六：同花顺HithinkGPT正式发布，金融垂类大模型蓬勃发展

引言2024年1月12日，同花顺正式发布大模型问财HithinkGPT，是业内首家通过网信办备案的金融对话大模型。HithinkGPT大模型是由同花顺完全自主研发的大模型。大模型采用transformer的decoder-only架构，提供7B、13B、30B、70B和130B五种版本选择，最大允许32k文本输入，预训练金融语料达到万亿级tokens。每月可新增数千亿tokens优质预训练数据以及数十万条优质微调数据。算力方面，同花顺构建了千卡异构集群，为模型训练提供支持。HithinkGPT在多个场景中有出色的表现。通用领域，HithinkGPT大模型在C-Eval、GSM8K、MMLU、MATH等10多个主流Benchmark测评集上的表现超越了主流开源模型Llama-2。金融领域，同花顺自建了HithinkFinEval数据集，涵盖了证券从业考试、基金从业考试、会计师资格考试、CPA、CFA等17个金融行业考试。在这些考试中，问财各科目表现均优于通用领域模型。 ………………………………