华泰 | 计算机：通过Kimi看长文本的实现

大模型的长上下文支持能力已经成为重要的迭代方向。海外相对超前，国产大模型初创公司中，月之暗面的Kimi智能助手在23年10月即实现了20万字上下文，并在24年3月进一步迭代成为200万字。我们分析国内大模型厂商可能采取了多种路线混合优化方法实现长上下文。长上下文的通用性将解决多类场景需求，带来应用突破机会，建议从三大方向关注大模型长文本潜在受益产业链。核心观点Kimi上下文长度10倍增长，引领国内大模型长上下文迭代新方向大模型的长上下文支持能力已经成为重要的迭代方向。海外相对超前，Anthropic Claude 3模型标配200K上下文，并可向特定客户提供1M长度；Google Gemini 1.5 Pro标配支持1M上下文长度，内部已实现10M。国产大模型初创公司中，月之暗面的Kimi智能助手在23年10月即实现了20万字上下文，并在24年3月进一步迭代成为200万字。 ………………………………