Meta Llama 3 模型来了！现已在 Amazon SageMaker JumpStart 中可用

今天，我们很高兴地宣布，Meta Llama 3 基础模型可通过 Amazon SageMaker JumpStart 进行部署和推理运行。Llama 3 模型是一系列预训练和微调的生成式文本模型。在本文中，我们将介绍如何通过 Amazon SageMaker JumpStart 发现和部署 Llama 3 模型。Meta Llama 3 是什么？Llama 3 有两种参数尺寸——8B 和 70B，上下文长度为 8K ——可支持广泛的使用案例，在推理、代码生成和指令执行方面有所改进。Llama 3 采用了仅解码器的 transformer 架构和新的 tokenizer，提供了 128K 大小的改进模型性能。另外，Meta 改进了后训练程序，大幅降低了错误拒绝率，提高了对齐性，增加了模型响应的多样性。您现在可以通过 Amazon SageMaker 的功能（如 Amazon SageMaker Pipelines、SageMaker Debugger 或容器日志）来获得 Llama 3 性能和 MLOps 控制的组合优势。此外，该模型将在您的 VPC 控制下的亚马逊云科技安全环 ………………………………