专栏名称: 量子位
վ'ᴗ' ի 追踪AI行业和技术动态,这里更快一步!关注我们,回复“今天”,更多大新闻等你来发现
今天看啥  ›  专栏  ›  量子位

6.99元租H800,一键部署Llama3,有羊毛速来薅!

量子位  · 公众号  · AI  · 2024-05-13 12:29
明敏 发自 凹非寺量子位 | 公众号 QbitAI猛然间,大模型圈掀起一股“降价风潮”。前脚,智谱、DeepSeek等大模型厂商将API价格一降再降,输入100万tokens仅需1元。紧接着,GPU租赁的价格也被打了下来。现在潞晨云官方进行限时大额算力补贴,NVIDIA H800的租用价格,低至6.99元/卡/时;NVIDIA A800为5.99元/卡/时,4090甚至低至1.39元/卡/时。不只有租赁服务,平台上还支持快速简易部署Llama 3微调、训练、推理。其中在64卡H100集群上,经过Colossal-AI优化,相比微软+英伟达方案,可提升LLaMA3 70B的训练性能近20%,推理性能也优于vLLM等方案。Open-Sora也能玩转。如上最新动向来自潞晨云(https://cloud.luchentech.com)。他们不仅将个人开发者、中小企业用户玩转大模型的成本大幅降低,而且上手门槛也不高。具体来看实操演示~部署Llama 3微调训练推理潞晨云提供一键部署功能 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照