整理 | 褚杏娟、核子可乐Text-Generation-Inference(又称 TGI)是 Hugging Face 今年早些时候启动的一个项目,作为支持 Hugging Face Inference API 和后来的 Hugging Chat 上的 LLM 推理的内部工具,旨在支持大型语言模型的优化推理。自推出后,该项目迅速流行,并被 Open-Assistant 和 nat.dev 等其他开源项目采用。近日,Hugging Face 宣布,在最新推出的 TGI v1.0 版本中,其开源许可证将从 Apache 2.0 改为 HFOIL 1.0。HFOIL 代表 Hugging Face Optimized Inference License,是 HuggingFace 专为优化推理解决方案而设计的协议。Hugging Face 表示,HFOIL 并不是真正的开源许可证,虽然源代码仍然可以访问,但其增加了一项限制:要销售基于 TGI 构建的托管或托管服务,需要单独的协议。
为什么要更换许可证?据悉,TGI 已成为 Hugging Face 商业产品(如推理端点)及其商业合作伙伴(如 Amazon SageMaker、Azure
………………………………