最新SOTA开源代码大模型，Code Llama微调模型接连超越GPT-4！

这几天，代码大模型领域又热闹了起来！先是 Meta 开源代码专用大模型 Code Llama，且免费商用。效果也非常好，Code Llama 在 HumanEval 和 MBPP 代码数据集上的一次生成通过率（pass@1）轻松超越 GPT-3.5，其中「Unnatural」版本的 pass@1 逼近了原始 GPT-4（OpenAI 在今年 3 月 GPT-4 技术报告中的数据）。Code Llama 发布仅一天，来自 Phind 组织的研究人员用微调的 Code Llama-34B 在 HumanEval 评估中击败了 GPT-4。他们的两个模型 Phind-CodeLlama-34B-v1 以及 Phind-CodeLlama-34B-Python-v1 在 HumanEval 分别实现 67.6% 和 69.5% 的 pass@1，显然都超越了原始 GPT-4 的 67%。不过，仅仅又过了一天，Phind 微调版 Code Llama 又迎来了一个强劲的对手。这次是 WizardLM 团队的编程专用大模型 WizardCoder。该团队推出了基于 Code Llama 的最新版本模型 WizardCoder 34B，它利用 Evol-Instruct 进行微调而成。结果显示，它在 Human ………………………………