近日,Meta正式宣布推出全新开源大模型Code Llama 70B,据悉,Code Llama70B在HumanEval基准测试中的准确率达到了53%,超过了GPT-3.5的48.1%,并且接近OpenAI的一篇论文(PDF)报告的GPT-4的67%,是目前评分最高的开源大模型。
据CNMO了解,Code Llama 以 Llama 2 为基础,可以帮助开发者根据提示创建代码,并调试人工编写的代码。据 Meta 表示,Code Llama 70B 可以处理更多的内容,更好的帮助开发者处理编程时遇到的问题。
据悉,Code Llama70B有三个版本的代码生成器,仍然是免费的,无论是研究还是商业用途。这个大型模型是在1TB的代码和与代码相关的数据上进行训练的。它托管在代码仓库Hugging Face上,该仓库提供了运行AI模型的GPU的访问。
Meta表示,它的大型模型34B和70B,“能够返回最好的结果,并提供更好的编码辅助”。此外,在过去的一年里,其他AI开发者也发布了代码生成器。亚马逊的CodeWhisperer于2023年4月推出。