WizardLMTeam/WizardCoder-15B-V1.0
WizardCoder: Empowering Code Large Language Models with Evol-Instruct 🏠 Home Page 🤗 HF Repo •🐱 Github Repo • 🐦 Twitter 📃 WizardLM • 📃 WizardCoder • 📃 WizardMath 👋 Join our Discord News 2024/01/04 🔥 We released WizardCoder-33B-V1.1 trained f...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#2 Repository Của Tuần
🧠 WizardCoder-15B-V1.0: Mô hình sinh code mạnh từ Evol-Instruct
WizardCoder-15B-V1.0 dùng Evol-Instruct để huấn luyện, đạt 57.3% pass@1 trên HumanEval.
WizardCoder-15B-V1.0 là mô hình ngôn ngữ lớn sinh code với 15 tỷ tham số, phát triển bởi nhóm nghiên cứu WizardLM. Dựa trên kỹ thuật Evol-Instruct, mô hình được tối ưu để cải thiện khả năng viết và hiểu mã nguồn, đặc biệt hiệu quả trong các nhiệm vụ lập trình.
✨ Điểm nổi bật
- Evol-Instruct: Kỹ thuật tạo dữ liệu huấn luyện bằng cách phát triển dần các ví dụ từ đơn giản đến phức tạp.
- HumanEval 57.3% pass@1: Đạt kết quả mạnh trên bộ đánh giá mã nguồn HumanEval.
- OpenRAIL-M License: Giấy phép mở nguồn linh hoạt cho ứng dụng thương mại và nghiên cứu.
- Transformers & PyTorch: Tích hợp dễ dàng với hệ sinh thái Hugging Face.
- Code-focused Training: Tối ưu cho các ngôn ngữ lập trình khác nhau.
💡 Vì sao đáng chú ý
Khác với các mô hình LLM chung, WizardCoder-15B-V1.0 tập trung vào lĩnh vực sinh code, giúp cải thiện đáng kể độ chính xác và tính hữu ích khi sinh mã nguồn. Kết hợp Evol-Instruct giúp mô hình học sâu hơn qua các bài toán có độ khó tăng dần.
#WizardCoder #CodeLLM #EvolInstruct #HumanEval #TiniX
Similar Projects
Discover other similar projects and AI models.
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
GPT-2 Test the whole generation capabilities here: https://transformer.huggingface.co/doc/gpt2-large Pretrained model on English language using a causal language modeling (CLM) objective. It was introduced in this paper(https://d4mucfpksywv.cloudfro...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
BigScience Large Open-science Open-access Multilingual Language Model Version 1.3 / 6 July 2022 Current Checkpoint: Training Iteration 95000 Link to paper: here(https://arxiv.org/abs/2211.05100) Total seen tokens: 366B --- Model Details BLOOM is an...
DeepSeek-R1 Paper Link👁️ 1. Introduction We introduce our first-generation reasoning models, DeepSeek-R1-Zero and DeepSeek-R1. DeepSeek-R1-Zero, a model trained via large-scale reinforcement learning (RL) without supervised fine-tuning (SFT) as a p...
Qwen3-0.6B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancement...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...