WizardLMTeam/WizardCoder-15B-V1.0
WizardCoder: Empowering Code Large Language Models with Evol-Instruct 🏠 Home Page 🤗 HF Repo •🐱 Github Repo • 🐦 Twitter 📃 WizardLM • 📃 WizardCoder • 📃 WizardMath 👋 Join our Discord News 2024/01/04 🔥 We released WizardCoder-33B-V1.1 trained f...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#2 Repository Của Tuần
🧠 WizardCoder-15B-V1.0: Mô hình sinh code mạnh từ Evol-Instruct
WizardCoder-15B-V1.0 dùng Evol-Instruct để huấn luyện, đạt 57.3% pass@1 trên HumanEval.
WizardCoder-15B-V1.0 là mô hình ngôn ngữ lớn sinh code với 15 tỷ tham số, phát triển bởi nhóm nghiên cứu WizardLM. Dựa trên kỹ thuật Evol-Instruct, mô hình được tối ưu để cải thiện khả năng viết và hiểu mã nguồn, đặc biệt hiệu quả trong các nhiệm vụ lập trình.
✨ Điểm nổi bật
- Evol-Instruct: Kỹ thuật tạo dữ liệu huấn luyện bằng cách phát triển dần các ví dụ từ đơn giản đến phức tạp.
- HumanEval 57.3% pass@1: Đạt kết quả mạnh trên bộ đánh giá mã nguồn HumanEval.
- OpenRAIL-M License: Giấy phép mở nguồn linh hoạt cho ứng dụng thương mại và nghiên cứu.
- Transformers & PyTorch: Tích hợp dễ dàng với hệ sinh thái Hugging Face.
- Code-focused Training: Tối ưu cho các ngôn ngữ lập trình khác nhau.
💡 Vì sao đáng chú ý
Khác với các mô hình LLM chung, WizardCoder-15B-V1.0 tập trung vào lĩnh vực sinh code, giúp cải thiện đáng kể độ chính xác và tính hữu ích khi sinh mã nguồn. Kết hợp Evol-Instruct giúp mô hình học sâu hơn qua các bài toán có độ khó tăng dần.
#WizardCoder #CodeLLM #EvolInstruct #HumanEval #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
GPT-2 Test the whole generation capabilities here: https://transformer.huggingface.co/doc/gpt2-large Pretrained model on English language using a causal language modeling (CLM) objective. It was introduced in this paper(https://d4mucfpksywv.cloudfro...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
BigScience Large Open-science Open-access Multilingual Language Model Version 1.3 / 6 July 2022 Current Checkpoint: Training Iteration 95000 Link to paper: here(https://arxiv.org/abs/2211.05100) Total seen tokens: 366B --- Model Details BLOOM is an...
DeepSeek-R1 Paper Link👁️ 1. Introduction We introduce our first-generation reasoning models, DeepSeek-R1-Zero and DeepSeek-R1. DeepSeek-R1-Zero, a model trained via large-scale reinforcement learning (RL) without supervised fine-tuning (SFT) as a p...
Qwen3-0.6B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancement...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...