mozilla-ai/WizardCoder-Python-34B-V1.0-llamafile
WizardCoder Python 34B V1.0 - llamafile - Model creator: WizardLM(https://huggingface.co/WizardLM) - Original model: WizardCoder Python 34B V1.0(https://huggingface.co/WizardLM/WizardCoder-Python-34B-V1.0) Description This repo contains llamafile fo...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tháng
#1 Repository Của Tháng
#1 Repository Của Tháng
🧙♂️ WizardCoder Python 34B V1.0 phiên bản llamafile — chạy offline, không cần GPU đắt tiền
Phiên bản llamafile của mô hình code 34 tỷ tham số từ WizardLM, tối ưu cho CPU và GPU đa nền tảng.
Đây là bản đóng gói llamafile (theo định dạng mới của Mozilla Ocho) của mô hình WizardCoder Python 34B V1.0 do WizardLM tạo ra. Mục đích là cho phép chạy mô hình này trực tiếp trên trạm mà không cần phụ thuộc vào dịch vụ đám mây, sử dụng trình engine llama.cpp.
✨ Điểm nổi bật
- Mô hình mạnh: dựa trên kiến trúc Llama, được huấn luyện để viết code Python chất lượng cao.
- Định dạng llamafile: hỗ trợ chạy trên 6 hệ điều hành khác nhau, cả ARM64 và AMD64.
- Đa dạng phân lượp: cung cấp các bản lượt từ 2-bit, 3-bit, 4-bit, 5-bit, 6-bit đến 8-bit.
- Tương thích rộng: hoạt động với llama.cpp, text-generation-webui, KoboldCpp, LM Studio, cùng nhiều công cụ khác.
- Hiệu suất tốt: đạt điểm pass@1 là 0.732 trên bộ đánh giá HumanEval.
- Prompt template Alpaca: hỗ trợ định dạng hướng dẫn ch chuẩn cho tác vụ sinh code.
💡 Vì sao đáng chú ý
Khác với các bản phân phối mô hình lớn thường yêu cầu cấu hình phần cứng mạnh hoặc kết nối internet ổn định, bản llamafile này mang lại khả năng triển khai nhanh chóng trên máy tính cá nhân thông thường. Điều này mở cơ hội cho các nhà phát triển thử nghiệm và sử dụng mô hình code mà không cần đầu tư lớn.
#WizardCoder #llamafile #Python #CodeGeneration #OpenSource #TiniX
Similar Projects
Discover other similar projects and AI models.
WizardCoder: Empowering Code Large Language Models with Evol-Instruct 🏠 Home Page 🤗 HF Repo •🐱 Github Repo • 🐦 Twitter 📃 WizardLM • 📃 WizardCoder • 📃 WizardMath 👋 Join our Discord News 2024/01/04 🔥 We released WizardCoder-33B-V1.1 trained f...
WizardCoder: Empowering Code Large Language Models with Evol-Instruct 🏠 Home Page 🤗 HF Repo •🐱 Github Repo • 🐦 Twitter 📃 WizardLM • 📃 WizardCoder • 📃 WizardMath 👋 Join our Discord News 2024/01/04 🔥 We released WizardCoder-33B-V1.1 trained f...
all-MiniLM-L6-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic search. Usage (Sentence-Transformers) Using t...
News 🔥 🔥 🔥 [08/11/2023] We release WizardMath Models. 🔥 Our WizardMath-70B-V1.0 model slightly outperforms some closed-source LLMs on the GSM8K, including ChatGPT 3.5, Claude Instant 1 and PaLM 2 540B. 🔥 Our WizardMath-70B-V1.0 model achieves 81.6 pass@1 on the GSM8k Benchmarks, which is 24.8 points higher than the SOTA open-source LLM. 🔥 Our WizardMath-70B-V1.0 model achieves 22.7 pass@1 on the MATH Benchmarks, which is 9.2 points higher than the SOTA open-source LLM.… See the full description on the dataset page: https://huggingface.co/datasets/WizardLMTeam/WizardLM_evol_instruct_V2_196k.
This is the training data of WizardLM. News 🔥 🔥 🔥 [08/11/2023] We release WizardMath Models. 🔥 Our WizardMath-70B-V1.0 model slightly outperforms some closed-source LLMs on the GSM8K, including ChatGPT 3.5, Claude Instant 1 and PaLM 2 540B. 🔥 Our WizardMath-70B-V1.0 model achieves 81.6 pass@1 on the GSM8k Benchmarks, which is 24.8 points higher than the SOTA open-source LLM. 🔥 Our WizardMath-70B-V1.0 model achieves 22.7 pass@1 on the MATH Benchmarks, which is 9.2 points… See the full description on the dataset page: https://huggingface.co/datasets/WizardLMTeam/WizardLM_evol_instruct_70k.
FlagEmbedding Model List | FAQ | Usage | Evaluation | Train | Contact | Citation | License More details please refer to our Github: FlagEmbedding(https://github.com/FlagOpen/FlagEmbedding). If you are looking for a model that supports more languages,...
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...