mradermacher/Crow-9B-Opus-4.6-Distill-Heretic_Qwen3.5-GGUF
About static quants of https://huggingface.co/Crownelius/Crow-9B-HERETIC-4.6 For a convenient overview and download list, visit our model page for this model(https://hf.tst.eu/modelCrow-9B-Opus-4.6-Distill-HereticQwen3.5-GGUF). weighted/imatrix quan...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#1 Repository Của Tuần
🚀 Crow-9B-Opus-4.6-Distill-Heretic_Qwen3.5-GGUF: Bản đồng bộ GGUF đa ngôn ngữ từ Crow-9B-HERETIC-4.6
Bản quantized GGUF của mô hình Crow-9B-HERETIC-4.6, được xây dựng từ Qwen3.5 với hỗ trợ đa ngôn ngữ và nhiều tùy chọn quant khác nhau.
Đây là bản quantized GGUF của mô hình Crownelius/Crow-9B-HERETIC-4.6, do người dùng mradermacher thực hiện. Mô hình nền được huấn luyện trên nhiều bộ dữ liệu đa dạng bao gồm Creative Writing, lập trình, lý luận toán học và dữ liệu đa ngôn ngữ. Phiên bản GGUF này hỗ trợ hơn 20 ngôn ngữ như tiếng Anh, Trung, Nga, Tây Ban Nha, Pháp, Nhật, Hàn... và được thiết kế để chạy hiệu quả trên phần cứng consumer-grade.
✨ Điểm nổi bật
- Đa ngôn ngữ hỗ trợ: Hỗ trợ hơn 20 ngôn ngữ bao gồm en, zh, ru, es, fr, it, ja, ko...
- Nhiều tùy chọn quant: Cung cấp đầy đủ các dạng quant như Q2_K, Q3_K_S, Q4_K_S, Q5_K_M, Q6_K, Q8_0, f16 và các dạng IQ (IQ4_XS).
- Multi-modal supplement: Hỗ trợ module mmproj-Q8_0 và mmproj-f16 cho xử lý đa dạng thức.
- Tối ưu tốc độ: Các bản quant Q4_K_S, Q4_K_M, Q8_0 được đề xuất là "fast, recommended" hoặc "fast, best quality".
- So sánh chất lượng: Cung cấp biểu đồ so sánh chất lượng quant từ ikawrakow và ý kiến từ Artefact2.
- Dễ tích hợp: Tương thích với thư viện transformers và các công cụ GGUF tiêu chuẩn.
💡 Vì sao đáng chú ý
Phiên bản GGUF này cho phép người dùng dễ dàng triển khai mô hình lớn Crow-9B trên các thiết bị cá nhân mà không cần phần cứng đắt tiền, nhờ các bản quantized giảm kích thước đáng kể so với bản gốc 18GB. Đặc biệt, các bản quant IQ4_XS và Q4_K_S mang lại sự cân bằng tốt giữa tốc độ, kích thước và chất lượng, phù hợp cho cả nghiên cứu và ứng dụng thực tế.
#AI #MachineLearning #GGUF #Qwen3.5 #OpenSource #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
Whisper Whisper is a state-of-the-art model for automatic speech recognition (ASR) and speech translation, proposed in the paper Robust Speech Recognition via Large-Scale Weak Supervision(https://huggingface.co/papers/2212.04356) by Alec Radford et...
Whisper Whisper is a state-of-the-art model for automatic speech recognition (ASR) and speech translation, proposed in the paper Robust Speech Recognition via Large-Scale Weak Supervision(https://huggingface.co/papers/2212.04356) by Alec Radford et...
sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic se...
XLM-RoBERTa (base-sized model) XLM-RoBERTa model pre-trained on 2.5TB of filtered CommonCrawl data containing 100 languages. It was introduced in the paper Unsupervised Cross-lingual Representation Learning at Scale(https://arxiv.org/abs/1911.02116)...
Multilingual-E5-large Multilingual E5 Text Embeddings: A Technical Report(https://arxiv.org/pdf/2402.05672). Liang Wang, Nan Yang, Xiaolong Huang, Linjun Yang, Rangan Majumder, Furu Wei, arXiv 2024 This model has 24 layers and the embedding size is...
Multilingual-E5-small Multilingual E5 Text Embeddings: A Technical Report(https://arxiv.org/pdf/2402.05672). Liang Wang, Nan Yang, Xiaolong Huang, Linjun Yang, Rangan Majumder, Furu Wei, arXiv 2024 This model has 12 layers and the embedding size is...
Whisper Whisper is a pre-trained model for automatic speech recognition (ASR) and speech translation. Trained on 680k hours of labelled data, Whisper models demonstrate a strong ability to generalise to many datasets and domains without the need for...
OmniVoice 🌍 OmniVoice is a massively multilingual zero-shot text-to-speech (TTS) model supporting over 600 languages. Built on a novel diffusion language model-style architecture, it delivers high-quality speech w...
Multilingual-E5-base Multilingual E5 Text Embeddings: A Technical Report(https://arxiv.org/pdf/2402.05672). Liang Wang, Nan Yang, Xiaolong Huang, Linjun Yang, Rangan Majumder, Furu Wei, arXiv 2024 This model has 12 layers and the embedding size is 7...