nightmedia/Qwen3.6-27B-GrandWichtel-mxfp8-mlx
Qwen3.6-27B-GrandWichtel-mxfp8-mlx !Miraculix(https://cdn-uploads.huggingface.co/production/uploads/67b0caceb06805a4370c44c5/e4bxd7-DF5twqVua3st1W.png) An ARC score of 0.743 on mxfp8 is completely unprecedented for a model of this parameter footprin...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#1 Repository Của Tuần
🚀 Qwen3.6-27B-GrandWichtel-mxfp8-mlx: Mô hình AI 27 tỷ tham số với điểm ARC chưa từng thấy
Điểm ARC lên tới 0.743 trên mxfp8 — tiền phong chưa từng có cho dòng mô hình này.
Đây là một mô hình ngôn ngữ lớn 27B được tạo ra thông qua kỹ thuật hợp nhất trọng số NuSLERP, kết hợp nhiều nền tảng cơ sở khác nhau như Wichtel-Qwen3.6-27B, Architect-Polaris-Fable-F451-Tess, và các mô hình liên quan. Mô hình hỗ trợ đa ngôn ngữ (Anh, Trung, Nhật, Tây Ban Nha), tích hợp tính năng phỏng vấn suy nghĩ (thinking toggle), và tối ưu để chạy trên nền tảng MLX với độ chính xác mxfp8 hoặc mxfp4.
✨ Điểm nổi bật
- NuSLERP merge: Kết hợp thông minh nhiều mô hình cơ sở để tối ưu hiệu suất.
- Điểm ARC lịch sử: Đạt 0.743 trên ARC-Challenge với mã hóa mxfp8.
- Hỗ trợ MLX: Tối ưu để chạy trên thiết bị Apple Silicon thông qua framework MLX.
- Thinking toggle: Hỗ trợ bật/tắt suy nghĩ bằng thẻ
<|think_on|>hoặc<|think_off|>. - Đa ngôn ngữ: Hỗ trợ tiếng Anh, Trung, Nhật, và Tây Ban Nha.
- Các phiên bản mã hóa: Cung cấp cả mã hóa mxfp8 và mxfp4 để cân bằng giữa bộ nhớ và tốc độ.
- Đánh giá toàn diện: Được kiểm chứng qua nhiều bộ dữ liệu đánh giá như ARC, BoolQ, HellaSwag, v.v.
💡 Vì sao đáng chú ý
Mô hình này không chỉ nổi bật với kết quả đánh giá vượt trội mà còn minh chứng cho sức mạnh của kỹ thuật hợp nhất mô hình (model merging) trong việc tạo ra kiến trúc mới lạ. Việc kết hợp giữa các mô hình chuyên biệt về công cụ và lập trình với các mô hình mang tính triết học và sáng tạo đã tạo ra một "mô hình siêu hợp" mới. Điều này mở ra hướng nghiên cứu mới trong việc xây dựng các mô hình AI mạnh mẽ và đa năng từ sự kết hợp của nhiều chuyên gia phụ hợp.
#Qwen36 #AIResearch #ModelMerging #MLX #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
Ultimate NEO GGUF QUANTS: Custom built DUAL Imatrix NEO-CODER quants that exceed all other quants in terms of quality, stability, precision and long convo usage. IQ4XS/NL regularly scores at 94% of full precision (bf16), Q6/Q8 at 97% and 98% of full...
WARNING: NSFW. Vivid prose. INTENSE. Visceral Details. HORROR. Swearing. UNCENSORED... humor, romance, fun. Mistral-MOE-4X7B-Dark-MultiVerse-Uncensored-Enhanced32-24B-GGUF A float 32 high precision M.O.E model, quanted in float 32 with additional upg...
Ultimate: Exceeds Qwen 3.6 27B performance, uncensored and NEO-Di-Matrix quants to bring all that power in quant form. Q4/IQ4s clock in at 94% of full precision (BF16), with Q6 at just under 98%. Even IQ2M : 83% of BF16. 5 Metrics per quant, plus ben...
Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED Fine tune via Unsloth of Qwen 3.5 9B dense model using Claude 4.6 large distill dataset on local hardware. This has VASTLY improved the thinking generation (and benchmarks) of this model replac...
WARNING: NSFW. Vivid prose. INTENSE. Visceral Details. Light HORROR. Swearing. UNCENSORED... humor, romance, fun. NEW HERETIC L3.2 Versions (ablit, 9.25/100 refusal rates): 24B-A3B(https://huggingface.co/DavidAU/Llama3.2-24B-A3B-II-Dark-Champion-INST...
GLM-4.7-Flash-Uncensored-Heretic-NEO-CODE-Imatrix-MAX-GGUF Specialized and Enhanced UNCENSORED/HERETIC GGUF quants for the new GLM-4.7-Flash, 30B-A3B MOE, mixture of experts model. https://huggingface.co/zai-org/GLM-4.7-Flash This model can be run on...
NEW! Horror Version fine tune available. See below. L3.2-Rogue-Creative-Instruct-Uncensored-Abliterated-7B-GGUF It is a LLama 3.2 model, max context of 131,072 (128k+). This model has been designed to be relatively bullet proof and operates with most...
NEXT LEVEL; Gemma 4 8B : https://huggingface.co/DavidAU/gemma-4-E4B-it-The-DECKARD-Expresso-Universe-HERETIC-UNCENSORED-Thinking --- WARNING: Uncensored. Cursing, Swearing, Horror, Graphic Details Refreshed, Upgraded and New quants (augmented). Bett...
WARNING: NSFW. Vivid prose. INTENSE. Visceral Details. Light HORROR. Swearing. UNCENSORED... humor, romance, fun... and can be used for ANY use case. Llama-3.2-8X4B-MOE-V2-Dark-Champion-Instruct-uncensored-abliterated-21B-GGUF It is a LLama 3.2 model...