Modelimage-text-to-text
dealignai

dealignai/Qwen3.5-VL-4B-JANG_4S-CRACK

Important: This model uses the JANG quantization format — the GGUF equivalent for MLX on Apple Silicon. Currently only supported by MLX Studio(https://mlx.studio) and the jang-tools Python package. --- MLX Studio — the only app that natively support...

9thích
474tải xuống
0lượt xem

Thành tựu nổi bật

Những danh hiệu mới nhất của dự án

1
TINIX TRENDING·Chủ đề: jang

#1 Repository Của Tuần

1
TINIX TRENDING·Chủ đề: jang

#1 Repository Của Tháng

2
TINIX TRENDING·Chủ đề: base_model:finetune:Qwen/Qwen3.5-4B

#2 Repository Của Tuần

🧠 Qwen3.5-VL-4B-JANG_4S-CRACK — Vision-Language mạnh, không giới hạn, tối ưu cho Mac

Mô hình Qwen 3.5 VL 4B được JANG mixed-precision quantize (3 GB) + CRACK abliterated — chạy nhanh trên Apple Silicon, không guardrails.

Đây là Qwen 3.5 VL 4B (4 tỷ tham số, hybrid SSM/Attention, có khả năng thị giác) được xử lý hai bước: (1) JANG quantized bằng định dạng JANG_4S (6-bit attention, 4-bit MLP) giảm xuống 3 GB; (2) CRACK abliterated bằng phẫu thuật trọng số CRACK để loại bỏ vĩnh viễn cơ chế từ chối an toàn. Mô hình hỗ trợ Thinking ON/OFF, chạy trên Mac 8 GB+, tốc độ 134 tok/s trên M4 Max.

✨ Điểm nổi bật

  • JANG_4S quantization: 6-bit attention + 4-bit MLP, kích thước 3 GB
  • CRACK abliterated: phẫu thuật trọng số CRACK xóa an toàn vĩnh viễn
  • Vision-Language: hỗ trợ xử lý hình ảnh qua MLX Studio / vMLX
  • Tốc độ cao: 134 tok/s trên M4 Max
  • Fits 8 GB+ Macs: chạy trên Mac vừa và lớn
  • HarmBench 91.2%: 292/320 câu hỏi vượt qua
  • Thinking mode: bật/tắt linh hoạt
  • MMLU +6.2%: cải thiện lý luận sau khi loại bỏ guardrails

💡 Vì sao đáng chú ý

JANG là định dạng quantize mixed-precision cho Apple Silicon — tương đương GGUF nhưng tối ưu MLX. CRACK (Controlled Refusal Ablation via Calibrated Knockouts) dùng 512 cặp prompt đối xứng để tính vector chiếu và xóa cơ chế từ chối an toàn ở mức trọng số. Kết quả: mô hình nhỏ gọn (3 GB) nhưng giữ hiệu năng cao (MMLU 63.1%, HarmBench 91.2%), chạy nhanh trên Mac.


#Qwen3.5VL #JANG #CRACK #MLX #AppleSilicon #VisionLanguage #TiniX

Dự án tương tự

Khám phá các dự án và mô hình AI khác có sự tương đồng.

Modelimage-text-to-text
HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive

Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive Join the Discord(https://discord.gg/SZ5vacTXYf) for updates, roadmaps, projects, or just to chat. Qwen3.6-35B-A3B uncensored by HauhauCS. 0/465 Refusals. HuggingFace's "Hardware Compatibility" widget do...

♥0
970.6k
Apr 17, 2026
Modelimage-text-to-text
Qwen/Qwen3.8-27B

Qwen3.8-27B !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc. !Tip F...

♥0
7.6M
Aug 14, 2026
Modelimage-text-to-text
google/gemma-4-31B-it

Hugging Face | GitHub | Launch Blog | Documentation License: Apache 2.0 | Authors: Google DeepMind Gemma is a family of open models built by Google DeepMind. Gemma 4 models are multimodal, handling text and image input (with audio supported on small...

♥0
8.4M
Jul 20, 2026
Modelimage-text-to-text
zai-org/GLM-5.3-Flash

GLM-5.3-Flash 👋 Join our WeChat or Discord community. 📖 Check out the GLM-5.3-Flash blog and GLM-5 Technical report. 📍 Use GLM-5.3-Flash API services on Z.ai API Platform. Introduction We introduce GLM-5.3-Flash, the first natively multimodal mod...

♥0
6.4M
Oct 15, 2026
Modelimage-text-to-text
empero-ai/Qwythos-9B-Claude-Mythos-5-1M-GGUF

🚨 v2 released — please redownload the GGUFs The v2 GGUFs replace the original normal filenames and add explicit -MTP- variants. If you downloaded this repo before v2, please redownload your GGUF. Fixes in v2: - tokenizer metadata normalized for Qwe...

♥0
353.0k
Jul 14, 2026
Modelimage-text-to-text
baidu/Unlimited-OCR

Unlimited OCR Works Welcome the Era of One-shot Long-horizon Parsing. Release - 2026/06/23 📄 Our paper is now available on arXiv(https://arxiv.org/abs/2606.23050). - 2026/06/23 🤝 Thanks to the ModelScope community for their support. Our model is n...

♥0
2.8M
Oct 14, 2026
Modelimage-text-to-text
moonshotai/Kimi-K3

📰  Tech Blog |     📄  Full Report 1. Model Introduction Kimi K3 is an open-weight, native multimodal agentic model and our most capable model to date. It is a 2.8T-parameter model built on Kimi Delta Attention (K...

♥0
856.2k
Sep 2, 2026
Modelimage-text-to-text
Qwen/Qwen3.8-Flash-Next

Qwen3.8-Flash-Next !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc....

♥0
3.2M
Aug 27, 2026
Modelimage-text-to-text
Qwen/Qwen3.5-9B

Qwen3.5-9B !Qwen Chat(https://img.shields.io/badge/%F0%9F%92%9C%EF%B8%8F%20Qwen%20Chat%20-536af5)(https://chat.qwen.ai) !Note This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers...

♥0
6.0M
Mar 2, 2026