aufklarer/PersonaPlex-7B-MLX-8bit
PersonaPlex-7B MLX 8-bit PersonaPlex(https://arxiv.org/abs/2504.07966) 7B full-duplex speech-to-speech model converted to MLX safetensors with 8-bit quantization for Apple Silicon. Converted from nvidia/personaplex-7b-v1(https://huggingface.co/nvidi...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#1 Repository Của Tuần
🗣️ PersonaPlex-7B MLX 8-bit — Full-duplex speech-to-speech trên Apple Silicon
Mô hình PersonaPlex 7B full-duplex, chuyển đổi sang MLX với định lượng 8-bit, tối ưu cho chip Apple Silicon.
PersonaPlex-7B-MLX-8bit là bản chuyển đổi của mô hình nvidia/personaplex-7b-v1 — một mô hình speech-to-speech full-duplex dựa trên kiến trúc Kyutai Moshi. Được chuyển đổi sang định dạng MLX safetensors với định lượng 8-bit, bản thân mô hình cho phép chạy trực tiếp trên thiết bị Apple Silicon mà không cần phụ thuộc vào GPU NVIDIA.
✨ Điểm nổi bật
- Định lượng 8-bit: Giảm kích thước mô hình xuất xứ từ 7B params, tối ưu bộ nhớ và tốc độ suy diễn.
- Hỗ trợ MLX: Chạy trên nền tảng MLX của Apple, tận dụng hiệu năng chip M-series.
- Full-duplex: Xử lý song bài giọng nói đầu vào và phản hồi đồng thời, giống giao tiếp tự nhiên.
- Speech-to-speech: Nhận đầu vào bằng giọng nói và tạo phản hồi dưới dạng giọng nói, không cần bước trung gian văn bản.
- Dựa trên Moshi: Kiến trúc Temporal Transformer + Depformer + Mimi Codec, hỗ trợ sinh giọng nói đa codebooks.
- 18 bản ghi âm giọng nói: Bao gồm các preset NATF0-3, NATM0-3, VARF0-4, VARM0-4.
- Công cụ hỗ trợ Swift: Tích hợp với speech-swift để chạy nhanh trên thiết bị.
- Hai biến thể: Có sẵn phiên bản 4-bit (~4.9 GB) và 8-bit (~9.1 GB) để lựa chọn theo nhu cầu.
💡 Vì sao đáng chú ý
PersonaPlex-7B-MLX-8bit khác biệt ở chỗ kết hợp hiệu năng mô hình speech-to-speech full-duplex cao cấp với khả năng chạy trực tiếp trên Apple Silicon nhờ MLX. Thay vì phụ thuộc vào môi trường CUDA/GPU lớn, người dùng có thể triển khai ứng dụng trò chuyện bằng giọng nói ngay trên máy Mac M-series mà không cần cơ sở hạ tầng phần cứng đắt đỏ. Phù hợp cho các dự án thử nghiệm AI cá nhân, demo voice assistant, hoặc phát triển ứng dụng giao tiếp bằng giọng nói trên thiết bị.
#PersonaPlex #MLX #SpeechToSpeech #AppleSilicon #Moshi #TiniX
Similar Projects
Discover other similar projects and AI models.
PersonaPlex: Voice and role control for full duplex conversational speech models h1, h2, h3, h4, h5, h6 { color: 76b900; / NVIDIA green / font-weight: 700; } hr { border: none; border-top: 1px solid e5e7eb; margin: 2rem 0; } / Improve list spacing /...
Note: For full-duplex (real-time) inference, use the 8-bit variant(https://huggingface.co/aufklarer/PersonaPlex-7B-MLX-8bit) instead. 4-bit quantization degrades PersonaPlex response quality significantly — INT8 is both 30% faster (112ms vs 158ms/st...
Try LFM • Docs • LEAP • Discord LFM2.5‑Audio-1.5B LFM2.5-Audio-1.5B is Liquid AI(https://www.liquid.ai/)'s updated end-to-end audio foundation model. Key improvements include a custom, LFM based audio detokenizer, llama.cpp compatible GGUFs for CPU...
Try LFM • Documentation • LEAP LFM2‑Audio-1.5B LFM2-Audio-1.5B is Liquid AI(https://www.liquid.ai/)'s first end-to-end audio foundation model. Designed with low latency and real time conversation in mind, at only 1.5 billion parameters LFM2-Audio en...
Try LFM • Docs • LEAP • Discord LFM2.5-Audio-1.5B-JP This repository contains GGUF quantizations of LiquidAI/LFM2.5-Audio-1.5B-JP(https://huggingface.co/LiquidAI/LFM2.5-Audio-1.5B-JP) for use with llama.cpp(https://github.com/ggml-org/llama.cpp). Av...
LTX-2.5 — Video, Audio & World Simulation Full control and customization — self-host on your infrastructure. Homepage Docs GitHub Research API Playground Discord LTX License LTX-2.5 — Video, Audio & World Simulation Full control and customiz...
A simple, high-quality voice conversion tool, focused on ease of use and performance. 🌐 Website • 📚 Documentation • ☎️ Discord 🛒 Plugins • 📦 Compiled • 🎮 Playground • 🔎 Google Colab (UI) • 🔎 Google Colab (No UI) Introduction Applio is a power...
NeuCodec 🎧 !NeuCodec Intro(NeuCodec-Thumbnail.jpg)(https://www.youtube.com/watch?v=O7XH1lGZyYY) Click the image above to see NeuCodec in action on Youtube! Created by Neuphonic - building faster, smaller, on-device voice AI A lightweight neural cod...
MioCodec-25Hz-44.1kHz-v2: Lightweight Neural Audio Codec for Efficient Spoken Language Modeling !GitHub(https://img.shields.io/badge/Code-GitHub-black)(https://github.com/Aratako/MioCodec) MioCodec-25Hz-44.1kHz-v2 is an upsampled, high-fidelity vers...