onnx-community/nanochat-d32-ONNX
Transformers.js If you haven't already, you can install the Transformers.js(https://huggingface.co/docs/transformers.js) JavaScript library from NPM(https://www.npmjs.com/package/@huggingface/transformers) using: bash npm i @huggingface/transformers...
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tuần
#1 Repository Của Tuần
#1 Repository Của Tuần
🚀 NanoChat-d32 ONNX: Mô hình ngôn ngữ nhỏ chạy trong trình duyệt
Phiên bản ONNX của mô hình ngôn ngữ nhỏ từ Andrej Karpathy, tối ưu để chạy trực tiếp trên trình duyệt hoặc môi trường Node.js bằng Transformers.js.
Đây là mô hình ngôn ngữ trang trải (base model) karpathy/nanochat-d32, được chuyển đổi sang định dạng ONNX và hỗ trợ phát sinh văn bản theo kiểu trò chuyện (conversational text-generation). Mô hình này cho phép bạn triển khai các ứng dụng AI ngôn ngữ trực tiếp trên trình duyệt mà không cần gọi tới bất kỳ API nào bên ngoài.
✨ Điểm nổi bật
- Hỗ trợ Transformers.js: Chạy trực tiếp trong trình duyệt hoặc Node.js thông qua thư viện JavaScript từ Hugging Face.
- Định dạng ONNX: Được tối ưu hóa để chạy nhanh và nhẹ trên các thiết bị cá nhân.
- Mã hóa số lượng tối ưu (q4): Sử dụng kiểu dữ liệu số lượng tối ưu để giảm kích thước mô hình và tăng tốc độ suy diễn.
- Hỗ trợ trò chuyện: Cấu trúc basemodel phù hợp để xây dựng các ứng dụng chatbot hoặc trợ lý ảo nhẹ.
- Streaming phản hồi: Hỗ trợ phát sinh văn bản theo thời gian thực thông qua
TextStreamer. - Mã nguồn mở (MIT): Tự do sử dụng và tùy chỉnh cho mục đích cá nhân hoặc thương mại.
💡 Vì sao đáng chú ý
NanoChat-d32 ONNX mang lại cách tiếp cận nhẹ nhàng và hiệu quả để triển khai mô hình ngôn ngữ nhỏ trên trình duyệr. Không cần máy chủ mạnh mẽ hay kết nối mạng ổn định — chỉ cần một vài dòng JavaScript, bạn đã có thể tích hợp khả năng phát sinh văn bản thông minh vào bất kỳ ứng dụng web nào. Đặc biệt phù hợp cho các dự án protype, demo AI hoặc các công cụ hỗ trợ lập trình viên trên nền tảng web.
#ONNX #TransformersJS #TextGeneration #WebAI #TiniX
Dự án tương tự
Khám phá các dự án và mô hình AI khác có sự tương đồng.
DeepSeek-R1 Paper Link👁️ 1. Introduction We introduce our first-generation reasoning models, DeepSeek-R1-Zero and DeepSeek-R1. DeepSeek-R1-Zero, a model trained via large-scale reinforcement learning (RL) without supervised fine-tuning (SFT) as a p...
GPT-2 Test the whole generation capabilities here: https://transformer.huggingface.co/doc/gpt2-large Pretrained model on English language using a causal language modeling (CLM) objective. It was introduced in this paper(https://d4mucfpksywv.cloudfro...
Model Information The Meta Llama 3.1 collection of multilingual large language models (LLMs) is a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes (text in/text out). The Llama 3.1 instruction tuned text onl...
Qwen3-0.6B Qwen3 Highlights Qwen3 is the latest generation of large language models in Qwen series, offering a comprehensive suite of dense and mixture-of-experts (MoE) models. Built upon extensive training, Qwen3 delivers groundbreaking advancement...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
Try gpt-oss · Guides · Model card · OpenAI blog Welcome to the gpt-oss series, OpenAI’s open-weight models(https://openai.com/open-models) designed for powerful reasoning, agentic tasks, and versatile developer use cases. We’re releasing two flavors...
DeepSeek-V4: Towards Highly Efficient Million-Token Context Intelligence Technical Report👁️ Introduction We present a preview version of DeepSeek-V4 series, including two strong Mixture-of-Experts (MoE) language models — DeepSeek-V4-Pro with 1.6T p...
Model Details Meta developed and released the Meta Llama 3 family of large language models (LLMs), a collection of pretrained and instruction tuned generative text models in 8 and 70B sizes. The Llama 3 instruction tuned models are optimized for dia...
GLM-5.2 👋 Join our WeChat or Discord community. 📖 Check out the GLM-5.2 blog and GLM-5 Technical report. 📍 Use GLM-5.2 API services on Z.ai API Platform. 🔜 Try GLM-5.2 here. Paper GitHub Introduction We're introducing GLM-5.2, our latest flagshi...