Solstice-AI/Solace-1.0-GLM5.2-Fable5-GPT5.6Sol-DeepSeekV4Pro0813-Qwen3.8Max-KimiK3-Manus
Project Solace The largest verified frontier-model distillation corpus ever released. 60 datasets · 7 frontier model families · 12,586,893 unique conversations · One file · Zero filler The short version This is synthetic data. The best kind of synthetic data. Every example was generated by a verified 2026 frontier model — GLM-5.2, Claude Fable 5, Mythos 5, GPT-5.6 Sol, GPT-5.5 Codex, DeepSeek V4 Pro 0813, Qwen 3.8-Max, and Kimi K3 — then… See the full description on the dataset page: https://huggingface.co/datasets/Solstice-AI/Solace-1.0-GLM5.2-Fable5-GPT5.6Sol-DeepSeekV4Pro0813-Qwen3.8Max-KimiK3-Manus.
Thành tựu nổi bật
Những danh hiệu mới nhất của dự án
#1 Repository Của Tháng
#1 Repository Của Tháng
#1 Repository Của Tháng
🚀 Project Solace — Kho dữ liệu distill từ các mô hình frontier 2026 lớn nhất từng được phát hành
Dữ liệu t合成 tốt nhất là dữ liệu distill từ các mô hình mạnh nhất.
Project Solace là một kho dữ liệu synthetic SFT (Supervised Fine-Tuning) được tạo ra bởi các mô hình frontier năm 2026 thực sự — GLM-5.2, Claude Fable 5, Mythos 5, GPT-5.6 Sol, GPT-5.5 Codex, DeepSeek V4 Pro 0813, Qwen 3.8-Max và Kimi K3. Tổng hợp từ 60 nguồn dữ liệu, chứa đựng 12,586,893 hội thoại độc nhất, được exact-deduplicate bằng SHA256 và sắp xếp thông minh. Đây là nguồn dữ liệu distill sạch, không filler, prêt để dùng cho việc huấn luyện mô hình ngôn ngữ lớn.
✨ Điểm nổi bật
- 12,59 triệu hội thoại độc nhất: Được tổng hợp từ 60 nguồn dữ liệu của 7 gia đình mô hình frontier 2026.
- Exact SHA256 deduplication: Loại bỏ 3,445,534 bản nhân sao chép (21.5%) giữa và trong các nguồn dữ liệu.
- Một tệp JSONL duy nhất: Định dạng OpenAI
messages, hỗ trợ tải về và huấn luyện ngay lập tức. - 7 mô hình frontier 2026: Bao gồm GLM-5.2, Claude Fable 5, GPT-5.6 Sol, DeepSeek V4 Pro 0813, Qwen 3.8-Max, Kimi K3 và nhiều mô hình khác.
- Tagging chi tiết: Mỗi mẫu dữ liệu đều được gán nhãn nguồn dataset và mô hình sinh ra, dễ dàng lọc và phân tích.
- Dữ liệu agentic & coding: Bao gồm các trace agentic, phiên bản coding/debugging, ARC-AGI3, SWE-bench và lý luận toán học.
- Shuffle thông minh: Sắp xếp round-robin có trọng số để đảm bảo phân phối công bằng trong mỗi cửa sổ dữ liệu.
- Hỗ trợ đa framework: Tương thích với OpenAI Fine-tuning API, HuggingFace TRL, Axolotl, LLaMA-Factory, torchtune và bất kỳ trình đọc JSONL nào.
💡 Vì sao đáng chú ý
Khác với các dump distill thông thường chứa đựng output từ các mô hình nhỏ hoặc không rõ nguồn gốc, Project Solace cam kết chỉ sử dụng output từ các mô hình frontier thực sự năm 2026 — được kiểm chứng và audit thủ công từng dataset. Mỗi byte đều là output thật của mô hình, không có bất kỳ phần nào được sinh ra lại bởi mô hình nhỏ hơn. Đây là nguồn dữ liệu lý tưởng cho việc huấn luyện lại các mô hình tiếp theo, nơi mỗi mẫu đều mang lại giá trị thực sự từ trên "vành đai" mô hình.
#Distillation #SFT #SyntheticData #AITraining #TiniX
Similar Projects
Discover other similar projects and AI models.
Project Solace The largest verified frontier-model distillation corpus ever released. 60 datasets · 7 frontier model families · 12,586,893 unique conversations · One file · Zero filler The short version This is synthetic data. The best kind of synthetic data. Every example was generated by a verified 2026 frontier model — GLM-5.2, Claude Fable 5, Mythos 5, GPT-5.6 Sol, GPT-5.5 Codex, DeepSeek V4 Pro 0813, Qwen 3.8-Max, and Kimi K3 — then… See the full description on the dataset page: https://huggingface.co/datasets/Solstice-AI/Solace-1.0-Omni.
Project Solace The largest verified frontier-model distillation corpus ever released. 60 datasets · 7 frontier model families · 12,586,893 unique conversations · One file · Zero filler The short version This is synthetic data. The best kind of synthetic data. Every example was generated by a verified 2026 frontier model — GLM-5.2, Claude Fable 5, Mythos 5, GPT-5.6 Sol, GPT-5.5 Codex, DeepSeek V4 Pro 0813, Qwen 3.8-Max, and Kimi K3 — then… See the full description on the dataset page: https://huggingface.co/datasets/Solstice-AI/Project-Solace-1.0-GLM5.2-Fable5-Opus5-DeepseekV4-Pro0813-Preview.
Scaling Synthetic Data Creation with 1,000,000,000 Personas This repo releases data introduced in our paper Scaling Synthetic Data Creation with 1,000,000,000 Personas: We propose a novel persona-driven data synthesis methodology that leverages various perspectives within a large language model (LLM) to create diverse synthetic data. To fully exploit this methodology at scale, we introduce PERSONA HUB – a collection of 1 billion diverse personas automatically curated from web… See the full description on the dataset page: https://huggingface.co/datasets/proj-persona/PersonaHub.
Dataset Card for Wikimedia Wikipedia Dataset Summary Wikipedia dataset containing cleaned articles of all languages. The dataset is built from the Wikipedia dumps (https://dumps.wikimedia.org/) with one subset per language, each containing a single train split. Each example contains the content of one full Wikipedia article with cleaning to strip markdown and unwanted sections (references, etc.). All language subsets have already been processed for recent dump… See the full description on the dataset page: https://huggingface.co/datasets/wikimedia/wikipedia.
Cosmopedia v0.1 Image generated by DALL-E, the prompt was generated by Mixtral-8x7B-Instruct-v0.1 Note: Cosmopedia v0.2 is available at smollm-corpus User: What do you think "Cosmopedia" could mean? Hint: in our case it's not related to cosmology. Mixtral-8x7B-Instruct-v0.1: A possible meaning for "Cosmopedia" could be an encyclopedia or collection of information about different cultures, societies, and topics from around the world, emphasizing diversity and global… See the full description on the dataset page: https://huggingface.co/datasets/HuggingFaceTB/cosmopedia.
Infinity Instruct Beijing Academy of Artificial Intelligence (BAAI) [Paper][Code][🤗] The quality and scale of instruction data are crucial for model performance. Recently, open-source models have increasingly relied on fine-tuning datasets comprising millions of instances, necessitating both high quality and large scale. However, the open-source community has long been constrained by the high costs associated with building such extensive and high-quality instruction… See the full description on the dataset page: https://huggingface.co/datasets/BAAI/Infinity-Instruct.
Glint Research Dataset Card Fable 5 Pi Agent Traces A compact, high-signal corpus of Fable 5 coding-agent traces converted into Hugging Face Agent Traces / Pi-compatible sessions for Data Studio inspection, tool-use policy learning, and reasoning/action distillation. Primary Config pi_agent/train Agent Trace preview enabled 4,665 Pi trace sessions 60 source sessions 3,799 tool… See the full description on the dataset page: https://huggingface.co/datasets/Glint-Research/Fable-5-traces.
🐋 The OpenOrca Dataset! 🐋 We are thrilled to announce the release of the OpenOrca dataset! This rich collection of augmented FLAN data aligns, as best as possible, with the distributions outlined in the Orca paper. It has been instrumental in generating high-performing model checkpoints and serves as a valuable resource for all NLP researchers and developers! Official Models Mistral-7B-OpenOrca Our latest model, the first 7B to score better overall than all… See the full description on the dataset page: https://huggingface.co/datasets/Open-Orca/OpenOrca.
📚 FineWeb-Edu 1.3 trillion tokens of the finest educational data the 🌐 web has to offer Paper: https://arxiv.org/abs/2406.17557 What is it? 📚 FineWeb-Edu dataset consists of 1.3T tokens and 5.4T tokens (FineWeb-Edu-score-2) of educational web pages filtered from 🍷 FineWeb dataset. This is the 1.3 trillion version. To enhance FineWeb's quality, we developed an educational quality classifier using annotations generated by LLama3-70B-Instruct. We… See the full description on the dataset page: https://huggingface.co/datasets/HuggingFaceFW/fineweb-edu.