DeliVali/cogito-estella
Cogito Estella — Latent Graph Engine (v0.7.0) Non-autoregressive decoder heads that turn SONAR (Meta) sentence embeddings directly into knowledge-graph triples — no token decoding, structurally valid by construction, 0.013 ms per concept on an RTX 5...
🔬 Cogito Estella — Latent Graph Engine (v0.7.0)
Đầu nạp không tự động sinh biến nhúng SONAR thành kiến thức đồ thị — không giải mã token, hợp lệ cấu trúc từ đầu.
Cogito Estella (v0.7.0) là một Latent Graph Engine dựa trên PyTorch, phát triển bởi DeliVali. Dự án sử dụng các đầu nạp (decoder heads) phi tự động sinh (non-autoregressive) để chuyển trực tiếp các nhúng câu từ SONAR (Meta) thành các bộ ba kiến thức đồ thị (knowledge-graph triples), tránh hoàn toàn bước giải mã token truyền thống. Nhờ thiết kế này, mỗi khái niệm chỉ mất khoảng 0.013 ms để xử lý trên RTX 5070, phù hợp cho các ứng dụng đòi hỏi tốc độ cao như GraphRAG, bộ nhớ dài của agent, hoặc trực quan hóa tool-call.
✨ Điểm nổi bật
- Giải mã trực tiếp từ nhúng SONAR: không cần qua lớp token decoder truyền thống.
- Kiến trúc phi tự động sinh (NAR): tăng tốc sinh đồng thời giữ độ chính xác.
- Tốc độ cực nhanh: 0.013 ms trên RTX 5070 cho mỗi khái niệm.
- Hỗ trợ nhiều checkpoint: tool-call (F1 = 1.000), code LoRA (F1 = 0.781), prose đa dạng biến thể (F1 lên tới 0.827).
- Từ vựng mở rộng: 20.000 thực thể, 60 quan hệ — phủ rộng ngữ nghĩa.
- Đánh giá nghiêm ngặt: không rò rỉ dữ liệu, kiểm tra trên tập chưa từng dùng để lựa chọn mô hình hay ngưỡng.
- Hỗ trợ đa ngôn ngữ: tích hợp với SONAR — nhúng đa ngôn ngữ của Meta.
- Giấy phép linh hoạt: decoder Apache-2.0; một số adapter kế thừa CC-BY-NC 4.0 từ SONAR.
💡 Vì sao đáng chú ý
Không giống các hệ thống truyền thống cần giải mã token trước khi xây dựng đồ thị, Cogito Estella đưa thẳng từ nhúng đã được mã hoá bởi SONAR sang các bộ ba kiến thức — giảm thiểu bước trung gian và tăng tốc đáng kể. Đây là cách tiếp cận hiếm thấy trong lĩnh vực trích xuất thực thể và quan hệ, đặc biệt khi kết hợp với kiến trúc phi tự động sinh.
Dự án phù hợp với các hệ thống GraphRAG, bộ nhớ dài của các agent AI, trực quan hóa tool-call, và ánh xạ mã nguồn — nơi tốc độ và độ chính xác cấu trúc đồng thời là yếu tố then chốt. Tuy nhiên, phạm vi trích xuất bị giới hạn bởi từ vựng thực thể (20k) và quan hệ (60 verb), nên nội dung nằm ngoài không gian này sẽ không được nắm bắt.
#GraphML #KnowledgeGraph #RelationExtraction #NonAutoregressive #SONAR #GraphRAG #AgentMemory #TiniX
Similar Projects
Discover other similar projects and AI models.
all-MiniLM-L6-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic search. Usage (Sentence-Transformers) Using t...
sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 This is a sentence-transformers(https://www.SBERT.net) model: It maps sentences & paragraphs to a 384 dimensional dense vector space and can be used for tasks like clustering or semantic se...
Cross-Encoder for MS Marco This model was trained on the MS Marco Passage Ranking(https://github.com/microsoft/MSMARCO-Passage-Ranking) task. The model can be used for Information Retrieval: Given a query, encode the query will all possible passages...
Model Card for T5 Small !model image(https://camo.githubusercontent.com/623b4dea0b653f2ad3f36c71ebfe749a677ac0a1/68747470733a2f2f6d69726f2e6d656469756d2e636f6d2f6d61782f343030362f312a44304a31674e51663876727255704b657944387750412e706e67) Table of Con...
BERT base model (uncased) Pretrained model on English language using a masked language modeling (MLM) objective. It was introduced in this paper(https://arxiv.org/abs/1810.04805) and first released in this repository(https://github.com/google-resear...
Grid Small Foundation Model (GridSFM) Model summary | Field | Value | | --- | --- | | Developer | Microsoft CorporationAuthorized representative: Microsoft Ireland Operations Limited 70 Sir John Rogerson’s Quay, Dublin 2, D02 R296, Ireland | | Descr...
AIFS Single - v0.2.1 Here, we introduce the Artificial Intelligence Forecasting System (AIFS), a data driven forecast model developed by the European Centre for Medium-Range Weather Forecasts (ECMWF). We show that AIFS produces highly skilled foreca...
Utonia: Toward One Encoder for All Point Clouds This repository contains the model weights for Utonia, a step toward one-from-all and one-for-all point cloud encoder presented in the paper Utonia: Toward One Encoder for All Point Clouds(https://arxi...
Concerto: Joint 2D-3D Self-Supervised Learning Emerges Spatial Representations This repository contains the model weights for Concerto, a novel approach for learning robust spatial representations presented in the paper Concerto: Joint 2D-3D Self-Su...