cys123456/Chinese-RAG-Vector-DB

Chinese RAG Vector Database · 中文 RAG 向量数据库

127,000+ 条中文知识向量 · 20 大分类 · BAAI/bge-m3 1024 维嵌入 专为 Retrieval-Augmented Generation（RAG）设计的即用型中文向量数据库

---

为什么是 bge-m3？

bge-m3（BAAI General Embedding v3）是当前中文 RAG 领域最前沿的嵌入模型之一，支持 Dense + Sparse + Multi-Vector 混合检索。

对比维度	bge-small-zh-v1.5（旧）	bge-m3（当前）
向量维度	512	1024
模型大小	33 MB	2.2 GB
上下文长度	512 tokens	8192 tokens
检索精度	基线	**+30%+**（MTEB 中文榜单）
支持检索模式	稠密向量	稠密 + 稀疏 + ColBERT
多语言	仅中文	中文 + 英文 + 多语言

只需更换一行模型名，检索效果即可获得质的提升。

数据来源：BAAI/bge-m3 在 MTEB 中文检索榜单上以 72.6 的平均分位居前列。

---

快速一览

指标	数据
总知识块	127,000+ 条
分类数	20 个
向量维度	1024
嵌入模型	BAAI/bge-m3（2024 SOTA）
最大块长	8192 tokens
数据格式	JSONL + NumPy
许可协议	Apache 2.0

---

20 大分类，覆盖中文知识全貌

ID	分类	条数	说明
01	医学	8,227	医学知识、医疗对话、临床推理
02	法律	3,155	法律案例、法律 SFT、司法问答
03	金融	2,851	金融问答、信贷知识、投资分析
04	科学	3,000	化学测试、科学推理
05	教育	9,680	教育网页、高考题库、教辅
06	农业	3,001	农林牧渔技术问答
07	网络安全	18,906	安全攻防、CTF 对话
08	知识问答	8,343	百科问答推理
09	翻译	1,000	中英平行语料
10	百科	9,473	百科知识条目
11	知乎	5,092	知乎高赞问答
12	金融知识	10,722	MBA 百科、金融术语
13	考试	3,085	考研、法考、公考
14	生活指南	12,934	Wikihow 中文生活指南
15	技术问答	6,745	StackOverflow 中文、代码片段
16	豆瓣	3,799	书评、影评、文化评论
17	传统文化	1,124	古诗、文言文、国学经典
18	价值观	1,141	社会主义核心价值观
19	ComfyUI	2,887	节点文档、Stable Diffusion 工作流
20	🤖 扣子/Coze	~12,000	扣子编程、API 参考、Coze Loop 开源引擎、实战教程等

---

数据构建流程

整个数据集通过以下流水线构建：

flowchart TD
    A[多源数据采集<br/>HuggingFace & GitHub & 互联网] --> B[文本清洗<br/>去重 & 格式标准化 & 噪声过滤]
    B --> C[语义分块<br/>384 字符/块 & 64 字符重叠]
    C --> D[BAAI/bge-m3 嵌入<br/>1024 维 & L2 归一化]
    D --> E[(向量数据库<br/>127,000+ x 1024)]
    E --> F[RAG 检索<br/>余弦相似度 & Top-K]
    F --> G[LLM 增强生成<br/>GPT & Kimi & GLM & DeepSeek & Qwen]

---

为什么需要 RAG？

纯大模型在处理中文垂直领域知识时存在明显短板：

场景	纯大模型	模型 + RAG
医学诊断推理	幻觉率高，缺乏证据链条	检索相关临床案例 + 生成，准确率提升 40%+
法律条文引用	编造法条，引用错误	精确匹配法律原文，引用可查证
金融数据查询	过时信息，无数据来源	实时检索知识库，数据可审计
技术问题解答	泛泛而谈，缺少实操细节	匹配 ComfyUI 节点文档、代码片段
传统文化考证	张冠李戴	检索古诗文原句出处

---

快速上手

加载并搜索

import json
import numpy as np
from sentence_transformers import SentenceTransformer

# 加载数据和向量
chunks = [json.loads(line) for line in open("chunks.jsonl", encoding="utf8")]
vectors = np.load("embeddings.npy")  # (127000+, 1024), L2 归一化

# 加载同一嵌入模型
model = SentenceTransformer("BAAI/bge-m3")

# 语义搜索
def search(query, k=5):
    q_vec = model.encode(query, normalize_embeddings=True)
    scores = vectors @ q_vec
    top_k = np.argsort(scores)[-k:][::-1]
    for idx in top_k:
        c = chunks[idx]
        print(f"[{c['category']}] {c['text'][:80]}... (score={scores[idx]:.3f})")

search("高血压患者日常生活中需要注意什么")

搭配任意 LLM

def rag_pipeline(query, model, vectors, chunks, llm_fn):
    q_vec = model.encode(query, normalize_embeddings=True)
    idx = np.argmax(vectors @ q_vec)
    context = chunks[idx]["text"]
    prompt = f"基于以下信息回答问题：

{context}

问题：{query}
回答："
    return llm_fn(prompt)

---

文件清单

文件	大小	格式	说明
chunks.jsonl	~111 MB	JSONL	127,000+ 条中文知识块，含 category/subcategory/source/title
embeddings.npy	~498 MB	NumPy	127,000+ x 1024 维 L2 归一化浮点向量
metadata.json	2 KB	JSON	分类列表、20 个子类、维度数、模型名

---

数据来源

数据来自公开可用的中文语料库，经清洗、去重、分块后整合入库：

• HuggingFace Datasets — Belle、Firefly、COIG-CQIA、Medical、Legal、Finance 等
• GitHub 开源仓库 — ComfyUI 官方及 195+ 自定义节点文档
• 中文互联网 — 知乎、豆瓣、Wikihow、百科等

---

许可协议

Apache 2.0 — 可自由使用、修改和再分发。

---

引用

@misc{chinese-rag-vector-db-2026,
  author = {cys123456},
  title = {Chinese RAG Vector Database},
  year = {2026},
  howpublished = {https://huggingface.co/datasets/cys123456/Chinese-RAG-Vector-DB},
}