Hệ thống RAG cấp độ sản xuất đòi hỏi sự phối hợp đa tầng giữa trích xuất dữ liệu, sắp xếp lại độ ưu tiên và kiểm soát ngữ cảnh.

1. Naive RAG (Cổ Điển): Điểm Khởi Đầu Nhưng Chưa Đủ Cho Production

Naive RAG dựa trên thuật toán Nearest Neighbor giữa vector truy vấn và các vector tài liệu được lưu trong Vector DB (như Pinecone, Qdrant, ChromaDB, Milvus).

Nhược điểm chí mạng: Không có bước thẩm định độ liên quan thực sự. Nếu cơ sở dữ liệu không chứa câu trả lời, mô hình vẫn ép buộc lấy ra top-3 chunk có điểm Cosine cao nhất, dẫn đến ảo giác nghiêm trọng.

2. Advanced Chunking RAG: Phân Đoạn Ngữ Nghĩa & Parent-Document Retriever

Thay vì cắt văn bản ngẫu nhiên theo số lượng ký tự (Fixed-size chunking như 500 ký tự cắt ngang câu), kỹ thuật này chia tài liệu theo ranh giới ngữ nghĩa (Semantic Chunks) hoặc cấu trúc tiêu đề (Markdown Header Splitter).

Kỹ thuật Parent-Document Retriever: Hệ thống lưu trữ các đoạn văn nhỏ (Small Chunks, ví dụ 100 tokens) để tối ưu hóa độ chính xác khi tìm kiếm vector. Nhưng khi gửi vào LLM, hệ thống sẽ truy xuất đoạn văn bản mẹ lớn hơn (Parent Chunk, 500 – 1000 tokens) chứa đoạn nhỏ đó. Điều này mang lại sự cân bằng hoàn hảo: tìm kiếm cực chuẩn nhưng ngữ cảnh cực rộng.

3. Hybrid Search RAG: Sự Kết Hợp Giữa Tìm Kiếm Từ Khóa BM25 & Vector Ngữ Nghĩa

Hybrid Search giải quyết triệt để điểm yếu của tìm kiếm vector bằng cách chạy song song hai thuật toán:

• Sparse Search (BM25 / TF-IDF): Bắt chính xác từng chữ, số hiệu sản phẩm, mã lỗi, tên biến kỹ thuật.
• Dense Search (Embedding Models): Bắt ý nghĩa trừu tượng và các cụm từ đồng nghĩa.

Sau khi lấy kết quả từ cả hai nguồn, thuật toán Reciprocal Rank Fusion (RRF) sẽ chuẩn hóa điểm số và hợp nhất danh sách xếp hạng mà không phụ thuộc vào thang đo độ tương đồng khác nhau của hai mô hình.

4. Multi-Query RAG & HyDE: Mở Rộng Truy Vấn Thông Minh

Người dùng thường đặt những câu hỏi ngắn ngủn hoặc mơ hồ (ví dụ: “lỗi thanh toán 502 xử lý sao?”). Multi-Query RAG sử dụng LLM để tự động viết lại thành 3 đến 5 câu hỏi với các góc nhìn kỹ thuật khác nhau, sau đó thực hiện tìm kiếm đồng thời và gộp kết quả.

Phương pháp HyDE (Hypothetical Document Embeddings): LLM được yêu cầu viết một đoạn văn bản giả định trả lời câu hỏi trước. Đoạn văn giả định này sau đó được dùng làm vector tìm kiếm. Vì văn bản giả định có cấu trúc ngữ nghĩa gần với tài liệu nguồn hơn là một câu hỏi ngắn, độ chuẩn xác của việc truy xuất tăng lên rõ rệt.

5. Reranking RAG (Bộ Xếp Hạng Hai Tầng): Lọc Bỏ 90% Nhiễu Ngữ Cảnh

Trong hệ thống lớn, retriever ban đầu (Bi-Encoder) được cấu hình để kéo về từ 20 đến 50 tài liệu ứng viên để đảm bảo độ bao phủ (High Recall). Tuy nhiên, nếu gửi toàn bộ 50 tài liệu vào LLM, chi phí API sẽ bùng nổ và mô hình sẽ bị phân tâm.

Cross-Encoder Reranker (như Cohere Rerank, BGE-Reranker): Mô hình này nhận đồng thời cả cặp (Query, Document) và tính toán điểm tương thích ngữ nghĩa đa chiều với độ chính xác vượt trội so với Bi-Encoder. Sau đó, hệ thống chỉ giữ lại top-3 hoặc top-5 chunk có điểm số cao nhất để nạp vào LLM cuối cùng.

6. Graph-Based RAG (GraphRAG): Đột Phá Suy Luận Đa Bước

Vector DB thông thường chỉ tìm được các điểm dữ liệu rời rạc, hoàn toàn bất lực khi người dùng hỏi các câu hỏi tổng thể như: “Tổng hợp mối quan hệ giữa các công ty con và giám đốc điều hành được nhắc đến trong 50 báo cáo gần nhất”.

GraphRAG tổ chức dữ liệu dưới dạng đồ thị tri thức (Knowledge Graph) gồm các bộ ba thực thể – quan hệ: (Thực thể A) → [MỐI QUAN HỆ] → (Thực thể B). Kết hợp cùng thuật toán tóm tắt cộng đồng (Leiden Community Summaries), GraphRAG cho phép hệ thống “nhìn thấy bức tranh toàn cảnh” và thực hiện duyệt đồ thị nhiều bước (Multi-hop Reasoning) với độ chính xác vượt trội.

Kiến trúc RAG nâng cao kết hợp đồ thị tri thức và cơ chế đánh giá độ tin cậy thời gian thực.

7. Hierarchical / Recursive RAG: Cấu Trúc Chỉ Mục Cây Đa Tầng

Đối với các tài liệu dài hàng trăm trang (như báo cáo tài chính thường niên, sổ tay quy trình chuẩn), Recursive RAG tạo ra cấu trúc cây đa tầng: Tầng 1 là tóm tắt toàn bộ tài liệu, Tầng 2 là tóm tắt từng chương, và Tầng 3 là các đoạn văn bản chi tiết.

Khi có truy vấn, hệ thống sẽ xác định chương liên quan trước ở tầng cao, sau đó mới đi sâu (drill-down) vào các đoạn chi tiết của đúng chương đó, loại bỏ việc tìm kiếm lan man trên toàn bộ kho tài liệu khổng lồ.

8. Agentic RAG: AI Agent Điều Hướng Và Tự Động Phân Tuyến Truy Xuất

Thay vì cố định một luồng xử lý duy nhất, Agentic RAG trao quyền quyết định cho một Tác tử AI (AI Agent). Agent phân tích câu hỏi của người dùng và quyết định:

• Có cần tra cứu dữ liệu hay không? (Ví dụ câu chào hỏi xã giao thì trả lời ngay).
• Nên tra cứu ở đâu? (Truy vấn Vector DB, chạy câu lệnh SQL vào bảng tài chính, hay gọi API bên thứ ba).
• Dữ liệu đã đủ để trả lời chưa? Nếu chưa, Agent sẽ tự động sinh truy vấn bổ sung cho đến khi thỏa mãn.

9. Adaptive & Corrective RAG (CRAG / Self-RAG): Hệ Thống Tự Thẩm Định Và Sửa Sai

Đây là đỉnh cao của độ tin cậy trong các hệ sinh thái LLM hiện đại. Sau khi tài liệu được truy xuất về, một mô hình phân loại (Retrieval Evaluator) sẽ đánh giá các chunk theo 3 mức độ:

• Chính xác (Correct): Chuyển thẳng sang bước sinh câu trả lời kèm trích dẫn nguồn.
• Mơ hồ / Thiếu hụt (Ambiguous): Kết hợp tài liệu nội bộ với công cụ tìm kiếm bên ngoài (Web Search API).
• Sai lệch / Không liên quan (Incorrect): Hủy bỏ toàn bộ kết quả, viết lại truy vấn và thực hiện tìm kiếm web thay thế.

Cơ chế tự kiểm định này giúp triệt tiêu hoàn toàn hiện tượng ảo giác khi kho tri thức nội bộ chưa được cập nhật thông tin mới.

# 1. Thuật toán Reciprocal Rank Fusion (RRF) kết hợp điểm Dense & Sparse
def reciprocal_rank_fusion(dense_results, sparse_results, k=60):
    rrf_scores = defaultdict(float)
    # Xử lý xếp hạng từ tìm kiếm ngữ nghĩa vector
    for rank, doc_id in enumerate(dense_results):
        rrf_scores[doc_id] += 1.0 / (k + rank + 1)
    # Xử lý xếp hạng từ tìm kiếm từ khóa BM25
    for rank, doc_id in enumerate(sparse_results):
        rrf_scores[doc_id] += 1.0 / (k + rank + 1)

    # Trả về danh sách tài liệu sắp xếp theo tổng điểm RRF
    return sorted(rrf_scores.items(), key=lambda item: item[1], reverse=True)

# 2. Lớp Reranker mô phỏng Cross-Encoder lọc top ứng viên
class SimpleCrossEncoderReranker:
    def rerank(self, query, candidate_docs, top_n=3):
        scored_docs = []         query_words = set(query.lower().split())
        for doc in candidate_docs:
            text_words = doc[‘text’].lower().split()
            # Đo lường tương tác từ khóa chuyên sâu (Deep cross-attention scoring)
            intersection = len(query_words.intersection(set(text_words)))
            relevance_score = intersection / max(1, len(query_words))
            scored_docs.append({‘id’: doc[‘id’], ‘text’: doc[‘text’], ‘score’: relevance_score})

        scored_docs.sort(key=lambda x: x[‘score’], reverse=True)
        return scored_docs[:top_n]

# 3. Kịch bản chạy thử nghiệm Pipeline hoàn chỉnh
query = “Kiến trúc Hybrid Search RAG hoạt động ra sao?”
dense_hits = [“doc_3”, “doc_1”, “doc_4”] sparse_hits = [“doc_1”, “doc_2”, “doc_3”]

fused = reciprocal_rank_fusion(dense_hits, sparse_hits)
print(“Kết quả RRF sau khi hợp nhất:”, fused)

Q1: Khi nào một dự án nên nâng cấp từ Naive RAG lên Hybrid Search RAG?

Bạn nên nâng cấp ngay lập tức khi kho tài liệu chứa các thuật ngữ chuyên biệt, mã sản phẩm (SKU), mã khách hàng, hàm code hoặc các số liệu thống kê cụ thể. Hybrid Search gần như không làm tăng đáng kể độ trễ nhưng tăng độ chính xác truy xuất lên từ 20% đến 35%.

Q2: Sử dụng Reranker có làm hệ thống bị chậm không?

Có thêm một độ trễ nhỏ (thường từ 80ms đến 250ms tùy vào việc bạn dùng mô hình Cross-Encoder cục bộ hay gọi API như Cohere Rerank). Tuy nhiên, độ trễ này hoàn toàn xứng đáng vì nó giúp loại bỏ các chunk rác, giảm lượng token nạp vào LLM và giảm đáng kể thời gian sinh phản hồi (Time To First Token) của LLM chính.

Q3: GraphRAG có thể thay thế hoàn toàn Vector RAG không?

Không. GraphRAG và Vector RAG bổ trợ cho nhau. Trong thực tế, các kiến trúc hiện đại nhất sử dụng giải pháp lai (Hybrid Graph-Vector Index): dùng Vector Search để định vị các điểm thực thể ban đầu, sau đó dùng Graph Traversal để mở rộng các mối quan hệ liên kết xung quanh.

Nguồn nghiên cứu học thuật và bài viết kỹ thuật tham khảo:

https://medium.com/ai-engineering-simplified/rag-architectures-every-ai-developer-must-know-a-complete-guide-f3524ee68b9c