Embedding, tìm kiếm & RAG

Tổng quan: Embedding, tìm kiếm & RAG

Bản đồ module: từ vector nghĩa tới quyết định kiến trúc. Prerequisite: module Cỗ máy LLM (đặc biệt bài tokenization).

Embedding — không gian của nghĩa

Văn bản thành dãy số sao cho gần nghĩa thì gần nhau. Không phải mã hoá, không decode ngược được — và không có model 'tốt nhất' cho mọi task.

Cosine similarity — đo gần nghĩa bằng góc

Phép so khớp mặc định của tìm kiếm ngữ nghĩa: đo góc giữa hai vector, bỏ qua độ dài. Và vì sao điểm similarity cao chưa chắc là thứ người dùng cần.

Semantic search vs keyword search

Tìm theo nghĩa mạnh khi diễn đạt khác nhau, nhưng thua trắng trước mã lỗi, tên riêng, số hiệu phiên bản. Biết trước truy vấn nào sẽ hỏng — và khi nào cần hybrid.

Chunking — cắt tài liệu để truy hồi

Tài liệu phải cắt thành đoạn vì context hữu hạn và vì embedding cả cuốn sách thì loãng. Cắt sai là nguyên nhân hỏng RAG phổ biến nhất.

RAG — retrieve rồi mới generate

Không phải model tra database. Các đoạn liên quan được truy hồi rồi nhét vào context như phao thi trước khi sinh — hiểu từng bước để biết từng bước hỏng ở đâu.

Bốn kiểu hỏng của RAG

RAG giảm bịa nhưng không triệt tiêu. Bốn failure mode có tên chuẩn cho bạn khung chẩn đoán: hỏng ở retrieval hay generation, và generation hỏng theo kiểu nào.

Mini-challenge: chọn kiến trúc cho ba bài toán thật

Ba bài toán nghe giống nhau — chatbot policy, tài liệu kỹ thuật, trợ lý tester. Tự chọn prompt-only / RAG / fine-tune; có bài không cần RAG.

Tổng kết: Embedding, tìm kiếm & RAG

Từ vector nghĩa tới quyết định kiến trúc — cheat sheet, glossary, pitfall tổng hợp và self-assessment đối chiếu 5 learning outcomes của module.