LLM nằm ở đâu trên bản đồ AI, deep learning, generative AI

TL;DR: AI là vòng ngoài cùng — mọi chương trình giải bài toán cần trí thông minh, kể cả rule-based không học gì từ dữ liệu. Bên trong lần lượt là machine learning (học từ dữ liệu), deep learning (mạng nơ-ron nhiều lớp), rồi generative AI (sinh nội dung mới). LLM nằm ở ô trong cùng — generative AI cho văn bản. Điều bất ngờ: pretraining một LLM vẫn là học có tín hiệu dạy, y hệt supervised learning — chỉ khác ở chỗ không ai gán nhãn tay, nhãn tự sinh từ chính văn bản. Vì vậy toàn bộ thứ model biết nằm trong trọng số, đóng băng lúc huấn luyện — không có database nào để tra cứu chuyện xảy ra sau đó.

Feed tin công nghệ của bạn xen kẽ hai loại bài khác hẳn nhau. Một bài nói bệnh viện dùng AI đọc phim X-quang, phát hiện bất thường mắt người dễ bỏ sót. Bài kế tiếp nói một trợ lý AI viết xong bản nháp email chỉ trong vài giây. Cả hai bị gọi chung một từ — AI — nên phản xạ tự nhiên là nghĩ chúng chạy trên cùng một công nghệ.

Không phải vậy. Hai hệ đó đứng ở hai vị trí khác hẳn nhau trên cùng một bản đồ, và gộp chung thành "AI" là cách nhanh nhất để đọc sai mọi tài liệu nhắc tới AI, machine learning, deep learning, generative AI như thể chúng đồng nghĩa. Bài này vẽ lại bản đồ đó, định vị LLM đúng chỗ, rồi hé lộ một sự thật ít ai để ý: pretraining — bước tốn kém nhất khi làm ra LLM — vẫn là một dạng học có tín hiệu dạy.

1. Analogy — búp bê Nga lồng nhau

Búp bê Nga (matryoshka) là bộ búp bê gỗ lồng nhau: mở con to nhất thấy con nhỏ hơn bên trong, mở tiếp thấy con nhỏ hơn nữa, tới con trong cùng thì đặc ruột. Bản đồ AI y hệt vậy — mỗi vòng bên trong là một tập con thực sự nằm trọn trong vòng ngoài, không phải nhánh song song.

2. Bốn vòng trên bản đồ — LLM đứng ở đâu?

Vòng ngoài cùng, AI, không đòi hỏi học từ dữ liệu — hệ luật viết tay (rule-based) mà bài trước phân tích vẫn là AI đúng nghĩa, chỉ không nằm trong vòng kế tiếp. Vòng thứ hai, machine learning, là tập con của AI: học pattern từ ví dụ thay vì luật gõ tay. Vòng thứ ba, deep learning, là tập con của machine learning: dùng mạng nơ-ron nhiều lớp tự học đặc trưng từ dữ liệu thô. Vòng thứ tư, generative AI, là tập con của deep learning: sinh nội dung mới thay vì chỉ gán nhãn hoặc dự đoán một con số. (Phạm vi: đây là cách gọi hiện hành — tài liệu học thuật dùng "generative model" rộng hơn, có trước deep learning và không bắt buộc mạng nơ-ron, ví dụ Naive Bayes hay n-gram.) LLM đứng ở ô trong cùng — generative AI cho văn bản, sinh ra bằng cách dự đoán mảnh tiếp theo lặp lại (cơ chế chi tiết thuộc bài đầu module 3).

Hệ đọc phim X-quang là bài toán phân loại — gán nhãn có sẵn cho một ảnh — dừng ở vòng deep learning, chưa chạm generative AI. Trợ lý viết email sinh ra văn bản chưa từng tồn tại — nằm ở vòng generative AI, cụ thể là LLM.

3. Vì sao pretraining vẫn là học có tín hiệu dạy?

Phản xạ thường gặp là xếp LLM vào unsupervised — vì chẳng ai gán nhãn hàng tỷ trang văn bản. Trước khi kết luận, hãy xem cách pretraining thực sự vận hành: lấy một đoạn văn bản có thật, che phần cuối đi, bắt model đoán phần bị che, rồi so với phần thật. Phần thật không cần ai gán nhãn — nó vẫn nằm sẵn ngay đó, trong chính đoạn văn bản gốc. Đoán đúng hay sai lộ ra ngay, và sai lệch dùng để chỉnh trọng số — quy trình y hệt supervised cổ điển, chỉ khác nguồn gốc đáp án.

Tên gọi kỹ thuật là self-supervised learning (học có giám sát tự thân) — vẫn thuộc nhóm supervised, nhưng nhãn tự sinh từ chính dữ liệu thay vì người gán. Khác unsupervised thật sự ở chỗ: unsupervised không có đáp án nào để so, còn ở đây luôn có một đáp án đúng cho mỗi lần đoán, chỉ là lấy miễn phí từ văn bản.

Chi tiết này giải thích đúng lý do LLM scale được tới mức supervised cổ điển không theo kịp: supervised cổ điển tắc ở chi phí gán nhãn — muốn một triệu mẫu đã gán nhãn thì phải trả tiền người ngồi gán. Self-supervised xoá bỏ chi phí đó, nên tập huấn luyện lớn tới mức đọc gần hết văn bản công khai sẵn có, không ai phải gán một nhãn nào.

4. Hệ quả — không có database nào để tra cứu

Ghép hai mảnh vừa học: model biết gì hoàn toàn do văn bản đã thấy lúc pretraining, và pha đó dừng ở một thời điểm cụ thể. Sau mốc đó, không dòng văn bản nào từng đi qua bước "che, đoán, so sánh, chỉnh trọng số" ở trên. Toàn bộ thứ model biết nằm gọn trong trọng số, không nằm trong một cơ sở dữ liệu để tra cứu như công cụ tìm kiếm.

Đây là lý do "model không biết chuyện mới" không phải lỗi chờ vá, mà là hệ quả kiến trúc từ ranh giới train/inference: trọng số đóng băng cuối pha train, mọi lần gọi API sau đó chỉ tính toán trên bộ trọng số cố định ấy. Prompt khéo tới đâu cũng không thêm được một byte kiến thức vào trọng số — muốn model dùng thông tin mới, thông tin phải đi kèm ngay trong lúc gọi, không thể trông chờ model tự nhớ ra.

5. Pitfall tổng hợp

❌ Nhầm 1 — coi "AI" và "LLM" đồng nghĩa, đọc mọi tin AI như đang nói chatbot:

✅ AI là vòng ngoài cùng, bao trùm cả rule-based lẫn hệ machine learning không sinh nội dung gì. LLM chỉ là một điểm rất hẹp ở vòng trong cùng.

❌ Nhầm 2 — nghĩ pretraining "không giám sát hoàn toàn" vì chẳng ai gán nhãn hàng tỷ trang văn bản:

✅ Có tín hiệu dạy rõ ràng mỗi bước — đoán rồi so với đáp án đúng, y hệt supervised. Khác biệt duy nhất: nhãn tự sinh từ văn bản, không phải thiếu tín hiệu dạy như unsupervised thật.

❌ Nhầm 3 — hỏi model về sự kiện mới và nghĩ "prompt rõ hơn thì nó cập nhật được":

✅ Không có gì để cập nhật bằng prompt. Model chỉ có trọng số đóng băng từ lúc pretraining; muốn dùng thông tin sau mốc đó, thông tin phải đi kèm ngay trong request.

6. 📚 Deep Dive

7. Liên hệ các bài khác

• Bài 02 — Ba kiểu học — trục tín hiệu dạy dùng lại xuyên suốt bài này.
• Bài 04 — Train vs inference — trọng số đóng băng lúc inference là nền của kết luận ở mục 4.
• Module 3, bài 01 — Dự đoán token kế tiếp — trace chi tiết vòng lặp mà bài này mới nhắc một câu.
• Bài 07 — Mini-challenge: đọc mô tả hệ AI — áp dụng bản đồ bốn vòng để phân loại một hệ AI thật từ mô tả bằng lời.

8. Tóm tắt

• Bốn vòng lồng nhau: AI ⊃ ML ⊃ deep learning ⊃ generative AI; LLM ở trong cùng — sinh văn bản bằng dự đoán mảnh tiếp theo lặp lại (cơ chế module 3 đào sâu).
• Pretraining nằm ở trục supervised: nhãn tự sinh từ văn bản (self-supervised) — khác supervised cổ điển ở nguồn nhãn, không phải cơ chế học.
• Vì nhãn tự sinh không tốn chi phí gán tay, LLM train được trên khối văn bản khổng lồ mà supervised cổ điển không chạm tới quy mô đó.
• Toàn bộ thứ model biết nằm trong trọng số, đóng băng cuối pha pretraining — không có database nào để tra cứu chuyện xảy ra sau đó.

9. Tự kiểm tra

Bài tiếp theo: Dự đoán token kế tiếp — vòng lặp sinh văn bản