Module 3 — CPU hiện đại: tổng quan

TL;DR: CPU hiện đại không chạy lệnh tuần tự đơn giản như Module 2 mô tả — nó chạy chồng lấn nhiều lệnh cùng lúc (pipeline), đoán trước nhánh điều kiện (branch prediction), và sắp xếp lại thứ tự thực thi (out-of-order execution). Đây là nơi "mechanical sympathy" tạo ra khác biệt tốc độ 2–10 lần giữa hai đoạn code giải cùng bài toán. Module này đưa bạn từ lý thuyết clock/IPC đến đo lường thực tế và capstone tối ưu một vòng lặp nóng.

Vì sao module này tồn tại

Module 2 dạy bạn cách CPU thực thi một lệnh — từ fetch đến decode đến execute. Đó là nền tảng đúng đắn, nhưng CPU thực tế từ Pentium trở đi không còn chạy từng lệnh xong mới chạy lệnh tiếp.

CPU hiện đại làm điều phức tạp hơn nhiều: nó chạy chồng lấn hàng chục lệnh trong cùng một chu kỳ (pipeline), đoán trước nhánh if/else sẽ đi về đâu (branch prediction), sắp xếp lại thứ tự lệnh để tránh chờ dữ liệu (out-of-order execution), và thậm chí thực thi cả hai nhánh điều kiện trước khi biết nhánh nào đúng (speculative execution).

Đây là nơi mechanical sympathy tạo ra khác biệt thực sự: một vòng lặp sắp xếp mảng ngẫu nhiên có thể chậm hơn 5 lần so với mảng đã sắp xếp — không phải vì thuật toán khác nhau, mà vì branch predictor trật dự đoán liên tục. Biết điều này, bạn viết code khác đi.

Sau module này bạn sẽ

• Explain clock speed và IPC là gì, vì sao tần số MHz/GHz không phải yếu tố duy nhất quyết định tốc độ.
• Explain pipeline hazard (data hazard, control hazard, structural hazard) và cách CPU xử lý từng loại.
• Predict tác động của branch misprediction lên hiệu năng một vòng lặp nóng.
• Apply phương pháp đo lường thực tế — profiling, microbenchmark, định luật Amdahl — thay vì đoán mò.
• Design lại một vòng lặp nóng để branch-friendly và đo cải thiện trước-sau bằng số liệu cụ thể.

Lộ trình module

Bài 01 (Clock và IPC) đặt nền cho toàn module: clock speed đo cái gì, IPC đo cái gì, và vì sao throughput thực tế = clock × IPC — không phải chỉ MHz. Bài này giải thích tại sao một chip 3.0 GHz mới có thể nhanh hơn chip 4.0 GHz cũ trong nhiều tình huống.

Bài 02 (Pipeline và hazard) mổ xẻ cơ chế pipeline 5 tầng, ba loại hazard làm pipeline dừng (stall), và cách CPU dùng forwarding, stall, và branch delay slot để xử lý. Đây là nền lý thuyết bắt buộc trước khi hiểu branch prediction.

Bài 03 (Branch prediction) là tâm điểm của module: CPU đoán nhánh như thế nào, tại sao misprediction phạt nặng (10–20 cycle), và vì sao pattern dữ liệu ảnh hưởng trực tiếp đến hiệu năng. Đây là bài giải thích thí nghiệm nổi tiếng "sorted vs unsorted array" của Stack Overflow.

Bài 04 (Đừng đoán, hãy đo) chuyển sang thực hành: cách dùng profiler, viết microbenchmark đúng (tránh JIT warmup, dead code elimination), và áp dụng định luật Amdahl để biết nên tối ưu đâu. Không có số liệu, mọi tối ưu chỉ là mò.

Bài 05 (Out-of-order execution và SIMD) mở rộng mô hình: CPU không chỉ pipeline mà còn sắp xếp lại thứ tự lệnh trong một "window" lớn, và SIMD cho phép một lệnh xử lý 4–8 phần tử cùng lúc.

Bài 06 (Spectre và Meltdown) áp dụng toàn bộ kiến thức trên vào một góc nhìn khác: speculative execution đã tạo ra lỗ hổng bảo mật ảnh hưởng đến hàng tỉ chip từ 1995 đến 2018. Đây là case study liên kết hardware với security.

Bài 07 (Capstone: tối ưu vòng lặp nóng) là bài tổng hợp: bạn nhận một đoạn code có vòng lặp chậm, profiling để tìm bottleneck, áp kiến thức branch prediction và memory access pattern để tối ưu, và đo kết quả trước-sau. Output là con số cụ thể, không phải "có vẻ nhanh hơn".

Bài 08 (Tổng kết course) khép lại toàn bộ hành trình từ Module 1 (bit và biểu diễn dữ liệu) đến Module 2 (CPU cơ bản) đến Module 3 (CPU hiện đại) — kết nối các mảnh thành bức tranh hoàn chỉnh về cách máy tính thực sự chạy code của bạn.

Sơ đồ dưới cho thấy thứ tự phụ thuộc giữa 8 bài — mỗi bài xây trên bài trước:

flowchart TB
  A["01 Clock + IPC"] --> B["02 Pipeline + hazard"]
  B --> C["03 Branch prediction"]
  C --> D["04 Dung doan hay do"]
  D --> E["05 Out-of-order + SIMD"]
  E --> F["06 Spectre + Meltdown"]
  F --> G["07 Capstone toi uu vong lap"]
  G --> H["08 Tong ket course"]

Yêu cầu trước khi bắt đầu

• Hoàn thành Module 1 — Biểu diễn dữ liệu (bit, byte, integer, float).
• Hoàn thành Module 2 — CPU cơ bản (fetch-decode-execute cycle, register, memory hierarchy).
• Không cần lập trình hệ thống hay assembly — mọi ví dụ dùng Java hoặc pseudo-code đọc được.

Time budget

• Module: khoảng 2.5 giờ đọc + 30 phút benchmark thực hành.

Cách học module này hiệu quả

• Chạy benchmark thật: các thí nghiệm trong module (sorted vs unsorted, branch-friendly vs branch-heavy) chỉ thực sự hiểu khi bạn tự chạy và nhìn thấy số liệu. Cần JDK 11 trở lên hoặc Python 3.
• Dùng Compiler Explorer (godbolt.org) khi đọc bài về pipeline và branch prediction — paste code Java/C vào, xem assembly sinh ra, hiểu tại sao compiler sắp xếp lại lệnh.
• Đọc bài 04 trước khi tối ưu — bài capstone (07) yêu cầu kỹ năng đo lường từ bài 04. Đừng nhảy thẳng vào capstone khi chưa biết cách benchmark đúng.
• Ghi chú pattern mỗi khi gặp "vì sao CPU làm X" — Module 3 có nhiều WHY liên kết nhau; ghi ra giúp bài capstone dễ hơn nhiều.

Bài tiếp theo: Clock và IPC