Bạn sẽ học được gì
- Giải thích chu trình datapath và pipeline 5 tầng của một CPU RISC-V, cùng các loại hazard (data, control, structural)
- Phân tích phân cấp bộ nhớ (cache L1/L2/L3, độ trễ, tỉ lệ trúng/trượt) và tính tác động của nó lên hiệu năng thực
- So sánh các kỹ thuật khai thác song song mức lệnh (superscalar, out-of-order, dự đoán rẽ nhánh) và mức dữ liệu (vector, SIMD, GPU)
- Thiết kế một CPU pipeline đơn giản bằng ngôn ngữ mô tả phần cứng (Verilog) và mô phỏng nó chạy chương trình thật
- Giải thích vấn đề nhất quán bộ nhớ đệm (cache coherence) trong hệ đa nhân và giao thức MESI
- Đánh giá đánh đổi giữa hiệu năng, năng lượng tiêu thụ và diện tích chip (PPA) khi thiết kế kiến trúc chuyên biệt
Nên học trước
Giới thiệu
Kiến trúc máy tính nâng cao trả lời câu hỏi: bên trong một CPU hiện đại, điều gì khiến nó nhanh gấp hàng nghìn lần một CPU 30 năm trước dù xung nhịp chỉ tăng vài chục lần? Câu trả lời nằm ở pipeline, bộ nhớ đệm và khai thác song song — không chỉ đơn giản là chạy nhanh hơn từng lệnh một.
Ba đòn bẩy hiệu năng
- Pipeline: chia thực thi lệnh thành nhiều tầng chạy gối lên nhau, như dây chuyền lắp ráp. Vấn đề là hazard — khi lệnh sau cần kết quả lệnh trước chưa xong, hoặc rẽ nhánh chưa biết đi đâu.
- Phân cấp bộ nhớ: CPU nhanh hơn bộ nhớ chính hàng trăm lần, nên cache tồn tại để giữ dữ liệu hay dùng gần CPU. Hiểu tính cục bộ (locality) là hiểu vì sao đổi thứ tự truy cập mảng có thể khiến code nhanh gấp 10 lần.
- Song song mức lệnh và mức dữ liệu: superscalar phát nhiều lệnh một chu kỳ, out-of-order chạy lệnh không theo thứ tự chương trình để tránh chờ, SIMD/GPU áp một phép toán lên nhiều dữ liệu cùng lúc.
Khi một lõi là chưa đủ
Hết đường tăng xung nhịp vì giới hạn nhiệt, ngành công nghiệp chuyển sang nhiều lõi. Nhưng nhiều lõi kéo theo bài toán mới: làm sao các cache riêng của từng lõi luôn thấy cùng một dữ liệu nhất quán (cache coherence, giao thức MESI) — đây chính là ranh giới giữa kiến trúc máy tính và tính toán song song.
Học đi đôi với thiết kế
Đọc lý thuyết về pipeline sẽ mơ hồ cho tới khi tự thiết kế một CPU 5 tầng bằng Verilog và mô phỏng nó chạy một chương trình RISC-V thật, tận mắt thấy hazard xảy ra và cách forwarding/stall giải quyết nó.
Giáo trình & sách tham khảo
Xem tất cả trong tab SáchGiáo trình chính
Computer Architecture: A Quantitative Approach
John L. Hennessy, David A. Patterson · 2017 · Bản thứ 6
Vì sao chọn: Sách tham khảo nâng cao/sau đại học kinh điển nhất về kiến trúc máy tính định lượng, đúng tầm 'nâng cao' của chủ đề này. Trả phí và khá nặng lý thuyết nên đọc sau khi đã vững Computation Structures; dùng làm sách chính cho các bước 2-6.
Nên đọc: Chương 1 Fundamentals, Chương 2 Memory Hierarchy Design, Chương 3 Instruction-Level Parallelism, Chương 4 Data-Level Parallelism, Chương 5 Multiprocessors, Chương 7 Domain Specific Architectures
Computer Organization and Design RISC-V Edition
David A. Patterson, John L. Hennessy · 2020 · Bản thứ 2
Bản RISC-V của giáo trình 'COD' kinh điển, đi cùng khóa Great Ideas in Computer Architecture. Trình bày dễ vào hơn sách chính nên phù hợp làm điểm khởi đầu ở bước 1 và 3 trước khi đọc sách nâng cao hơn.
Nên đọc: Chương 4 The RISC-V Processor, Chương 5 Large and Fast: Exploiting Memory Hierarchy
Digital Design and Computer Architecture: RISC-V Edition
Sarah Harris, David Money Harris · 2021
Sách nhập môn thiết kế số kèm Verilog, hữu ích nhất cho bước 1 khi tự thiết kế CPU pipeline vì trình bày cách viết HDL cụ thể hơn hai sách kia. Dùng làm sách tra cứu song song khi làm bài tập thiết kế.
Nên đọc: Chương 6 Architecture và Chương 7 Microarchitecture
Các bước học
Đăng nhập để đánh dấu các bước đã hoàn thành.
Bước 1: Ôn lại datapath và thiết kế pipeline 5 tầng
khoảng 12 giờDatapath một chu kỳ và nhiều chu kỳ, 5 tầng kinh điển (IF-ID-EX-MEM-WB), forwarding và stall để xử lý data hazard. Thiết kế một CPU pipeline 5 tầng chạy tập lệnh RISC-V rút gọn bằng Verilog và mô phỏng vài chương trình kiểm thử.
- Đọc: Chương 4 The RISC-V Processor — Computer Organization and Design RISC-V Edition
- Đọc: Chương 7 Microarchitecture — Digital Design and Computer Architecture: RISC-V Edition
Bước 2: Dự đoán rẽ nhánh và xử lý control hazard
khoảng 8 giờVì sao rẽ nhánh làm pipeline phải dừng, các chiến lược dự đoán tĩnh và động (bảng lịch sử rẽ nhánh), chi phí khi đoán sai. Thêm bộ dự đoán rẽ nhánh đơn giản (bộ đếm bão hòa 2-bit) vào CPU pipeline đã thiết kế ở bước 1 và đo tỉ lệ đoán đúng trên vài chương trình mẫu.
- Đọc: Chương 3 Instruction-Level Parallelism and Its Exploitation — Computer Architecture: A Quantitative Approach
Bước 3: Phân cấp bộ nhớ và bộ nhớ đệm
khoảng 9 giờNguyên lý locality, các tầng cache, ánh xạ (direct-mapped, set-associative), chính sách thay thế và ghi. Viết một chương trình C đọc mảng hai chiều theo hai thứ tự khác nhau (theo hàng và theo cột) và đo chênh lệch thời gian chạy để thấy tác động của cache trực tiếp.
- Đọc: Chương 2 Memory Hierarchy Design — Computer Architecture: A Quantitative Approach
- Đọc: Chương 5 Large and Fast: Exploiting Memory Hierarchy — Computer Organization and Design RISC-V Edition
Bước 4: Song song mức lệnh: superscalar và out-of-order
khoảng 8 giờPhát nhiều lệnh mỗi chu kỳ, đổi tên thanh ghi (register renaming), thực thi không theo thứ tự, sổ lệnh (reorder buffer). So sánh sơ đồ khối một CPU in-order và một CPU out-of-order cho cùng một đoạn code, chỉ ra lệnh nào có thể vượt lệnh nào.
- Đọc: Chương 3 Instruction-Level Parallelism and Its Exploitation — Computer Architecture: A Quantitative Approach
Bước 5: Song song mức dữ liệu và đa xử lý
khoảng 8 giờVector/SIMD, kiến trúc GPU, đa nhân và vấn đề nhất quán bộ nhớ đệm (giao thức MESI). Mô phỏng bằng tay giao thức MESI cho 2 lõi cùng đọc/ghi một địa chỉ để thấy rõ các bước chuyển trạng thái.
- Đọc: Chương 4 Data-Level Parallelism và Chương 5 Multiprocessors and Thread-Level Parallelism — Computer Architecture: A Quantitative Approach
Bước 6: Kiến trúc chuyên biệt và đánh đổi hiệu năng-năng lượng
khoảng 6 giờVì sao kiến trúc chuyên biệt (domain-specific, TPU) nhanh và tiết kiệm năng lượng hơn CPU đa dụng cho một tác vụ cụ thể; đánh đổi hiệu năng/năng lượng/diện tích (PPA). Viết báo cáo ngắn so sánh CPU, GPU và một bộ tăng tốc chuyên biệt cho cùng một tác vụ (ví dụ nhân ma trận), giải thích vì sao bộ chuyên biệt thắng.
- Đọc: Chương 7 Domain Specific Architectures — Computer Architecture: A Quantitative Approach
Khái niệm chính
- Pipeline (đường ống lệnh)
- Chia thực thi lệnh thành nhiều tầng (fetch, decode, execute, memory, writeback) chạy gối nhau để tăng thông lượng, dù độ trễ mỗi lệnh không đổi.
- Hazard
- Tình huống pipeline không thể chạy đúng như dự kiến: data hazard (chờ dữ liệu), control hazard (chưa biết rẽ nhánh), structural hazard (tranh phần cứng).
- Bộ nhớ đệm (cache) và tính cục bộ
- Vùng nhớ nhỏ, nhanh giữ dữ liệu hay dùng gần đây (locality theo thời gian) hoặc gần vị trí vừa truy cập (locality theo không gian).
- Dự đoán rẽ nhánh (branch prediction)
- Đoán trước lệnh rẽ nhánh sẽ đi hướng nào để pipeline không phải dừng chờ, cùng cơ chế khôi phục khi đoán sai.
- Thực thi không theo thứ tự (out-of-order execution)
- CPU chạy các lệnh không phụ thuộc nhau theo thứ tự dữ liệu sẵn sàng thay vì thứ tự chương trình, để không lãng phí chu kỳ chờ.
- Song song mức dữ liệu (SIMD)
- Một lệnh áp dụng cùng phép toán lên nhiều phần tử dữ liệu cùng lúc — nền tảng của vector instructions và GPU.
- Nhất quán bộ nhớ đệm (cache coherence)
- Đảm bảo mọi lõi trong hệ đa nhân luôn thấy giá trị mới nhất của một ô nhớ, dù mỗi lõi có cache riêng (ví dụ giao thức MESI).
- Kiến trúc tập lệnh (ISA)
- Giao diện giữa phần mềm và phần cứng: tập lệnh, thanh ghi, định dạng lệnh mà một CPU hỗ trợ (ví dụ RISC-V, x86).
Học xong để làm gì
- Thiết kế CPU/SoC cho điện thoại, laptop, trung tâm dữ liệu (các chip RISC-V mở, ARM, x86)
- Thiết kế bộ tăng tốc phần cứng chuyên biệt cho AI (TPU, NPU) và đồ họa (GPU)
- Tối ưu hiệu năng phần mềm bằng cách viết code thân thiện với cache trong hệ thống hiệu năng cao
- Kỹ sư kiểm chứng phần cứng (hardware verification) dùng mô phỏng để tìm lỗi thiết kế trước khi sản xuất chip
- Nghiên cứu kiến trúc máy tính trong hàn lâm và công nghiệp bán dẫn (ASIC, FPGA)
Câu hỏi thường gặp
Khác gì với môn Computation Structures?
Computation Structures dạy nền tảng: cách một CPU đơn giản, không pipeline được xây từ cổng logic. Môn này giả định bạn đã biết điều đó và đi sâu vào các kỹ thuật làm CPU thật nhanh: pipeline, cache, song song.
Có cần biết Verilog trước không?
Không bắt buộc nhưng nên học song song; phần lớn bài tập thiết kế trong lộ trình này cần mô tả phần cứng bằng Verilog và mô phỏng bằng công cụ như Icarus Verilog hoặc Verilator.
Học xong có tự thiết kế được một CPU thật không?
Bạn sẽ thiết kế và mô phỏng được một CPU pipeline đơn giản chạy tập lệnh RISC-V thu gọn — đủ để hiểu cơ chế, nhưng CPU thương mại còn thêm nhiều lớp tối ưu (out-of-order sâu, dự đoán rẽ nhánh phức tạp) nằm ngoài phạm vi tự học.
Mất bao lâu để học xong lộ trình?
Khoảng 51 giờ, tương đương 8-9 tuần với 6 giờ mỗi tuần, vì có nhiều bài tập thiết kế/mô phỏng tốn thời gian hơn đọc lý thuyết.


