Bỏ qua tới nội dung chính

Hướng dẫn học chủ đề

Kiến trúc máy tính

Computer Architecture and Engineering

Nâng caokhoảng 51 giờ6 bước

Kiến trúc máy tính nâng cao: pipeline, bộ nhớ đệm (cache) và thiết kế CPU hiệu năng cao.

Bắt đầu học

Bạn sẽ học được gì

  • Giải thích chu trình datapath và pipeline 5 tầng của một CPU RISC-V, cùng các loại hazard (data, control, structural)
  • Phân tích phân cấp bộ nhớ (cache L1/L2/L3, độ trễ, tỉ lệ trúng/trượt) và tính tác động của nó lên hiệu năng thực
  • So sánh các kỹ thuật khai thác song song mức lệnh (superscalar, out-of-order, dự đoán rẽ nhánh) và mức dữ liệu (vector, SIMD, GPU)
  • Thiết kế một CPU pipeline đơn giản bằng ngôn ngữ mô tả phần cứng (Verilog) và mô phỏng nó chạy chương trình thật
  • Giải thích vấn đề nhất quán bộ nhớ đệm (cache coherence) trong hệ đa nhân và giao thức MESI
  • Đánh giá đánh đổi giữa hiệu năng, năng lượng tiêu thụ và diện tích chip (PPA) khi thiết kế kiến trúc chuyên biệt

Nên học trước

Giới thiệu

Kiến trúc máy tính nâng cao trả lời câu hỏi: bên trong một CPU hiện đại, điều gì khiến nó nhanh gấp hàng nghìn lần một CPU 30 năm trước dù xung nhịp chỉ tăng vài chục lần? Câu trả lời nằm ở pipeline, bộ nhớ đệm và khai thác song song — không chỉ đơn giản là chạy nhanh hơn từng lệnh một.

Ba đòn bẩy hiệu năng

  • Pipeline: chia thực thi lệnh thành nhiều tầng chạy gối lên nhau, như dây chuyền lắp ráp. Vấn đề là hazard — khi lệnh sau cần kết quả lệnh trước chưa xong, hoặc rẽ nhánh chưa biết đi đâu.
  • Phân cấp bộ nhớ: CPU nhanh hơn bộ nhớ chính hàng trăm lần, nên cache tồn tại để giữ dữ liệu hay dùng gần CPU. Hiểu tính cục bộ (locality) là hiểu vì sao đổi thứ tự truy cập mảng có thể khiến code nhanh gấp 10 lần.
  • Song song mức lệnh và mức dữ liệu: superscalar phát nhiều lệnh một chu kỳ, out-of-order chạy lệnh không theo thứ tự chương trình để tránh chờ, SIMD/GPU áp một phép toán lên nhiều dữ liệu cùng lúc.

Khi một lõi là chưa đủ

Hết đường tăng xung nhịp vì giới hạn nhiệt, ngành công nghiệp chuyển sang nhiều lõi. Nhưng nhiều lõi kéo theo bài toán mới: làm sao các cache riêng của từng lõi luôn thấy cùng một dữ liệu nhất quán (cache coherence, giao thức MESI) — đây chính là ranh giới giữa kiến trúc máy tính và tính toán song song.

Học đi đôi với thiết kế

Đọc lý thuyết về pipeline sẽ mơ hồ cho tới khi tự thiết kế một CPU 5 tầng bằng Verilog và mô phỏng nó chạy một chương trình RISC-V thật, tận mắt thấy hazard xảy ra và cách forwarding/stall giải quyết nó.

Giáo trình & sách tham khảo

Xem tất cả trong tab Sách

Giáo trình chính

Computer Architecture: A Quantitative Approach

John L. Hennessy, David A. Patterson · 2017 · Bản thứ 6

Có phíNâng caoTiếng Anh936 trang

Vì sao chọn: Sách tham khảo nâng cao/sau đại học kinh điển nhất về kiến trúc máy tính định lượng, đúng tầm 'nâng cao' của chủ đề này. Trả phí và khá nặng lý thuyết nên đọc sau khi đã vững Computation Structures; dùng làm sách chính cho các bước 2-6.

Nên đọc: Chương 1 Fundamentals, Chương 2 Memory Hierarchy Design, Chương 3 Instruction-Level Parallelism, Chương 4 Data-Level Parallelism, Chương 5 Multiprocessors, Chương 7 Domain Specific Architectures

Computer Organization and Design RISC-V Edition

David A. Patterson, John L. Hennessy · 2020 · Bản thứ 2

Có phíTrung bìnhTiếng Anh736 trang

Bản RISC-V của giáo trình 'COD' kinh điển, đi cùng khóa Great Ideas in Computer Architecture. Trình bày dễ vào hơn sách chính nên phù hợp làm điểm khởi đầu ở bước 1 và 3 trước khi đọc sách nâng cao hơn.

Nên đọc: Chương 4 The RISC-V Processor, Chương 5 Large and Fast: Exploiting Memory Hierarchy

Digital Design and Computer Architecture: RISC-V Edition

Sarah Harris, David Money Harris · 2021

Có phíTrung bìnhTiếng Anh656 trang

Sách nhập môn thiết kế số kèm Verilog, hữu ích nhất cho bước 1 khi tự thiết kế CPU pipeline vì trình bày cách viết HDL cụ thể hơn hai sách kia. Dùng làm sách tra cứu song song khi làm bài tập thiết kế.

Nên đọc: Chương 6 Architecture và Chương 7 Microarchitecture

Các bước học

Đăng nhập để đánh dấu các bước đã hoàn thành.

  1. Bước 1: Ôn lại datapath và thiết kế pipeline 5 tầng

    khoảng 12 giờ

    Datapath một chu kỳ và nhiều chu kỳ, 5 tầng kinh điển (IF-ID-EX-MEM-WB), forwarding và stall để xử lý data hazard. Thiết kế một CPU pipeline 5 tầng chạy tập lệnh RISC-V rút gọn bằng Verilog và mô phỏng vài chương trình kiểm thử.

  2. Bước 2: Dự đoán rẽ nhánh và xử lý control hazard

    khoảng 8 giờ

    Vì sao rẽ nhánh làm pipeline phải dừng, các chiến lược dự đoán tĩnh và động (bảng lịch sử rẽ nhánh), chi phí khi đoán sai. Thêm bộ dự đoán rẽ nhánh đơn giản (bộ đếm bão hòa 2-bit) vào CPU pipeline đã thiết kế ở bước 1 và đo tỉ lệ đoán đúng trên vài chương trình mẫu.

  3. Bước 3: Phân cấp bộ nhớ và bộ nhớ đệm

    khoảng 9 giờ

    Nguyên lý locality, các tầng cache, ánh xạ (direct-mapped, set-associative), chính sách thay thế và ghi. Viết một chương trình C đọc mảng hai chiều theo hai thứ tự khác nhau (theo hàng và theo cột) và đo chênh lệch thời gian chạy để thấy tác động của cache trực tiếp.

  4. Bước 4: Song song mức lệnh: superscalar và out-of-order

    khoảng 8 giờ

    Phát nhiều lệnh mỗi chu kỳ, đổi tên thanh ghi (register renaming), thực thi không theo thứ tự, sổ lệnh (reorder buffer). So sánh sơ đồ khối một CPU in-order và một CPU out-of-order cho cùng một đoạn code, chỉ ra lệnh nào có thể vượt lệnh nào.

  5. Bước 5: Song song mức dữ liệu và đa xử lý

    khoảng 8 giờ

    Vector/SIMD, kiến trúc GPU, đa nhân và vấn đề nhất quán bộ nhớ đệm (giao thức MESI). Mô phỏng bằng tay giao thức MESI cho 2 lõi cùng đọc/ghi một địa chỉ để thấy rõ các bước chuyển trạng thái.

  6. Bước 6: Kiến trúc chuyên biệt và đánh đổi hiệu năng-năng lượng

    khoảng 6 giờ

    Vì sao kiến trúc chuyên biệt (domain-specific, TPU) nhanh và tiết kiệm năng lượng hơn CPU đa dụng cho một tác vụ cụ thể; đánh đổi hiệu năng/năng lượng/diện tích (PPA). Viết báo cáo ngắn so sánh CPU, GPU và một bộ tăng tốc chuyên biệt cho cùng một tác vụ (ví dụ nhân ma trận), giải thích vì sao bộ chuyên biệt thắng.

Khái niệm chính

Pipeline (đường ống lệnh)
Chia thực thi lệnh thành nhiều tầng (fetch, decode, execute, memory, writeback) chạy gối nhau để tăng thông lượng, dù độ trễ mỗi lệnh không đổi.
Hazard
Tình huống pipeline không thể chạy đúng như dự kiến: data hazard (chờ dữ liệu), control hazard (chưa biết rẽ nhánh), structural hazard (tranh phần cứng).
Bộ nhớ đệm (cache) và tính cục bộ
Vùng nhớ nhỏ, nhanh giữ dữ liệu hay dùng gần đây (locality theo thời gian) hoặc gần vị trí vừa truy cập (locality theo không gian).
Dự đoán rẽ nhánh (branch prediction)
Đoán trước lệnh rẽ nhánh sẽ đi hướng nào để pipeline không phải dừng chờ, cùng cơ chế khôi phục khi đoán sai.
Thực thi không theo thứ tự (out-of-order execution)
CPU chạy các lệnh không phụ thuộc nhau theo thứ tự dữ liệu sẵn sàng thay vì thứ tự chương trình, để không lãng phí chu kỳ chờ.
Song song mức dữ liệu (SIMD)
Một lệnh áp dụng cùng phép toán lên nhiều phần tử dữ liệu cùng lúc — nền tảng của vector instructions và GPU.
Nhất quán bộ nhớ đệm (cache coherence)
Đảm bảo mọi lõi trong hệ đa nhân luôn thấy giá trị mới nhất của một ô nhớ, dù mỗi lõi có cache riêng (ví dụ giao thức MESI).
Kiến trúc tập lệnh (ISA)
Giao diện giữa phần mềm và phần cứng: tập lệnh, thanh ghi, định dạng lệnh mà một CPU hỗ trợ (ví dụ RISC-V, x86).

Học xong để làm gì

  • Thiết kế CPU/SoC cho điện thoại, laptop, trung tâm dữ liệu (các chip RISC-V mở, ARM, x86)
  • Thiết kế bộ tăng tốc phần cứng chuyên biệt cho AI (TPU, NPU) và đồ họa (GPU)
  • Tối ưu hiệu năng phần mềm bằng cách viết code thân thiện với cache trong hệ thống hiệu năng cao
  • Kỹ sư kiểm chứng phần cứng (hardware verification) dùng mô phỏng để tìm lỗi thiết kế trước khi sản xuất chip
  • Nghiên cứu kiến trúc máy tính trong hàn lâm và công nghiệp bán dẫn (ASIC, FPGA)

Câu hỏi thường gặp

Khác gì với môn Computation Structures?

Computation Structures dạy nền tảng: cách một CPU đơn giản, không pipeline được xây từ cổng logic. Môn này giả định bạn đã biết điều đó và đi sâu vào các kỹ thuật làm CPU thật nhanh: pipeline, cache, song song.

Có cần biết Verilog trước không?

Không bắt buộc nhưng nên học song song; phần lớn bài tập thiết kế trong lộ trình này cần mô tả phần cứng bằng Verilog và mô phỏng bằng công cụ như Icarus Verilog hoặc Verilator.

Học xong có tự thiết kế được một CPU thật không?

Bạn sẽ thiết kế và mô phỏng được một CPU pipeline đơn giản chạy tập lệnh RISC-V thu gọn — đủ để hiểu cơ chế, nhưng CPU thương mại còn thêm nhiều lớp tối ưu (out-of-order sâu, dự đoán rẽ nhánh phức tạp) nằm ngoài phạm vi tự học.

Mất bao lâu để học xong lộ trình?

Khoảng 51 giờ, tương đương 8-9 tuần với 6 giờ mỗi tuần, vì có nhiều bài tập thiết kế/mô phỏng tốn thời gian hơn đọc lý thuyết.

Chọn nguồn tự học

Nên có nền tảng Computation Structures trước khi học chủ đề nâng cao này.