Bạn sẽ học được gì
- Giải thích biểu diễn số nguyên bù hai và số dấu phẩy động IEEE 754, dự đoán kết quả của chuyển kiểu, tràn số và làm tròn
- Đọc và giải thích mã hợp ngữ x86-64 do gcc sinh ra cho điều kiện, vòng lặp, lời gọi hàm, mảng và struct
- Giải thích lỗi tràn bộ đệm trên ngăn xếp và các cơ chế phòng vệ: stack canary, vùng không thực thi, ngẫu nhiên hóa không gian địa chỉ
- Phân tích tính cục bộ và viết lại vòng lặp để giảm trượt cache, đo kết quả bằng công cụ hiệu năng
- Mô tả quá trình liên kết tĩnh và động, dùng nm, readelf, objdump để xem ký hiệu và định vị lại
- Viết chương trình dùng fork, execve, waitpid, tín hiệu và vào ra mức hệ thống
- Giải thích bộ nhớ ảo, bảng trang, TLB và cài đặt một bộ cấp phát bộ nhớ động đơn giản
Nên học trước
Giới thiệu
Lập trình hệ thống với C nhìn chương trình từ phía máy. Bạn đã biết viết C; giờ là lúc hiểu điều gì xảy ra khi chương trình được dịch, nạp và chạy: số được biểu diễn thế nào, mã hợp ngữ trông ra sao, vì sao một vòng lặp đổi thứ tự lại nhanh gấp mười, liên kết ghép các tệp đối tượng thế nào, hệ điều hành tạo tiến trình và cấp bộ nhớ ra sao. Chủ đề này tương ứng CMU 15-213 (Introduction to Computer Systems) và nửa đầu UC Berkeley CS61C, và là cầu nối giữa Lập trình với Kiến trúc máy tính, Hệ điều hành và Hệ thống nhúng.
Sách chính và bài lab
Sách chính là Computer Systems: A Programmer's Perspective (CS:APP) của Randal Bryant và David O'Hallaron. Điểm mạnh nhất của nó là bộ bài lab tự học được công bố trên trang của sách, mỗi bài buộc bạn làm việc trực tiếp với máy:
- Data Lab: cài đặt các hàm số học chỉ bằng vài phép toán bit cho phép.
- Bomb Lab: tháo "bom" bằng cách đọc mã hợp ngữ x86-64 trong gdb.
- Attack Lab: khai thác lỗi tràn bộ đệm trên chính chương trình thí nghiệm, để hiểu vì sao nó nguy hiểm và cách phòng.
- Cache Lab: viết trình mô phỏng cache và tối ưu phép chuyển vị ma trận.
- Shell Lab: viết một shell nhỏ với điều khiển tiến trình và tín hiệu.
- Malloc Lab: tự viết bộ cấp phát bộ nhớ động.
Dive into Systems (sách mở) là lựa chọn miễn phí cho nhiều chương, có thêm hợp ngữ ARMv8 và các chương riêng về gdb và valgrind.
Nội dung chính
- Biểu diễn thông tin. Số nguyên không dấu và bù hai, chuyển kiểu, tràn số, số dấu phẩy động IEEE 754 với làm tròn và giá trị đặc biệt.
- Chương trình ở mức máy. Thanh ghi, chế độ địa chỉ, lệnh số học, điều kiện và nhảy, vòng lặp, thủ tục và ngăn xếp, mảng và struct trong bộ nhớ, tràn bộ đệm và các cơ chế phòng vệ (stack canary, vùng không thực thi, ngẫu nhiên hóa không gian địa chỉ).
- Phân cấp bộ nhớ. Thanh ghi, cache nhiều cấp, DRAM, ổ lưu trữ; tính cục bộ và cách viết mã thân thiện với cache.
- Liên kết. Tệp đối tượng ELF, bảng ký hiệu, phân giải ký hiệu, định vị lại, thư viện tĩnh và thư viện dùng chung.
- Luồng điều khiển ngoại lệ. Ngắt, bẫy, lỗi; tiến trình, fork, execve, waitpid; tín hiệu và trình xử lý tín hiệu an toàn.
- Bộ nhớ ảo. Không gian địa chỉ, bảng trang, TLB, ánh xạ tệp vào bộ nhớ, cấp phát bộ nhớ động và các lỗi bộ nhớ thường gặp trong C.
- Vào ra hệ thống. Mô tả tệp, read, write, chuyển hướng vào ra.
Góc nhìn phần cứng – phần mềm
Nhiều khái niệm ở đây sẽ gặp lại ngay trên vi điều khiển: bảng vectơ ngắt là một dạng luồng điều khiển ngoại lệ; tệp liên kết (linker script) quyết định mã nằm ở flash, biến nằm ở RAM; bộ đệm tràn trên firmware cũng khai thác được như trên máy tính. Trình biên dịch chéo (arm-none-eabi-gcc) và objdump dùng y hệt các công cụ bạn học ở đây.
Công cụ
Làm việc trên Linux x86-64 (máy thật, WSL hoặc máy ảo): gcc, gdb (disassemble, stepi, x), objdump, readelf, nm, valgrind, perf. Hãy biên dịch cùng một hàm với -O0, -Og và -O2 rồi đọc mã hợp ngữ để thấy trình biên dịch tối ưu thế nào; trang Compiler Explorer trên web giúp so sánh nhanh.
An toàn và đạo đức
Attack Lab và bài về tràn bộ đệm chỉ thực hành trên chương trình thí nghiệm của chính bạn, trong máy ảo. Mục tiêu là viết mã an toàn và hiểu các cơ chế phòng vệ, không phải tấn công hệ thống của người khác.
Chuẩn bị
Cần lập trình C vững (con trỏ, struct, malloc) và đã học Nhập môn kỹ thuật máy tính (bit, bù hai, hợp ngữ ở mức LC-3).
Giáo trình & sách tham khảo
Xem tất cả trong tab SáchGiáo trình chính
Computer Systems: A Programmer's Perspective
Randal E. Bryant, David R. O'Hallaron · 2015 · Bản thứ 3
Vì sao chọn: Giáo trình của CMU 15-213 (Pearson, bản thứ 3, trả phí), chuẩn mực cho môn hệ thống máy tính nhìn từ người lập trình. Bộ bài lab tự học, slide và bài tập mẫu miễn phí trên trang csapp.cs.cmu.edu; chính các lab là lý do sách được chọn làm sách chính.
Nên đọc: Chương 1–3, 6–10 (Chương 4–5 về kiến trúc bộ xử lý và tối ưu chương trình để dành cho Kiến trúc máy tính; Chương 11–12 về mạng và đồng thời để dành cho các chủ đề sau)
Dive into Systems
Suzanne J. Matthews, Tia Newhall, Kevin C. Webb
Sách mở (CC BY-NC-ND), đọc miễn phí trên mạng. Lựa chọn miễn phí cho phần lớn nội dung; có thêm chương 3 về gdb và valgrind, chương 9 về hợp ngữ ARMv8 hữu ích cho người làm nhúng.
Nên đọc: Chương 4 Binary and Data Representation; Chương 7 64-bit x86 Assembly; Chương 11 Storage and the Memory Hierarchy; Chương 13 The Operating System
Introduction to Computing Systems: From Bits & Gates to C/C++ & Beyond
Yale N. Patt, Sanjay J. Patel · 2020 · Bản thứ 3
Giáo trình của chủ đề Nhập môn kỹ thuật máy tính (McGraw Hill, trả phí). Các chương về hàm, con trỏ và cấu trúc dữ liệu động giải thích ngăn xếp lúc chạy trên máy LC-3 đơn giản — ôn tập tốt trước khi đọc mã x86-64 phức tạp hơn.
Nên đọc: Chương 14 Functions; Chương 16 Pointers and Arrays; Chương 19 Dynamic Data Structures in C
Các bước học
Đăng nhập để đánh dấu các bước đã hoàn thành.
Bước 1: Biểu diễn thông tin: số nguyên và số thực
khoảng 8 giờĐọc chương tổng quan hệ thống máy tính và chương biểu diễn thông tin: lưu trữ theo byte, thứ tự byte, số nguyên không dấu và bù hai, chuyển kiểu, phép toán số nguyên, số dấu phẩy động IEEE 754. Thực hành: làm Data Lab (cài đặt các hàm bit như bitXor, isTmax, floatScale2 chỉ bằng phép toán cho phép); viết chương trình in từng byte của một int, một float và một double; giải thích vì sao 0.1 + 0.2 != 0.3 và vì sao (float)16777217 bằng 16777216.
- Đọc: Chương 1 A Tour of Computer Systems; Chương 2 Representing and Manipulating Information — Computer Systems: A Programmer's Perspective
- Đọc: Chương 4 Binary and Data Representation — Dive into Systems
Bước 2: Hợp ngữ x86-64: điều khiển và thủ tục
khoảng 10 giờHọc mã hóa chương trình, định dạng dữ liệu, truy cập thông tin, phép toán số học và logic, điều khiển (mã điều kiện, nhảy, vòng lặp, switch) và thủ tục (ngăn xếp, truyền tham số, biến cục bộ, đệ quy). Thực hành: biên dịch vài hàm bằng gcc -Og -S và chú thích từng dòng hợp ngữ; làm Bomb Lab — dùng gdb với disassemble, break, stepi, x/s, info registers để tìm từng chuỗi tháo bom.
- Đọc: Chương 3, mục 3.1–3.7 — Computer Systems: A Programmer's Perspective
- Đọc: Chương 7 64-bit x86 Assembly — Dive into Systems
- Đọc: Chương 14 Functions — Introduction to Computing Systems: From Bits & Gates to C/C++ & Beyond
Bước 3: Dữ liệu trong bộ nhớ và tràn bộ đệm
khoảng 9 giờHọc mảng, mảng nhiều chiều, struct, union, căn lề dữ liệu, con trỏ ở mức máy, tràn bộ đệm và các cơ chế phòng vệ, mã dấu phẩy động. Thực hành (chỉ trong máy ảo của bạn): làm phần đầu Attack Lab; viết một chương trình dùng gets (đã bị loại khỏi C11, cần -std=gnu99) hoặc strcpy không kiểm tra độ dài, quan sát địa chỉ trả về bị ghi đè trong gdb; biên dịch lại với -fstack-protector-strong và kiểm tra thông báo stack smashing; thay gets bằng fgets và giải thích vì sao lỗi biến mất.
- Đọc: Chương 3, mục 3.8–3.12 — Computer Systems: A Programmer's Perspective
Bước 4: Phân cấp bộ nhớ và mã thân thiện với cache
khoảng 9 giờHọc công nghệ lưu trữ, tính cục bộ, phân cấp bộ nhớ, tổ chức cache (ánh xạ trực tiếp, kết hợp tập hợp), viết mã thân thiện với cache và núi bộ nhớ. Thực hành: làm Cache Lab — viết trình mô phỏng cache đọc vết truy cập và đếm hit, miss, eviction; tối ưu chuyển vị ma trận 32 × 32 bằng chia khối; đo phép nhân ma trận 1024 × 1024 với sáu thứ tự vòng lặp ijk, ikj… và giải thích kết quả bằng số lần trượt cache.
- Đọc: Chương 6 The Memory Hierarchy — Computer Systems: A Programmer's Perspective
- Đọc: Chương 11 Storage and the Memory Hierarchy — Dive into Systems
Bước 5: Liên kết và nạp chương trình
khoảng 9 giờHọc trình điều khiển biên dịch, tệp đối tượng ELF, ký hiệu và bảng ký hiệu, phân giải ký hiệu (ký hiệu mạnh, yếu), định vị lại, thư viện tĩnh và dùng chung, mã độc lập vị trí, chèn thư viện. Thực hành: tạo thư viện tĩnh libvec.a và thư viện dùng chung libvec.so từ cùng mã nguồn; xem ký hiệu bằng nm, các đoạn bằng readelf -S, mục định vị lại bằng objdump -r; cố ý định nghĩa trùng một biến toàn cục ở hai tệp để thấy lỗi liên kết; dùng LD_PRELOAD bọc hàm malloc để đếm số lần gọi.
- Đọc: Chương 7 Linking — Computer Systems: A Programmer's Perspective
Bước 6: Tiến trình, tín hiệu và vào ra hệ thống
khoảng 10 giờHọc ngoại lệ, tiến trình, điều khiển tiến trình (fork, execve, waitpid), tín hiệu, bước nhảy không cục bộ; vào ra Unix, mô tả tệp, chuyển hướng. Thực hành: làm Shell Lab — viết một shell nhỏ chạy lệnh ở tiền cảnh và hậu cảnh, xử lý SIGCHLD, SIGINT, SIGTSTP đúng cách, thu dọn tiến trình con; thêm chuyển hướng vào ra bằng dup2.
- Đọc: Chương 8 Exceptional Control Flow; Chương 10 System-Level I/O — Computer Systems: A Programmer's Perspective
Bước 7: Bộ nhớ ảo và cấp phát bộ nhớ động
khoảng 10 giờHọc địa chỉ vật lý và ảo, bộ nhớ ảo như công cụ cache, quản lý và bảo vệ bộ nhớ, dịch địa chỉ và TLB, ánh xạ bộ nhớ, cấp phát động và các lỗi bộ nhớ thường gặp trong C. Thực hành: làm Malloc Lab — cài đặt malloc, free, realloc với danh sách khối trống ẩn, rồi danh sách tường minh; đo thông lượng và mức sử dụng bộ nhớ bằng trình chấm đi kèm; kiểm tra bằng valgrind rằng chương trình thử không rò rỉ.
- Đọc: Chương 9 Virtual Memory — Computer Systems: A Programmer's Perspective
- Đọc: Chương 13 The Operating System (mục 13.3 Virtual Memory) — Dive into Systems
Khái niệm chính
- Số dấu phẩy động IEEE 754
- Biểu diễn số thực bằng bit dấu, phần mũ lệch và phần định trị; có số chuẩn hóa, số không chuẩn hóa, vô cực và NaN; phép toán được làm tròn nên không có tính kết hợp.
- Chuyển kiểu có dấu – không dấu
- Trong C, khi trộn int và unsigned trong một biểu thức, int được chuyển sang unsigned với cùng mẫu bit; vì vậy -1 < 0u cho kết quả sai (0), nguồn của nhiều lỗi khó thấy.
- Quy ước gọi hàm
- Thỏa thuận về cách truyền tham số (trên x86-64 Linux: sáu tham số nguyên đầu trong thanh ghi rdi, rsi, rdx, rcx, r8, r9), giá trị trả về trong rax, thanh ghi nào do hàm gọi hay hàm được gọi bảo toàn.
- Khung ngăn xếp
- Vùng trên ngăn xếp dành cho một lời gọi hàm, chứa địa chỉ trả về, thanh ghi được cất, biến cục bộ và tham số truyền qua ngăn xếp.
- Tràn bộ đệm
- Ghi quá kích thước một mảng trên ngăn xếp, đè lên dữ liệu khác như địa chỉ trả về; kẻ tấn công có thể điều khiển luồng thực thi nếu không có cơ chế phòng vệ.
- Phân cấp bộ nhớ
- Chuỗi thiết bị lưu trữ từ nhanh, nhỏ, đắt (thanh ghi, cache SRAM) tới chậm, lớn, rẻ (DRAM, SSD, đĩa); mỗi cấp làm cache cho cấp dưới.
- Tổ chức cache
- Cache chia thành S tập, mỗi tập E dòng, mỗi dòng B byte; địa chỉ được tách thành thẻ, chỉ số tập và độ dời khối; trượt cache chia thành bắt buộc, xung đột và dung lượng.
- Liên kết tĩnh và động
- Liên kết tĩnh chép mã thư viện vào tệp thực thi lúc dịch; liên kết động nạp thư viện dùng chung lúc chạy, nhờ mã độc lập vị trí và bảng GOT, PLT.
- Định vị lại
- Bước trình liên kết gán địa chỉ cuối cùng cho các đoạn mã và dữ liệu, rồi sửa mọi chỗ tham chiếu tới ký hiệu theo các mục định vị lại trong tệp đối tượng.
- Luồng điều khiển ngoại lệ
- Các thay đổi đột ngột của luồng thực thi do ngắt (từ thiết bị), bẫy (lời gọi hệ thống), lỗi (lỗi trang) và hủy bỏ gây ra; nền của tiến trình, tín hiệu và hệ điều hành.
- Tiến trình và tín hiệu
- Tiến trình là một chương trình đang chạy với không gian địa chỉ riêng; tín hiệu là thông báo bất đồng bộ gửi tới tiến trình, xử lý bằng trình xử lý chỉ nên gọi các hàm an toàn với tín hiệu.
- Bộ nhớ ảo và bảng trang
- Mỗi tiến trình thấy một không gian địa chỉ riêng; phần cứng MMU dịch địa chỉ ảo sang vật lý theo bảng trang, với TLB làm cache cho các mục bảng trang.
- Bộ cấp phát bộ nhớ động
- Mã quản lý vùng heap cho malloc và free: tìm khối trống (first fit, best fit), tách và gộp khối, danh sách khối trống ẩn hoặc tường minh; đánh đổi giữa thông lượng và mức sử dụng bộ nhớ.
Học xong để làm gì
- Gỡ lỗi chương trình C ở mức hợp ngữ khi mã nguồn không đủ để giải thích lỗi
- Tối ưu hiệu năng phần mềm hệ thống, thư viện số và firmware dựa trên hiểu biết về cache
- Viết mã an toàn, tránh tràn bộ đệm và lỗi bộ nhớ trong phần mềm hệ thống và nhúng
- Viết công cụ dòng lệnh, shell, máy chủ và chương trình làm việc trực tiếp với hệ điều hành
- Hiểu tệp liên kết, bản đồ bộ nhớ và quá trình khởi động của firmware vi điều khiển
Câu hỏi thường gặp
Chủ đề này khác gì Hệ điều hành và Kiến trúc máy tính?
Đây là góc nhìn của người lập trình: bạn dùng dịch vụ của hệ điều hành và phần cứng và hiểu chúng đủ để viết chương trình đúng, nhanh. Hệ điều hành đi vào bên trong nhân (lập lịch, đồng bộ, hệ thống tệp); Kiến trúc máy tính đi vào bên trong CPU (đường ống lệnh, dự đoán rẽ nhánh). Học chủ đề này trước sẽ dễ hơn nhiều.
Sách CS:APP dùng x86-64, trong khi hệ nhúng dùng ARM hoặc RISC-V, có sao không?
Không. Khái niệm (thanh ghi, ngăn xếp, quy ước gọi hàm, liên kết) giống nhau; chỉ cú pháp lệnh khác. Dive into Systems có chương hợp ngữ ARMv8, và CS61C trên trang dùng RISC-V để bạn so sánh.
Tôi dùng Windows, có làm được bài lab không?
Nên dùng WSL hoặc máy ảo Linux x86-64: các bài lab của CS:APP giả định Linux, gcc và gdb. Trên máy Mac dùng chip Apple, hãy dùng máy ảo hoặc máy chủ Linux từ xa vì mã hợp ngữ x86-64 là trọng tâm.
Sách CS:APP có miễn phí không?
Không, đây là sách trả phí (Pearson, bản thứ 3). Các bài lab tự học, slide bài giảng và bài tập mẫu thì miễn phí trên trang của sách. Nếu chưa mua được sách, hãy dùng Dive into Systems (sách mở, miễn phí) cho phần biểu diễn dữ liệu, hợp ngữ, cache và hệ điều hành.
Mất bao lâu?
Khoảng 65 giờ cho lượt học đầu, tức 11 tuần với 6 giờ mỗi tuần. Các bài lab tốn thời gian hơn bạn nghĩ; môn 15-213 của CMU là môn 12 đơn vị, tức khoảng 12 giờ mỗi tuần trong cả học kỳ, nên số giờ ở đây là tối thiểu để nắm khái niệm và làm được phần chính của các lab.




