Bạn sẽ học được gì
- Giải thích các cơ chế phần cứng mà hệ điều hành dựa vào: chế độ đặc quyền, bẫy, ngắt, bộ quản lý bộ nhớ, lệnh nguyên tử, DMA
- Mô tả vòng đời tiến trình, chuyển ngữ cảnh và so sánh các thuật toán lập lịch CPU
- Phân tích phân trang, bảng trang nhiều mức, TLB và lỗi trang; tính kích thước bảng trang cho một sơ đồ địa chỉ
- Viết chương trình đa luồng đúng đắn bằng khóa, biến điều kiện và semaphore; nhận diện điều kiện tranh chấp và bế tắc
- Giải thích cách trình điều khiển thiết bị dùng thanh ghi ánh xạ bộ nhớ, ngắt và DMA
- Mô tả cấu trúc hệ thống tệp và cơ chế ghi nhật ký để phục hồi sau sự cố
- Sửa mã nhân xv6 trên RISC-V: thêm lời gọi hệ thống, thay đổi bảng trang hoặc bộ lập lịch, và gỡ lỗi bằng GDB
Nên học trước
Giới thiệu
Hệ điều hành là phần mềm nằm sát phần cứng nhất trong mọi máy tính: nó biến một bộ xử lý, một khối bộ nhớ và vài thiết bị thành nhiều tiến trình chạy song song, mỗi tiến trình tưởng mình có cả máy riêng. Với kỹ sư máy tính, câu hỏi trung tâm là ranh giới phần cứng – phần mềm: phần cứng phải cung cấp cơ chế gì (chế độ đặc quyền, ngắt, bộ quản lý bộ nhớ, lệnh nguyên tử) để hệ điều hành làm được việc của nó? Nội dung tương ứng với MIT 6.1810 Operating System Engineering (dùng xv6 trên RISC-V), UC Berkeley CS162 và học phần Hệ điều hành ở các trường Việt Nam.
Góc nhìn của lộ trình này
Bản Khoa học máy tính của chủ đề này chú trọng khái niệm và giao diện lập trình; xem thêm Operating Systems trong lộ trình Khoa học máy tính. Ở đây, mỗi khái niệm được gắn với cơ chế phần cứng bên dưới và với mã nguồn thật của một hệ điều hành nhỏ. Bạn đã học ngoại lệ, bảng trang và TLB ở Cấu trúc tính toán; giờ là lúc thấy phần mềm dùng chúng thế nào.
Ảo hóa CPU: tiến trình, bẫy và lập lịch
Một tiến trình là chương trình đang chạy cùng trạng thái của nó. Phần cứng RISC-V có ba chế độ đặc quyền — máy (M), giám sát (S) và người dùng (U); chương trình người dùng chỉ vào được nhân qua bẫy: lời gọi hệ thống, ngoại lệ hoặc ngắt. Ngắt định thời cho phép nhân giành lại CPU định kỳ để lập lịch: chuyển ngữ cảnh giữa các tiến trình theo các chính sách như vòng tròn (round robin), hàng đợi phản hồi đa mức, hay chia theo tỉ lệ. Bạn sẽ đọc đúng đoạn mã hợp ngữ lưu và khôi phục thanh ghi khi chuyển ngữ cảnh trong xv6.
Ảo hóa bộ nhớ
Bộ nhớ ảo cho mỗi tiến trình một không gian địa chỉ riêng. Bạn sẽ học phân đoạn, phân trang, bảng trang nhiều mức (xv6 dùng sơ đồ Sv39 của RISC-V: địa chỉ ảo 39 bit, ba mức bảng trang, trang 4 KiB), TLB và chi phí khi TLB trượt, lỗi trang, hoán đổi trang ra đĩa và các chính sách thay thế. Góc nhìn phần cứng giúp trả lời câu hỏi thực tế: vì sao một chương trình duyệt mảng lớn theo bước nhảy xấu lại chậm hơn hàng chục lần?
Đồng thời và đồng bộ
Khi có nhiều luồng hoặc nhiều lõi, dữ liệu dùng chung cần khóa, biến điều kiện và semaphore. Khóa được xây từ lệnh nguyên tử của phần cứng (trên RISC-V là cặp nạp dự trữ – lưu có điều kiện và các lệnh AMO); tắt ngắt chỉ đủ trên một lõi. Bạn sẽ gặp điều kiện tranh chấp, bế tắc và các lỗi đồng thời kinh điển — những lỗi khó tái hiện nhất trong hệ thống thật.
Thiết bị, trình điều khiển và lưu trữ
Hệ điều hành nói chuyện với thiết bị qua thanh ghi ánh xạ bộ nhớ, thăm dò hoặc ngắt, và DMA. Trình điều khiển thiết bị là phần mã lớn nhất và nhiều lỗi nhất của một nhân hiện đại. Phần lưu trữ gồm ổ đĩa, SSD, hệ thống tệp, ghi nhật ký để phục hồi sau sự cố.
Nên học thế nào
- Nền tảng cần có: Lập trình hệ thống với C và Cấu trúc tính toán (ngắt, bảng trang, TLB).
- Sách chính: Operating Systems: Three Easy Pieces (OSTEP, đọc miễn phí trên trang của tác giả) — ba phần ảo hóa, đồng thời, lưu trữ, rất dễ đọc. Computer Systems: A Programmer's Perspective (chương 8–10, 12) và Dive into Systems (chương 13–14) bổ sung góc nhìn lập trình viên.
- Thực hành với xv6: chạy xv6 cho RISC-V trên QEMU và làm các bài lab công khai của MIT 6.1810 (lời gọi hệ thống, bảng trang, bẫy, luồng, khóa). Đọc mã nhân nhỏ này là cách nhanh nhất để lý thuyết thành thứ bạn chạm được.
- Công cụ: GDB gắn vào QEMU để dừng trong nhân, strace để xem lời gọi hệ thống của chương trình Linux.
Học xong, bạn hiểu điều gì xảy ra từ lúc bấm phím tới khi chữ hiện trên màn hình, và sẵn sàng cho Hệ điều hành thời gian thực, Linux nhúng và Tính toán song song.
Giáo trình & sách tham khảo
Xem tất cả trong tab SáchGiáo trình chính
Operating Systems: Three Easy Pieces
Remzi H. Arpaci-Dusseau, Andrea C. Arpaci-Dusseau · 2018
Vì sao chọn: Giáo trình hệ điều hành của Remzi và Andrea Arpaci-Dusseau, đọc miễn phí từng chương trên trang của tác giả (bản in trả phí). Lối viết nhẹ nhàng, có bài tập mô phỏng và dự án; chọn làm sách chính vì ba phần ảo hóa, đồng thời, lưu trữ khớp đúng các bước của lộ trình.
Nên đọc: Chương 2, 4–10 (ảo hóa CPU); 13–23 (ảo hóa bộ nhớ); 26–32 (đồng thời); 36–42 (lưu trữ)
Computer Systems: A Programmer's Perspective
Randal E. Bryant, David R. O'Hallaron · 2015 · Bản thứ 3
Giáo trình của Bryant và O'Hallaron (Pearson, sách trả phí), sách chính của chủ đề Lập trình hệ thống với C. Các chương 8–10 và 12 nhìn ngoại lệ, bộ nhớ ảo, vào/ra và lập trình đồng thời từ phía lập trình viên trên Linux x86-64.
Nên đọc: Chương 8 Exceptional Control Flow; Chương 9 Virtual Memory; Chương 10 System-Level I/O; Chương 12 Concurrent Programming
Dive into Systems
Suzanne J. Matthews, Tia Newhall, Kevin C. Webb
Sách mở miễn phí, đọc trực tuyến tại diveintosystems.org. Chương 13 là phần giới thiệu hệ điều hành ngắn gọn, chương 14 về luồng và bộ nhớ dùng chung trên đa lõi; hợp để đọc trước khi vào sách chính.
Nên đọc: Chương 13 The Operating System; Chương 14 Leveraging Shared Memory in the Multicore Era
Các bước học
Đăng nhập để đánh dấu các bước đã hoàn thành.
Bước 1: Phần cứng hỗ trợ hệ điều hành: bẫy, ngắt, chế độ đặc quyền
khoảng 9 giờHọc vai trò của hệ điều hành, thực thi trực tiếp có giới hạn, chế độ người dùng và nhân, lời gọi hệ thống, ngoại lệ và ngắt, luồng điều khiển ngoại lệ ở mức tiến trình (fork, exec, tín hiệu). Luyện tập: cài trình biên dịch chéo RISC-V và QEMU, khởi động xv6, gắn GDB và đặt điểm dừng tại trình xử lý bẫy để xem thanh ghi nguyên nhân; viết bằng C một shell nhỏ dùng fork, exec, wait trên Linux.
- Đọc: Chương 2 Introduction; Chương 4 Processes; Chương 5 Process API; Chương 6 Direct Execution — Operating Systems: Three Easy Pieces
- Đọc: Chương 8 Exceptional Control Flow — Computer Systems: A Programmer's Perspective
Bước 2: Tiến trình và lập lịch CPU
khoảng 10 giờHọc vòng đời tiến trình, chuyển ngữ cảnh, các thuật toán lập lịch FIFO, SJF, vòng tròn, hàng đợi phản hồi đa mức, chia tỉ lệ, lập lịch đa lõi. Lab: thêm vào xv6 một lời gọi hệ thống mới (ví dụ đếm số tiến trình đang chạy) và một chương trình người dùng gọi nó; đọc mã hợp ngữ chuyển ngữ cảnh của xv6 và giải thích từng thanh ghi được lưu.
- Đọc: Chương 7 CPU Scheduling; Chương 8 Multi-level Feedback; Chương 9 Lottery Scheduling; Chương 10 Multi-CPU Scheduling — Operating Systems: Three Easy Pieces
- Đọc: Chương 13 The Operating System — Dive into Systems
Bước 3: Bộ nhớ ảo
khoảng 13 giờHọc không gian địa chỉ, API bộ nhớ, dịch địa chỉ, phân đoạn, phân trang, TLB, bảng trang nhiều mức, hoán đổi trang và chính sách thay thế, cấp phát động. Lab: viết hàm in bảng trang của một tiến trình xv6 theo ba mức Sv39; tính kích thước bảng trang cần cho các không gian địa chỉ khác nhau; trên Linux, viết chương trình duyệt mảng lớn theo bước nhảy tăng dần và đo ảnh hưởng của TLB trượt bằng perf.
- Đọc: Chương 13–16 Address Spaces, Memory API, Address Translation, Segmentation; Chương 18–22 Paging, Translation Lookaside Buffers, Advanced Page Tables, Swapping — Operating Systems: Three Easy Pieces
- Đọc: Chương 9 Virtual Memory — Computer Systems: A Programmer's Perspective
Bước 4: Luồng, khóa và đồng bộ
khoảng 13 giờHọc luồng và API luồng POSIX, khóa quay và khóa ngủ, lệnh nguyên tử của phần cứng, cấu trúc dữ liệu có khóa, biến điều kiện, semaphore, lỗi đồng thời và bế tắc. Luyện tập: viết hàng đợi sản xuất – tiêu thụ có giới hạn bằng pthread với biến điều kiện, kiểm tra bằng ThreadSanitizer; đọc cài đặt khóa quay của xv6 và giải thích vì sao nó tắt ngắt trên lõi hiện tại.
- Đọc: Chương 26 Concurrency and Threads; Chương 27 Thread API; Chương 28 Locks; Chương 30 Condition Variables; Chương 31 Semaphores; Chương 32 Concurrency Bugs — Operating Systems: Three Easy Pieces
- Đọc: Chương 14 Leveraging Shared Memory in the Multicore Era — Dive into Systems
Bước 5: Thiết bị, trình điều khiển và hệ thống tệp
khoảng 12 giờHọc giao tiếp thiết bị (thanh ghi, thăm dò, ngắt, DMA), cấu trúc trình điều khiển, ổ đĩa và RAID, tệp và thư mục, cài đặt hệ thống tệp, ghi nhật ký, vào/ra hệ thống trên Unix. Luyện tập: đọc trình điều khiển UART và virtio đĩa của xv6, vẽ sơ đồ đường đi của một ký tự từ bàn phím tới chương trình; viết chương trình C sao chép tệp bằng read và write với các kích thước bộ đệm khác nhau và đo thời gian.
- Đọc: Chương 36 I/O Devices; Chương 37 Hard Disk Drives; Chương 38 Redundant Disk Arrays (RAID); Chương 39 Files and Directories; Chương 40 File System Implementation; Chương 42 FSCK and Journaling — Operating Systems: Three Easy Pieces
- Đọc: Chương 10 System-Level I/O — Computer Systems: A Programmer's Perspective
Bước 6: Lab tích hợp trên xv6
khoảng 8 giờChọn một lab lớn và hoàn thành đến khi qua hết bộ kiểm tra: cấp phát trang lười (chỉ cấp khi có lỗi trang), sao chép khi ghi cho fork, hoặc luồng mức người dùng có chuyển ngữ cảnh tự viết. Viết báo cáo ngắn giải thích thay đổi trong mã nhân, cơ chế phần cứng được dùng và cách bạn gỡ lỗi.
- Đọc: Chương 23 Complete VM Systems — Operating Systems: Three Easy Pieces
Khái niệm chính
- Tiến trình
- Chương trình đang chạy cùng trạng thái của nó (thanh ghi, không gian địa chỉ, tệp đang mở); là đơn vị cô lập và lập lịch của hệ điều hành.
- Chế độ đặc quyền
- Mức quyền của bộ xử lý (trên RISC-V: máy, giám sát, người dùng); lệnh và thanh ghi nhạy cảm chỉ dùng được ở mức cao, nhờ vậy nhân bảo vệ được chính nó.
- Bẫy và lời gọi hệ thống
- Cơ chế chuyển điều khiển từ chế độ người dùng vào nhân khi có lời gọi hệ thống, ngoại lệ hoặc ngắt; phần cứng lưu PC và nguyên nhân, nhân xử lý rồi trả về.
- Ngắt
- Tín hiệu từ thiết bị hoặc bộ định thời buộc CPU tạm dừng chương trình hiện tại để chạy trình xử lý ngắt; ngắt định thời cho phép lập lịch ưu tiên (preemptive).
- Chuyển ngữ cảnh
- Lưu thanh ghi và trạng thái của tiến trình đang chạy rồi khôi phục của tiến trình khác; chi phí gián tiếp gồm cả TLB và bộ nhớ đệm bị làm nguội.
- Lập lịch CPU
- Chính sách chọn tiến trình chạy tiếp: vòng tròn, ưu tiên, hàng đợi phản hồi đa mức, chia tỉ lệ; đánh đổi giữa thời gian đáp ứng, thông lượng và công bằng.
- Phân trang và bảng trang nhiều mức
- Chia bộ nhớ thành trang cố định; bảng trang nhiều mức (như Sv39 của RISC-V) ánh xạ số trang ảo sang khung trang vật lý mà không tốn bộ nhớ cho vùng không dùng.
- TLB
- Bộ nhớ đệm nhỏ trong bộ quản lý bộ nhớ lưu các ánh xạ trang gần đây; TLB trượt buộc phần cứng hoặc nhân phải duyệt bảng trang.
- Lỗi trang
- Ngoại lệ khi truy cập trang chưa có trong bộ nhớ hoặc sai quyền; nhân nạp trang từ đĩa, cấp trang mới (sao chép khi ghi) hoặc kết thúc tiến trình.
- Luồng
- Dòng thực thi trong một tiến trình, dùng chung không gian địa chỉ với các luồng khác nên cần đồng bộ khi truy cập dữ liệu chung.
- Khóa và lệnh nguyên tử
- Khóa bảo đảm loại trừ lẫn nhau cho đoạn găng; được xây trên lệnh nguyên tử của phần cứng như cặp nạp dự trữ – lưu có điều kiện hoặc AMO của RISC-V.
- Semaphore và biến điều kiện
- Công cụ đồng bộ cho phép luồng chờ một điều kiện và được đánh thức; dùng cho bài toán sản xuất – tiêu thụ và giới hạn tài nguyên.
- Bế tắc
- Tình trạng các luồng chờ nhau vĩnh viễn; chỉ có thể xảy ra khi đồng thời có đủ bốn điều kiện: loại trừ lẫn nhau, giữ và chờ, không thu hồi, và chờ vòng tròn.
- Trình điều khiển thiết bị và DMA
- Mã nhân điều khiển một thiết bị qua thanh ghi ánh xạ bộ nhớ và ngắt; DMA cho thiết bị chép dữ liệu thẳng vào bộ nhớ mà không cần CPU chép từng từ.
- Hệ thống tệp có ghi nhật ký
- Hệ thống tệp ghi trước các thay đổi siêu dữ liệu vào nhật ký để sau khi mất điện có thể phục hồi về trạng thái nhất quán mà không phải quét toàn bộ đĩa.
Học xong để làm gì
- Phát triển nhân, trình điều khiển thiết bị và gói hỗ trợ bo mạch cho Linux nhúng
- Viết phần mềm đa luồng đúng đắn và hiệu quả cho máy chủ, thiết bị nhúng đa lõi
- Phân tích hiệu năng hệ thống: lập lịch, bộ nhớ ảo, vào/ra
- Thiết kế hỗ trợ phần cứng cho hệ điều hành: bộ quản lý bộ nhớ, bộ điều khiển ngắt, ảo hóa
- Bảo mật hệ thống: cô lập tiến trình, kiểm soát quyền, phòng chống leo thang đặc quyền
Câu hỏi thường gặp
Vì sao học xv6 mà không học thẳng Linux?
Nhân Linux có hàng chục triệu dòng mã; xv6 chỉ vài nghìn dòng nhưng có đủ tiến trình, bộ nhớ ảo, bẫy, khóa và hệ thống tệp, và chạy trên RISC-V — cùng kiến trúc bạn đã học ở Cấu trúc tính toán. Hiểu xv6 rồi đọc Linux dễ hơn nhiều.
Cần máy gì để làm lab xv6?
Một máy Linux, macOS hoặc Windows có WSL, cài trình biên dịch chéo RISC-V và QEMU. Không cần phần cứng RISC-V thật.
Chủ đề này liên quan gì tới hệ thống nhúng?
Hệ điều hành thời gian thực và Linux nhúng ở nhóm sau dùng đúng các khái niệm tiến trình, luồng, ngắt, lập lịch và trình điều khiển; khác biệt là yêu cầu thời hạn và tài nguyên hạn chế.
Đồng thời khó nhất ở đâu?
Lỗi đồng thời phụ thuộc thời điểm nên có thể không xuất hiện trong hàng nghìn lần chạy. Hãy tập lý luận về bất biến mà khóa bảo vệ, giữ đoạn găng ngắn, luôn lấy các khóa theo một thứ tự cố định, và dùng công cụ như ThreadSanitizer.
Học xong nên học gì tiếp?
Tính toán song song để khai thác đa lõi và GPU, Hệ điều hành thời gian thực và Linux nhúng nếu đi hướng nhúng, hoặc Mạng máy tính để hiểu phần mạng của nhân.



