Bỏ qua tới nội dung chính

Sách cho chủ đề

Lý thuyết thông tin và mã hóa

Giáo trình chính và sách tham khảo, kèm phần nên đọc. Ưu tiên sách có giấy phép mở hoặc đọc miễn phí; sách có phí chỉ dẫn tới nhà xuất bản. Xem sách của cả lĩnh vực

Giáo trình chính

Information Theory, Inference, and Learning Algorithms

David J. C. MacKay · 2003 · Bản thứ 1

Miễn phíNâng caoTiếng Anh640 trang

Vì sao chọn: Giáo trình của David MacKay (Cambridge), đọc miễn phí trên màn hình theo cho phép của tác giả, bản quyền thuộc Cambridge University Press. Chọn làm sách chính vì viết sinh động, nhiều bài tập có lời giải, đi thẳng tới các mã hiện đại tiến sát dung lượng và nối lý thuyết thông tin với suy luận Bayes.

Nên đọc: Chương 1–2 (nhập môn, xác suất và entropy); Chương 4–6 (định lý mã hóa nguồn, mã ký hiệu, mã dòng); Chương 8–11 (kênh có nhiễu, định lý mã hóa kênh, kênh thực); Chương 13 Binary Codes; Chương 47–48 (LDPC, mã chập và turbo)

Elements of Information Theory

Thomas M. Cover, Joy A. Thomas · 2006 · Bản thứ 2

Có phíNâng caoTiếng Anh792 trang

Giáo trình lý thuyết thông tin chuẩn mực (bản thứ hai, 2006), dùng ở hầu hết các khóa sau đại học. Đọc song song với MacKay để có chứng minh chặt chẽ của các định lý; các chương sau (tốc độ – méo, thông tin mạng) dành cho người muốn đi sâu. Sách trả phí.

Nên đọc: Chương 2–3 (entropy, AEP); Chương 5 Data Compression; Chương 7–9 (dung lượng kênh, entropy vi phân, kênh Gauss)