Bỏ qua tới nội dung chính
Toán học

Hướng dẫn học chủ đề

Thống kê toán học

Trung bìnhkhoảng 45 giờ6 bước

Ước lượng điểm và ước lượng khoảng, hợp lý cực đại, kiểm định giả thuyết, hồi quy tuyến tính và suy luận Bayes.

Bắt đầu học

Bạn sẽ học được gì

  • Xây dựng ước lượng bằng phương pháp mô-men và hợp lý cực đại; đánh giá độ chệch, phương sai, sai số bình phương trung bình và tính vững
  • Tính thông tin Fisher, vận dụng cận Cramér–Rao và phân phối tiệm cận của ước lượng hợp lý cực đại
  • Xây dựng và diễn giải đúng khoảng tin cậy dựa trên các phân phối chuẩn, χ², Student t và bằng bootstrap
  • Thiết lập kiểm định giả thuyết, tính p-value, mức ý nghĩa và lực kiểm định; hiểu bổ đề Neyman–Pearson và kiểm định tỉ số hợp lý
  • Áp dụng các kiểm định so sánh hai mẫu, ANOVA, kiểm định khi bình phương và hồi quy tuyến tính bình phương tối thiểu cho dữ liệu thật
  • So sánh cách tiếp cận tần suất và Bayes: phân phối tiên nghiệm, hậu nghiệm, hàm mất mát và rủi ro

Nên học trước

Giới thiệu

Thống kê toán học trả lời câu hỏi ngược với lý thuyết xác suất: thay vì biết mô hình rồi tính xác suất của dữ liệu, ta quan sát dữ liệu rồi suy ra mô hình đã sinh ra nó — ước lượng tham số, đo độ bất định của ước lượng và quyết định giữa các giả thuyết. Đây là nền toán học đứng sau mọi báo cáo khảo sát, thử nghiệm lâm sàng, A/B testing và phần lớn học máy thống kê.

Ba bài toán cốt lõi

  • Ước lượng điểm. Từ một mẫu ngẫu nhiên X₁, …, Xₙ, xây dựng một thống kê để đoán tham số θ chưa biết. Hai phương pháp kinh điển là phương pháp mô-men và ước lượng hợp lý cực đại; chất lượng của ước lượng được đo bằng độ chệch, phương sai, sai số bình phương trung bình và tính vững.
  • Ước lượng khoảng. Một con số thôi là chưa đủ; khoảng tin cậy cho biết độ chính xác của ước lượng. Hiểu đúng nghĩa "độ tin cậy 95%" (nói về quy trình lặp lại, không phải xác suất tham số nằm trong một khoảng cụ thể) là một trong những điểm hay bị hiểu sai nhất.
  • Kiểm định giả thuyết. Đặt giả thuyết không H₀ và đối thuyết H₁, chọn tiêu chuẩn kiểm định, kiểm soát sai lầm loại I ở mức ý nghĩa α và cố gắng giảm sai lầm loại II (tăng lực kiểm định). Bổ đề Neyman–Pearson và kiểm định tỉ số hợp lý cho biết vì sao các tiêu chuẩn quen thuộc (z, t, χ², F) là lựa chọn hợp lý.

Hợp lý cực đại: ý tưởng trung tâm

Hàm hợp lý L(θ) xem mật độ của dữ liệu như một hàm của tham số. Ước lượng hợp lý cực đại (MLE) chọn θ làm dữ liệu quan sát được "dễ xảy ra nhất". Với cỡ mẫu lớn, MLE xấp xỉ phân phối chuẩn với phương sai là nghịch đảo của thông tin Fisher, và cận Cramér–Rao cho thấy không ước lượng không chệch nào có phương sai nhỏ hơn thế. Từ một ý tưởng này ta suy ra được khoảng tin cậy xấp xỉ, kiểm định tỉ số hợp lý và cả hàm mất mát entropy chéo trong học máy.

Từ lý thuyết đến dữ liệu thật

Phần sau của lộ trình đưa lý thuyết vào các mô hình dùng hằng ngày: so sánh hai mẫu, phân tích phương sai (ANOVA) một và hai nhân tố, kiểm định khi bình phương cho dữ liệu phân loại, hồi quy tuyến tính bằng bình phương tối thiểu (ở đây đại số tuyến tính — phép chiếu trực giao, ma trận XᵀX — trở nên thiết yếu). Cuối cùng là hai hướng hiện đại: bootstrap (ước lượng sai số bằng lấy mẫu lại, thay cho công thức) và suy luận Bayes (xem tham số là biến ngẫu nhiên có phân phối tiên nghiệm và hậu nghiệm).

Lời khuyên khi học

  • Nắm vững xác suất trước, đặc biệt là kỳ vọng, phương sai, phân phối chuẩn và định lý giới hạn trung tâm; thống kê toán học dùng chúng ở mọi trang.
  • Với mỗi phương pháp, hãy tự sinh dữ liệu giả lập có tham số biết trước, áp dụng phương pháp rồi xem nó có tìm lại đúng tham số không. Đó là cách nhanh nhất để hiểu độ chệch, phương sai và mức ý nghĩa.
  • Luôn đọc kết quả bằng lời: một p-value nhỏ nói gì và không nói gì.

Lộ trình dùng giáo trình của Rice làm sách chính và All of Statistics của Wasserman cho các phần hiện đại. Có thể học kèm môn MIT OpenCourseWare 18.650 (Statistics for Applications). Tổng cộng khoảng 45 giờ.

Giáo trình & sách tham khảo

Xem tất cả trong tab Sách

Giáo trình chính

Mathematical Statistics and Data Analysis

John A. Rice · 2006 · Bản thứ 3

Có phíTrung bìnhTiếng Anh650 trang

Vì sao chọn: Giáo trình thống kê toán học chuẩn cho năm ba – năm tư (sách trả phí). Cân bằng giữa chứng minh và phân tích dữ liệu thật, đi đúng trình tự của lộ trình: phân phối mẫu, ước lượng, kiểm định, so sánh mẫu, ANOVA và hồi quy. Chương 1–4 ôn lại xác suất nếu cần.

Nên đọc: Chương 5–14

Có phíTrung bìnhTiếng Anh442 trang

Tổng quan cô đọng về suy luận thống kê hiện đại (sách trả phí). Dùng cho bootstrap, suy luận Bayes và lý thuyết quyết định — những phần giáo trình của Rice đề cập ít — và rất hợp với người đến từ tin học hay học máy.

Nên đọc: Chương 5–13

OpenIntro Statistics

David Diez, Mine Çetinkaya-Rundel, Christopher Barr · 2019 · Bản thứ 4

CC BY-SACơ bảnTiếng Anh422 trang

Giáo trình thống kê mở, miễn phí, viết dễ tiếp cận với nhiều ví dụ dữ liệu thật. Đọc trước hoặc song song nếu bạn muốn trực giác về khoảng tin cậy và kiểm định trước khi đi vào phần chứng minh.

Các bước học

Đăng nhập để đánh dấu các bước đã hoàn thành.

  1. Bước 1: Định lý giới hạn và các phân phối mẫu

    khoảng 6 giờ

    Ôn nhanh luật số lớn và định lý giới hạn trung tâm; các dạng hội tụ của biến ngẫu nhiên; phân phối χ², Student t, Fisher F và phân phối của trung bình mẫu, phương sai mẫu khi lấy mẫu từ tổng thể chuẩn. Luyện tập: mô phỏng 10.000 mẫu cỡ 5 từ phân phối chuẩn, vẽ histogram của thống kê t và so với mật độ Student t bốn bậc tự do.

  2. Bước 2: Ước lượng điểm: mô-men và hợp lý cực đại

    khoảng 9 giờ

    Phương pháp mô-men, ước lượng hợp lý cực đại, độ chệch và sai số bình phương trung bình, thông tin Fisher, cận Cramér–Rao, phân phối tiệm cận của MLE, thống kê đủ. Luyện tập: tìm MLE cho tham số của phân phối Poisson, mũ và Gamma (Gamma cần giải số bằng phương pháp Newton), rồi kiểm tra bằng dữ liệu mô phỏng.

  3. Bước 3: Lấy mẫu, khoảng tin cậy và bootstrap

    khoảng 6 giờ

    Lấy mẫu ngẫu nhiên đơn giản và lấy mẫu phân tầng, sai số chuẩn, khoảng tin cậy cho trung bình và tỉ lệ; hàm phân phối thực nghiệm và bootstrap. Luyện tập: với một bộ dữ liệu thật, dựng khoảng tin cậy 95% cho trung vị bằng bootstrap và so với khoảng tin cậy cho trung bình dựa trên phân phối t.

  4. Bước 4: Kiểm định giả thuyết

    khoảng 9 giờ

    Giả thuyết không và đối thuyết, sai lầm loại I và II, lực kiểm định, p-value, bổ đề Neyman–Pearson, kiểm định tỉ số hợp lý, kiểm định phù hợp; so sánh hai mẫu độc lập và hai mẫu cặp đôi, kiểm định phi tham số Mann–Whitney. Luyện tập: mô phỏng để ước lượng lực của kiểm định t hai mẫu theo cỡ mẫu và vẽ đường cong lực.

  5. Bước 5: ANOVA, dữ liệu phân loại và hồi quy tuyến tính

    khoảng 9 giờ

    Phân tích phương sai một và hai nhân tố, so sánh bội; bảng tiếp liên và kiểm định khi bình phương; hồi quy tuyến tính đơn và bội bằng bình phương tối thiểu dưới dạng ma trận, suy luận cho hệ số, phân tích phần dư. Luyện tập: xây dựng mô hình hồi quy bội cho một bộ dữ liệu thật, tính β̂ = (XᵀX)⁻¹Xᵀy bằng tay với NumPy và đối chiếu với thư viện thống kê.

  6. Bước 6: Suy luận Bayes và lý thuyết quyết định

    khoảng 6 giờ

    Phân phối tiên nghiệm và hậu nghiệm, cặp liên hợp (Beta – nhị thức, chuẩn – chuẩn), ước lượng Bayes và khoảng khả tín Bayes (credible interval); hàm mất mát, rủi ro, ước lượng minimax và tính chấp nhận được. Luyện tập: ước lượng tỉ lệ nhấp chuột của một quảng cáo bằng tiên nghiệm Beta, so sánh kết quả với MLE khi dữ liệu còn rất ít. Có thể xem thêm các bài giảng về Bayes trong môn MIT OCW 18.650.

Khái niệm chính

Mẫu ngẫu nhiên và thống kê
Mẫu ngẫu nhiên là các biến X₁, …, Xₙ độc lập cùng phân phối với tổng thể; thống kê là một hàm của mẫu không chứa tham số chưa biết, ví dụ trung bình mẫu hay phương sai mẫu.
Phân phối mẫu
Phân phối của một thống kê khi lặp lại việc lấy mẫu; các phân phối χ², Student t và Fisher F xuất hiện khi lấy mẫu từ tổng thể chuẩn.
Độ chệch, phương sai và sai số bình phương trung bình
Ước lượng không chệch có kỳ vọng bằng tham số; sai số bình phương trung bình bằng phương sai cộng bình phương độ chệch, nên đôi khi ước lượng chệch lại tốt hơn.
Ước lượng hợp lý cực đại
Giá trị tham số làm cực đại hàm hợp lý L(θ) của dữ liệu quan sát; bất biến qua phép biến đổi tham số, và (dưới các điều kiện chính quy) vững và tiệm cận chuẩn với cỡ mẫu lớn.
Thông tin Fisher và cận Cramér–Rao
Thông tin Fisher đo lượng thông tin về θ mà dữ liệu chứa; dưới các điều kiện chính quy, nghịch đảo của nó là chặn dưới cho phương sai của mọi ước lượng không chệch.
Thống kê đủ
Một thống kê giữ lại toàn bộ thông tin về tham số có trong mẫu; nhận biết bằng định lý phân tích Fisher–Neyman.
Khoảng tin cậy
Khoảng ngẫu nhiên chứa tham số thật với xác suất 1 − α khi quy trình được lặp lại nhiều lần; độ rộng giảm theo tỉ lệ 1/√n.
Kiểm định giả thuyết
Quy tắc quyết định giữa giả thuyết không H₀ và đối thuyết H₁ dựa trên một tiêu chuẩn kiểm định và miền bác bỏ.
Sai lầm loại I, loại II và lực kiểm định
Sai lầm loại I là bác bỏ H₀ khi H₀ đúng (xác suất tối đa α); sai lầm loại II là chấp nhận H₀ khi H₀ sai; lực kiểm định bằng 1 trừ xác suất sai lầm loại II.
p-value
Xác suất, khi H₀ đúng, để tiêu chuẩn kiểm định cực đoan ít nhất như giá trị quan sát được; không phải xác suất H₀ đúng.
Bổ đề Neyman–Pearson và kiểm định tỉ số hợp lý
Với hai giả thuyết đơn, kiểm định dựa trên tỉ số hợp lý là mạnh nhất ở mức α cho trước; kiểm định tỉ số hợp lý tổng quát có thống kê −2 log Λ xấp xỉ χ².
Hồi quy tuyến tính bình phương tối thiểu
Ước lượng hệ số β bằng cách cực tiểu tổng bình phương phần dư, nghiệm β̂ = (XᵀX)⁻¹Xᵀy, và Xβ̂ là phép chiếu trực giao của y lên không gian cột của X.
Bootstrap
Ước lượng phân phối của một thống kê bằng cách lấy mẫu lại có hoàn lại từ chính dữ liệu, dùng khi công thức giải tích quá khó.
Suy luận Bayes
Xem tham số là biến ngẫu nhiên với phân phối tiên nghiệm; dữ liệu cập nhật thành phân phối hậu nghiệm tỉ lệ với hợp lý nhân tiên nghiệm.

Học xong để làm gì

  • Thử nghiệm lâm sàng và y sinh: so sánh phác đồ điều trị, tính cỡ mẫu cần thiết, kiểm soát sai lầm loại I
  • A/B testing và phân tích sản phẩm số: kiểm định sự khác biệt giữa hai phiên bản giao diện hay chính sách giá
  • Khảo sát xã hội học, thống kê nhà nước và thăm dò dư luận: thiết kế mẫu, ước lượng tỉ lệ và sai số
  • Kiểm soát chất lượng trong công nghiệp: biểu đồ kiểm soát, kiểm định lô sản phẩm, ANOVA trong thiết kế thí nghiệm
  • Học máy thống kê: hàm mất mát từ hợp lý cực đại, chọn mô hình, đánh giá độ bất định của dự đoán
  • Kinh tế lượng và tài chính: hồi quy, kiểm định giả thuyết kinh tế, ước lượng mô hình rủi ro

Câu hỏi thường gặp

Thống kê toán học khác gì thống kê ứng dụng?

Thống kê ứng dụng dạy cách chọn và chạy đúng phương pháp; thống kê toán học giải thích vì sao phương pháp đó đúng — chứng minh tính chất của ước lượng, suy ra phân phối của tiêu chuẩn kiểm định. Hiểu phần toán giúp bạn biết khi nào phương pháp không còn dùng được.

Cần đại số tuyến tính đến mức nào?

Cần thành thạo phép nhân ma trận, ma trận nghịch đảo, hạng và phép chiếu trực giao để hiểu hồi quy tuyến tính và phân phối chuẩn nhiều chiều. Trị riêng và phân tích phổ giúp ích khi học phân tích thành phần chính sau này.

Nên học theo trường phái tần suất hay Bayes?

Cả hai. Lộ trình bắt đầu bằng cách tiếp cận tần suất (ước lượng, khoảng tin cậy, kiểm định) vì đây là ngôn ngữ của phần lớn tài liệu và báo cáo, rồi giới thiệu suy luận Bayes ở bước cuối để bạn so sánh.

Có cần phần mềm thống kê không?

Nên dùng R hoặc Python (SciPy, statsmodels) để kiểm tra lời giải và làm việc với dữ liệu thật. Giáo trình của Rice đi kèm nhiều bộ dữ liệu thực tế để thực hành.

Mất bao lâu để học xong?

Khoảng 45 giờ, tương đương 8–10 tuần với 5 giờ mỗi tuần. Nếu phần xác suất còn yếu, hãy dành thêm thời gian ôn lại kỳ vọng, phương sai và định lý giới hạn trung tâm trước.

Chọn nguồn tự học

Kết hợp giáo trình có chứng minh với thực hành trên dữ liệu thật (Python hoặc R); luôn hỏi mỗi phương pháp dựa trên những giả định nào.