Video
Đăng bởi Ban biên tập OpenER ·
Tác giả giữ toàn bộ bản quyền (All Rights Reserved) — không phải giấy phép mở. Bạn vẫn xem và học miễn phí trên OpenER; muốn tái sử dụng cần xin phép tác giả.
PIETER ABBEEL
Hi, everyone. Welcome to the 14th lecture of CS 188. Let's start with a couple of announcements for today.
Chào mọi người. Chào mừng đến với bài giảng thứ 14 của CS 188. Trước hết là vài thông báo cho hôm nay.
Your midterm was earlier this week, I hope you know. Somebody knows. Solutions have been posted on Piazza.
Bài kiểm tra giữa kỳ đã diễn ra hồi đầu tuần này, tôi hy vọng các bạn biết. Có người biết. Lời giải đã được đăng trên Piazza.
Check them out.
Các bạn hãy xem qua.
If you disagree with any solutions, definitely let us know. Grading is in progress. We'll hopefully be done pretty soon.
Nếu bạn không đồng ý với lời giải nào, nhất định hãy báo cho chúng tôi. Việc chấm bài đang được tiến hành. Hy vọng chúng tôi sẽ xong sớm.
Next thing up for you to work on is homework 6, which was just released and will be due on Monday. It'll be, as usual, a homework with three parts.
Việc tiếp theo các bạn cần làm là bài tập về nhà 6, vừa được công bố và hạn nộp là thứ Hai. Như thường lệ, bài tập gồm ba phần.
There will be a self-assessment of the previous homework. There will be a electronic for part of the homework and a written part of the homework. Any questions about logistics?
Có phần tự đánh giá bài tập trước. Có một phần làm trên máy và một phần làm bằng văn bản. Có câu hỏi nào về các vấn đề hậu cần không?
OK. Let's start with the technical content then for today. Today will be about Bayes nets. You already had one lecture on Bayes nets where you get to understand what they are.
OK. Vậy ta bắt đầu nội dung chuyên môn hôm nay. Hôm nay nói về mạng Bayes. Các bạn đã có một bài giảng về mạng Bayes để hiểu chúng là gì.
And you had a lecture before that on probability. And we'll be building directly on both of those lectures today. Quick recap. Conditional probability.
Và trước đó là bài giảng về xác suất. Hôm nay ta sẽ xây dựng trực tiếp trên cả hai bài giảng đó. Ôn nhanh. Xác suất có điều kiện.
The conditional probability of, let's say, capital X taking on value small x, which we shorthand this way. Just as a reminder, this is a shorthand for probability.
Xác suất có điều kiện của, giả sử, biến X viết hoa nhận giá trị x viết thường, mà ta viết tắt như thế này.
Random variable X takes on the value of small x. Given random variable Y took on the value of small y.
Nhắc lại, đây là cách viết tắt của xác suất biến ngẫu nhiên X nhận giá trị x viết thường, cho biết biến ngẫu nhiên Y nhận giá trị y viết thường.
So conditional probability of X given Y is the probability of them occurring together divided by the probability of Y. So that is saying, whenever Y occurs, what fraction of times does X happen?
Vậy xác suất có điều kiện của X cho Y là xác suất chúng cùng xảy ra chia cho xác suất của Y. Nghĩa là mỗi khi Y xảy ra, thì X xảy ra trong bao nhiêu phần trăm số lần?
That's the conditional probability of X given Y. You can reorganize this. And this gives you the product rule.
Đó là xác suất có điều kiện của X cho Y. Bạn có thể sắp xếp lại công thức này. Và nó cho ta quy tắc nhân.
That the joint probability of X and Y is the probability of Y times probability of X given Y. You can also reorder the variables to get the other version.
Xác suất đồng thời của X và Y bằng xác suất của Y nhân xác suất của X cho Y. Bạn cũng có thể đổi thứ tự các biến để có dạng còn lại.
Y given X times the X. Then chain rule, which is a generalization of the product rule. And it's a way to write out joint distributions over many variables.
Y cho X nhân với X. Tiếp theo là quy tắc chuỗi, là sự tổng quát hóa của quy tắc nhân. Đó là cách viết phân phối đồng thời trên nhiều biến.
The joint probability over all variables X1 through X10 is the product of the probability of X1. Then the conditional of X2 given X1.
Xác suất đồng thời trên mọi biến từ X1 đến X10 là tích của xác suất của X1, rồi có điều kiện của X2 cho X1, rồi X3 cho X1 và X2, và cứ thế.
Then X3 given X1. And X2, and so forth. Written in shorthand notation, is the product of all conditional probabilities of each variable conditioned on all the preceding variables in your ordering.
Viết gọn, đó là tích của các xác suất có điều kiện của mỗi biến, với điều kiện là tất cả các biến đứng trước trong thứ tự của bạn.
If you had only two variables, n equals 2. It becomes this thing over here. For n equals 2, there was two ways of doing this. You start with X, or you start with Y.
Nếu chỉ có hai biến, n bằng 2, nó thành dạng này ở đây. Với n bằng 2, có hai cách làm. Bạn bắt đầu với X, hoặc bắt đầu với Y.
When you have n variables, you have n factorial ways of writing out the chain rule.
Khi có n biến, bạn có n giai thừa cách viết ra quy tắc chuỗi.
And depending on the problem you're solving, one way of ordering the variables might be more beneficial than another way. Independence.
Và tùy bài toán bạn đang giải, một cách sắp thứ tự các biến có thể có lợi hơn cách khác. Tính độc lập.
X and Y are independent if and only if for all values of X and Y, the joint probability of X and Y is equal to the product of the individual probabilities.
X và Y độc lập khi và chỉ khi với mọi giá trị của X và Y, xác suất đồng thời của X và Y bằng tích của các xác suất riêng lẻ.
So that's just a definition of independence. If this is true, then we call these variables independent.
Đó chỉ là định nghĩa của tính độc lập. Nếu điều này đúng, ta gọi các biến đó là độc lập.
There's something called conditional independence, which is going to be true a lot more often, and hence a pretty useful concept in what we're doing.
Có một khái niệm là độc lập có điều kiện, nó đúng thường xuyên hơn nhiều, nên là khái niệm khá hữu ích cho việc ta làm.
X and Y are conditionally dependent given Z if and only if — and what will show up here is something that looks exactly like what we had before.
X và Y độc lập có điều kiện cho Z khi và chỉ khi — và cái xuất hiện ở đây trông giống hệt cái ta có trước đó.
But now everywhere there is a conditioning on Z. That's the only change. So everywhere we now condition on Z.
Nhưng giờ mọi chỗ đều có điều kiện theo Z. Đó là thay đổi duy nhất. Tức là mọi chỗ giờ ta đều đặt điều kiện theo Z.
And, of course, that has to be true also for all values of Z. Shorthand notation.
Và tất nhiên, điều này cũng phải đúng với mọi giá trị của Z. Ký hiệu viết tắt: X độc lập với Y cho Z.
X independent of Y given Z. Bayes nets. Bayes nets are a way of encoding joint distributions over many variables in some way that is more efficient to encode a distribution.
Mạng Bayes. Mạng Bayes là cách mã hóa phân phối đồng thời trên nhiều biến theo cách hiệu quả hơn để mã hóa một phân phối.
And also gives us, maybe, a bit more insight into the structure of the distribution, because there is a graph associated with it. For example, here we have a bunch of random variables.
Và có lẽ còn cho ta thêm hiểu biết về cấu trúc của phân phối, vì có một đồ thị đi kèm với nó. Ví dụ, ở đây ta có một loạt biến ngẫu nhiên.
Age, good student or not, mileage, risk aversion, vehicle here, extra car, [? senior ?] training, make, model, and so forth.
Tuổi, có phải học sinh giỏi không, số dặm đi, mức ngại rủi ro, loại xe, xe thứ hai, [? senior ?] training, hãng xe, mẫu xe, v.v.
And this graph is sketching out, in some sense, how these variables relate to each other. For example, age might affect driving skill.
Và đồ thị này phác họa, theo một nghĩa nào đó, các biến này liên hệ với nhau như thế nào. Ví dụ, tuổi có thể ảnh hưởng đến kỹ năng lái xe.
And age might affect medical costs in case somebody gets in an accident, and so forth.
Và tuổi có thể ảnh hưởng đến chi phí y tế nếu ai đó gặp tai nạn, v.v.
Questions we can ask once we have a Bayes net encoding a joint distribution are all the questions we can also ask from any joint distribution.
Khi đã có mạng Bayes mã hóa một phân phối đồng thời, các câu hỏi ta có thể hỏi là mọi câu hỏi ta cũng có thể hỏi với bất kỳ phân phối đồng thời nào.
Because a Bayes net is just one way of representing a joint distribution. The joint distribution is still there. We can still ask questions about it.
Vì mạng Bayes chỉ là một cách biểu diễn phân phối đồng thời. Phân phối đồng thời vẫn ở đó. Ta vẫn có thể đặt câu hỏi về nó.
So given a fixed Bayes net, we can ask what is the probable distribution for X given some evidence variable E?
Vậy với một mạng Bayes cố định, ta có thể hỏi phân phối xác suất của X là gì khi biết một biến bằng chứng E?
So maybe what's the probability of high medical costs given a certain student status and yearly mileage of the person you're looking to insure?
Ví dụ, xác suất chi phí y tế cao là bao nhiêu khi biết tình trạng học sinh và số dặm đi hằng năm của người bạn định bảo hiểm?
You can also ask representation questions. Given a Bayes net graph, what kind of distributions can it encode? That's what we're going to look at a lot today.
Bạn cũng có thể hỏi các câu hỏi về biểu diễn. Cho một đồ thị mạng Bayes, nó có thể mã hóa những loại phân phối nào? Hôm nay ta sẽ xem xét điều đó rất nhiều.
What kind of assumptions do you really make when you put down a Bayes net? What do you gain? What do you lose?
Thực sự bạn đang đưa ra những giả định gì khi xây dựng một mạng Bayes? Bạn được gì? Bạn mất gì?
And then, so a lot of modeling questions in practice is what Bayes net is actually a good model for the things that we see in the world?
Vậy nên, trong thực tế, nhiều câu hỏi về mô hình hóa là: mạng Bayes nào thực sự là mô hình tốt cho những gì ta thấy trong thế giới thực?
And to do the modeling well, you want to understand what independence assumptions you are making by choosing a particular structure.
Và để mô hình hóa tốt, bạn cần hiểu mình đang đưa ra những giả định độc lập nào khi chọn một cấu trúc cụ thể.
So let's recap the semantics of Bayes nets.
Ta cùng ôn lại ngữ nghĩa của mạng Bayes.
Semantics of Bayes nets. A Bayes net is a directed, acyclic graph with one node per random variable. That's the graph part.
Ngữ nghĩa của mạng Bayes. Mạng Bayes là một đồ thị có hướng, không chu trình với mỗi biến ngẫu nhiên là một nút. Đó là phần đồ thị.
Then in addition, there is a conditional probability table we call a CPT for each node. And that table says, what is the probability of this variable given its parent variables?
Ngoài ra, mỗi nút có một bảng xác suất có điều kiện, gọi là CPT. Bảng đó cho biết xác suất của biến này là bao nhiêu khi biết các biến cha của nó?
Together, all these conditional probability tables, if you multiply them together, you get the full joint distribution.
Tất cả các bảng xác suất có điều kiện này, nếu nhân chúng lại với nhau, ta được phân phối đồng thời đầy đủ.
So Bayes nets are a way to build full joint distributions by only specifying conditionals given parents in the graph. In practice, that might be a lot more feasible.
Vậy mạng Bayes là cách xây dựng phân phối đồng thời đầy đủ chỉ bằng cách xác định các xác suất có điều kiện theo biến cha trong đồ thị. Trong thực tế, cách này khả thi hơn nhiều.
Specifying a full joint distribution can be very difficult. Because just, let's say, go back to this graph. Full joint distribution you want to specify numbers. This may be like 24 variables here.
Xác định phân phối đồng thời đầy đủ có thể rất khó. Chẳng hạn, quay lại đồ thị này. Với phân phối đồng thời đầy đủ, bạn phải xác định các con số. Ở đây có thể có khoảng 24 biến.
Say, OK, for each of those variables taking on a certain value, what is the probability? That's very hard to come up with that number.
Với mỗi biến nhận một giá trị nào đó, xác suất là bao nhiêu? Rất khó nghĩ ra con số đó.
But if all you need to do is say, given the socioeconomic status, what is the probability this person has an extra car? That's a much easier thing to think about.
Nhưng nếu bạn chỉ cần nói: biết tình trạng kinh tế xã hội, xác suất người này có thêm một chiếc xe là bao nhiêu? Thì dễ nghĩ hơn nhiều.
And so by using a Bayes net it might be easier to specify the model by specifying pieces of the model, which you then multiply together to get the full joint distribution.
Vì vậy, dùng mạng Bayes có thể dễ hơn khi xác định mô hình theo từng phần của mô hình, rồi nhân các phần lại để có phân phối đồng thời đầy đủ.
Here's the canonical example that many books use. What are the variables here? B, burglary. E, earthquake.
Đây là ví dụ kinh điển mà nhiều sách giáo khoa dùng. Các biến ở đây là gì? B, trộm đột nhập. E, động đất.
A, alarm. J, John. And M, Mary. And it encodes a story.
A, chuông báo động. J, John. Và M, Mary. Nó mã hóa một câu chuyện.
The story here is that there could be a burglary. Or there could be an earthquake. Or there could not be. And as a consequence, your alarm might trigger.
Câu chuyện là có thể có trộm đột nhập. Hoặc có thể có động đất. Hoặc không có gì cả. Kết quả là chuông báo động của bạn có thể kêu.
But you're not at home. And I guess this is back in the days when your alarm wouldn't talk to your phone directly.
Nhưng bạn không ở nhà. Và tôi đoán đây là thời mà chuông báo động chưa kết nối trực tiếp với điện thoại của bạn.
But you might have neighbors who hear the alarm go off in your house and might then decide to call you and say, hey, your alarm is going.
Nhưng bạn có hàng xóm nghe thấy chuông kêu trong nhà bạn và có thể quyết định gọi cho bạn: này, chuông nhà bạn đang kêu đấy.
Either John or Mary or both could decide to call you. And then the tables here encode the probabilities of these things happening.
John hoặc Mary hoặc cả hai có thể gọi cho bạn. Và các bảng ở đây mã hóa xác suất của những sự kiện này.
For example, when the alarm goes, which is plus A, the alarm is going. John has a probability of 0.9 of calling you. 0.1 of not calling you.
Ví dụ, khi chuông kêu, tức là plus A, chuông đang kêu. John có xác suất 0.9 gọi cho bạn. 0.1 là không gọi.
For Mary, when the alarm goes, there's a probability of 0.7 of calling you, 0.3 of not calling you. And here's the bigger table.
Với Mary, khi chuông kêu, xác suất gọi là 0.7, không gọi là 0.3. Và đây là bảng lớn hơn.
This one encodes the conditional, if alarm given burglary or earthquake, highest probability of alarm.
Bảng này mã hóa xác suất có điều kiện của chuông báo động khi biết trộm hoặc động đất, xác suất chuông kêu cao nhất.
Highest probability of — let's see, plus A. Highest probability of alarm going off is 0.95 and happens when both burglary and earthquake are happening.
Xác suất cao nhất của... để xem, plus A. Xác suất cao nhất để chuông kêu là 0.95 và xảy ra khi cả trộm và động đất cùng xảy ra.
If it's just burglary, already has a high chance of going off. If it's just earthquake, it also already has a pretty high probability of going off, and so forth.
Nếu chỉ có trộm, khả năng chuông kêu đã cao. Nếu chỉ có động đất, xác suất chuông kêu cũng đã khá cao, và cứ thế.
And so these numbers might be much easier to specify than a table that has, in this case, 2 to the 5 entries for every possible combination of all variables.
Những con số này có thể dễ xác định hơn nhiều so với một bảng có, trong trường hợp này, 2 mũ 5 dòng cho mọi tổ hợp có thể của tất cả các biến.
If you want to then compute an entry in that table that's hard to specify directly, but we still want to reason about, all we need to do is find the corresponding entries.
Nếu muốn tính một dòng trong bảng đó mà khó xác định trực tiếp nhưng ta vẫn muốn suy luận, ta chỉ cần tìm các dòng tương ứng.
Multiply them together, and that would be the entry in the full joint distribution.
Nhân chúng lại với nhau, và đó sẽ là dòng trong phân phối đồng thời đầy đủ.
OK, that's the recap. Any questions? Because we're going to be building on this for the rest of the lecture.
Được rồi, đó là phần ôn tập. Có câu hỏi nào không? Vì ta sẽ xây dựng tiếp trên nền này trong phần còn lại của bài giảng.
OK. So let's start asking some questions about the benefits you get from using Bayes nets. Let's say we have a joint distribution over n Boolean variables. Each variable can take on two values.
OK. Giờ ta bắt đầu hỏi về những lợi ích khi dùng mạng Bayes. Giả sử ta có một phân phối đồng thời trên n biến Boolean. Mỗi biến có thể nhận hai giá trị.
How big is the table representing this distribution? Well, this table will need an entry for every possible combination of these Boolean variables. How many combinations are there? 2 to the power of n.
Bảng biểu diễn phân phối này lớn cỡ nào? Bảng này cần một dòng cho mọi tổ hợp có thể của các biến Boolean này. Có bao nhiêu tổ hợp? 2 mũ n.
So this table will be a size 2 to the power n. It's a lot of numbers to specify and also difficult numbers to think about. How about a Bayes net with n nodes?
Vậy bảng này có kích thước 2 mũ n. Đó là rất nhiều con số cần xác định, và cũng khó để nghĩ ra các con số này. Còn mạng Bayes với n nút thì sao?
So there's still n variables. And each node can have at most k parents.
Vẫn có n biến. Và mỗi nút có tối đa k nút cha.
How large is the sum of the sizes of all the tables that we need to represent a Bayes net with this kind of structure? Any thoughts?
Tổng kích thước của tất cả các bảng cần để biểu diễn một mạng Bayes có cấu trúc này là bao nhiêu? Có ý kiến nào không?
Over there. STUDENT: n times 2 to the k?
Bạn ở đằng kia. SINH VIÊN: n nhân 2 mũ k ạ?
PIETER ABBEEL
The suggestion is n times 2 to the k. What would be the reasoning there? Well, let's think about each individual table, how big it's going to be.
Đề xuất là n nhân 2 mũ k. Lý do là gì? Ta hãy nghĩ về từng bảng riêng lẻ, xem nó lớn cỡ nào.
And then we can multiply with n to see how big the overall thing is going to be. So one table. How many entries does it need?
Rồi nhân với n để xem tổng thể lớn cỡ nào. Xét một bảng. Nó cần bao nhiêu mục?
Well, if a variable has k parents, you need to specify a probability for each possible combination of values of the parents. If there's k parents, there is 2 to the k combinations.
Nếu một biến có k biến cha, bạn cần chỉ định một xác suất cho mỗi tổ hợp giá trị có thể của các biến cha. Có k biến cha thì có 2 mũ k tổ hợp.
So this table would need 2 to the k entries. To specify for each of those combinations what is, let's say, the probability of positive for this variable.
Vậy bảng này cần 2 mũ k mục. Để chỉ định cho từng tổ hợp đó, giả sử, xác suất dương của biến này.
And then the probability of negative will just be 1 minus that probability. If you explicitly represent the probability of the negative, then you'll have just twice as many entries.
Còn xác suất âm đơn giản là 1 trừ xác suất đó. Nếu bạn biểu diễn tường minh cả xác suất âm, thì số mục sẽ gấp đôi.
So if you explicitly also represent a negative, you have 2 to the k plus 1. One entry for each combination of the parents and the variable itself.
Vậy nếu bạn cũng biểu diễn tường minh giá trị âm, bạn có 2 mũ k cộng 1. Một mục cho mỗi tổ hợp của các biến cha và của chính biến đó.
This is for one CPT. And there will be n CPTs so that's the total size. Look at the difference. Exponential growth tends to be the one that gets you.
Đây là cho một CPT. Và sẽ có n CPT, nên đó là tổng kích thước. Hãy nhìn sự khác biệt. Tăng trưởng theo hàm mũ thường là thứ làm khó bạn.
Linear growth is not too bad. It's often pretty hard to avoid, actually. But exponential growth gets you in a bad way. Let's say you have a hundred variables.
Tăng trưởng tuyến tính thì không tệ lắm. Thực ra nó thường khá khó tránh. Nhưng tăng trưởng theo hàm mũ thì rất tệ. Giả sử bạn có một trăm biến.
2 to the 100 is a really large number.
2 mũ 100 là một số cực lớn.
But if you just have 100 times 2 to the k, this shows that as long as you keep the number of parents per node small, the storage you need for your Bayes net is relatively small.
Nhưng nếu chỉ có 100 nhân 2 mũ k, thì điều này cho thấy miễn là bạn giữ số biến cha mỗi nút nhỏ, bộ nhớ cần cho mạng Bayes của bạn là tương đối nhỏ.
And so you can always start thinking about this when you design Bayes nets. Often the name of the game will be ensure that not any single variable has a large number of parents.
Vì vậy bạn luôn có thể nghĩ đến điều này khi thiết kế mạng Bayes. Mấu chốt thường là đảm bảo không có biến nào có quá nhiều biến cha.
Because if you have any single variable with a large number of parents, that conditional probability table will dominate what you need to do.
Vì nếu có một biến với rất nhiều biến cha, bảng xác suất có điều kiện đó sẽ lấn át toàn bộ những gì bạn cần xử lý.
Both, by the way, when you have a full table or a Bayes net, allow you to calculate the full joint distribution.
Nhân tiện, cả bảng đầy đủ lẫn mạng Bayes đều cho phép tính phân phối đồng thời đầy đủ.
But then the Bayes net has lots of space savings as long as you don't give any node too many parents.
Nhưng mạng Bayes tiết kiệm rất nhiều không gian miễn là bạn không cho nút nào quá nhiều biến cha.
It's much easier to put the numbers in these smaller conditional probability tables than in the full joint tables. And next lecture we'll see it's also quicker to answer questions of the form.
Điền số vào các bảng xác suất có điều kiện nhỏ này dễ hơn nhiều so với bảng phân phối đồng thời đầy đủ.
What is the conditional distribution of X given some evidence when you have a Bayes net than we have a full joint table? OK, so that's a recap of representation.
Và bài sau ta sẽ thấy nó cũng nhanh hơn khi trả lời các câu hỏi dạng: phân phối có điều kiện của X là gì khi biết một số bằng chứng, với mạng Bayes so với bảng đồng thời đầy đủ? Được rồi, đó là phần tóm tắt về biểu diễn.
Topic for today will be the next thing here, conditional independencies. And then inference will be for next lecture, for exact inference. And the lecture after that for approximate inference.
Chủ đề hôm nay là phần tiếp theo, các tính độc lập có điều kiện. Còn suy luận sẽ để bài sau, suy luận chính xác. Và bài sau nữa là suy luận xấp xỉ.
And then after that, we'll also start looking at learning the Bayes nets from data. Representation is going to be all about independencies, at least in this lecture. So let's recap those definitions and notation.
Sau đó, ta cũng sẽ bắt đầu xem xét việc học mạng Bayes từ dữ liệu. Biểu diễn sẽ xoay quanh tính độc lập, ít nhất là trong bài này. Vậy ta nhắc lại các định nghĩa và ký hiệu.
X and Y are independent if, for all X and Y, the joint is equal to the product of the marginals. This is the notation.
X và Y độc lập nếu, với mọi X và Y, phân phối đồng thời bằng tích các phân phối biên. Đây là ký hiệu.
X and Y are conditionally independent given Z. This is the notation for that. If the exact same thing holds out as above, but now everywhere we condition on Z. Only change.
X và Y độc lập có điều kiện cho Z. Đây là ký hiệu của nó. Nếu đúng điều y hệt như trên, nhưng giờ mọi chỗ đều điều kiện theo Z. Chỉ khác vậy thôi.
In fact, that's true for many, many things in probability.
Thực ra điều đó đúng với rất nhiều thứ trong xác suất.
If you have some equality that's true, and then you introduce an extra variable, and you everywhere condition to that extra variable, probably that same equality would still be true.
Nếu bạn có một đẳng thức đúng, rồi thêm một biến phụ, và điều kiện theo biến phụ đó ở mọi chỗ, thì nhiều khả năng đẳng thức đó vẫn đúng.
Conditional independence is a property of a distribution. So when somebody gives you a distribution, you can go check. You can check all those conditions and see if they're true.
Độc lập có điều kiện là một tính chất của phân phối. Khi ai đó đưa bạn một phân phối, bạn có thể kiểm tra. Bạn kiểm tra tất cả các điều kiện đó xem chúng có đúng không.
Then you can claim independence or conditional independence. For example, let's say this robot is making a fire in the house or could not be making a fire in the house.
Rồi bạn có thể khẳng định độc lập hoặc độc lập có điều kiện. Ví dụ, giả sử robot này đang đốt lửa trong nhà hoặc có thể không đốt lửa trong nhà.
A fire might cause smoke. And then the smoke might cause the alarm to go off. What is the conditional independence we would have here?
Lửa có thể gây ra khói. Và khói có thể làm chuông báo động kêu. Vậy ở đây ta có tính độc lập có điều kiện nào?
Well, if we know there is smoke — so we're conditioning on smoke.
Nếu ta biết có khói, tức là ta điều kiện theo khói.
If we know there is smoke, knowing whether or not there is fire doesn't tell us anything new about whether the alarm will go off or not.
Nếu biết có khói, việc biết có lửa hay không không cho ta thêm thông tin mới về việc chuông có kêu hay không.
Because we, in this model of the world, assume the alarm is triggered by smoke. And so once we know there is smoke, it doesn't really matter what caused that smoke.
Vì trong mô hình thế giới này, ta giả sử chuông được kích hoạt bởi khói. Nên một khi biết có khói, thì thứ gì gây ra khói đó không còn quan trọng.
The alarm will be triggered based on that smoke. And so the alarm going off or not is independent of fire given we already know there is smoke.
Chuông sẽ được kích hoạt dựa trên khói đó. Vậy chuông kêu hay không độc lập với lửa khi ta đã biết có khói.
And by the way, the ordering here doesn't matter up front. You can just as well say fire is independent of alarm given smoke. If it holds one way, it holds the other way.
Nhân tiện, thứ tự ở đây không quan trọng. Bạn cũng có thể nói lửa độc lập với chuông cho khói. Đúng chiều này thì cũng đúng chiều kia.
Because if you look at the equations here about independence, the roles of X and Y are completely symmetric.
Vì nếu nhìn các phương trình về tính độc lập ở đây, vai trò của X và Y hoàn toàn đối xứng.
So what assumptions do we make when building a Bayes net?
Vậy ta giả định gì khi xây dựng mạng Bayes?
If we want to represent any distribution, we can always represent it by applying the chain rule. A product of conditional distributions of the current variable given all preceding variables.
Nếu muốn biểu diễn một phân phối bất kỳ, ta luôn có thể làm bằng quy tắc chuỗi. Một tích các phân phối có điều kiện của biến hiện tại cho tất cả các biến đứng trước.
What is a Bayes net do differently from just applying the chain rule in the general way?
Mạng Bayes làm khác gì so với việc áp dụng quy tắc chuỗi tổng quát?
It says, instead of conditioning on all past variables, just conditioning on the past variables that are my parents in the graph of the Bayes net.
Nó nói rằng, thay vì điều kiện theo mọi biến trước đó, chỉ điều kiện theo các biến trước đó là biến cha của tôi trong đồ thị của mạng Bayes.
By doing this, if we select a parent set that's smaller than all preceding variables, we have made an assumption.
Làm vậy, nếu ta chọn một tập biến cha nhỏ hơn tất cả các biến đứng trước, thì ta đã đưa ra một giả định.
Because the chain rule always applies, but once we leave out one of the preceding variables, we lose some expressiveness. There are certain distributions we cannot represent anymore. We lost something.
Vì quy tắc chuỗi luôn áp dụng được, nhưng một khi ta bỏ bớt một biến đứng trước, ta mất đi một phần khả năng biểu diễn. Có những phân phối mà ta không còn biểu diễn được nữa. Ta đã mất đi một thứ.
We also gain something. We gain that it's easier to write out conditional tables with a small number of parents.
Nhưng ta cũng được một thứ. Ta được lợi là việc viết các bảng có điều kiện trở nên dễ hơn khi số nút cha ít.
But we lost something in that some distributions will not be possible to represent by a Bayes net if the parents of a node are not all the previous nodes.
Nhưng ta mất ở chỗ một số phân phối sẽ không thể được biểu diễn bằng một mạng Bayes nếu các nút cha của một nút không phải là tất cả các nút đứng trước.
Now this we know that we're doing when we write out the distribution as a part of the conditionals. And we only condition on parents, not on all proceeding variables to make an assumption.
Điều này ta biết mình đang làm khi viết phân phối dưới dạng tích các xác suất có điều kiện. Và ta chỉ điều kiện theo các nút cha, chứ không theo mọi biến đứng trước, tức là ta đã đưa ra một giả định.
The question we're going to answer today is, is there anything that we implicitly assume in addition to this?
Câu hỏi hôm nay ta sẽ trả lời là: ngoài điều này ra, ta có ngầm giả định thêm gì nữa không?
Where by assuming this, we're forced to also assume other things that are not already listed in this equation here.
Tức là khi giả định điều này, ta buộc phải giả định thêm những điều khác mà chưa được liệt kê trong phương trình này.
And what we'll see is that, actually, we can often read these things off from the graph. So we will not have to go look at the actual numbers.
Và ta sẽ thấy rằng, thực ra, ta thường có thể đọc những điều này trực tiếp từ đồ thị. Nên ta không cần phải xem các con số cụ thể.
We can just look at the graph of the Bayes net and draw conclusions about assumptions that are made about the distribution. Of course, that's important once you start building models.
Ta chỉ cần nhìn đồ thị của mạng Bayes và rút ra kết luận về các giả định được đưa vào phân phối. Dĩ nhiên điều đó quan trọng khi bạn bắt đầu xây dựng mô hình.
Because we want to understand what assumptions we built into our models. Let's do an example. So here's a very simple Bayes net.
Vì ta muốn hiểu những giả định nào đã được đưa vào mô hình của mình. Ta làm một ví dụ. Đây là một mạng Bayes rất đơn giản.
Four variables, X, Y, Z, W. In the first bullet point, let's look at the conditional independencies that we have introduced just by going from using the chain rule to using the conditioning on just the parents.
Bốn biến X, Y, Z, W. Ở gạch đầu dòng đầu tiên, ta xem các tính độc lập có điều kiện mà ta đã đưa vào chỉ bằng việc chuyển từ quy tắc chuỗi sang chỉ điều kiện theo các nút cha.
So a chain rule would say pXYZW is pX, pY given X, pZ given X, comma Y. pW given XYZ.
Quy tắc chuỗi nói p(X,Y,Z,W) bằng p(X), p(Y|X), p(Z |X,Y), p(W|X,Y,Z).
That's a chain rule.
Đó là quy tắc chuỗi.
What does the Bayes net say? Bayes net says, I'm OK with instead using still p of X, still pY given X. But then for Z, X not a parent, only Y.
Còn mạng Bayes nói gì? Mạng Bayes nói: tôi vẫn dùng p(X), vẫn p(Y|X). Nhưng với Z, X không phải nút cha, chỉ có Y.
So we just use Z given Y. And then for W, only Z is a parent. So we drop the X over here. We drop the X and the Y over there.
Nên ta dùng p(Z|Y). Còn với W, chỉ có Z là nút cha. Nên ta bỏ X ở đây. Bỏ cả X và Y ở đằng kia.
Those are assumptions we made by using a Bayes net of this structure and not using the chain rule. What would you do if you didn't want to make those assumptions?
Đó là các giả định ta đưa ra khi dùng mạng Bayes có cấu trúc này thay vì dùng quy tắc chuỗi. Bạn sẽ làm gì nếu không muốn đưa ra những giả định đó?
Let's say you were not happy with those assumptions. You said, that's not right. I need W a condition on X, Y, and Z.
Giả sử bạn không hài lòng với các giả định đó. Bạn bảo: như vậy không đúng. Tôi cần W có điều kiện theo X, Y và Z.
Well, then you need to introduce more arrows in your Bayes net. If you want W to be condition on X, Y, and Z, then you need to add this arrow.
Vậy thì bạn cần thêm các mũi tên vào mạng Bayes. Nếu muốn W có điều kiện theo X, Y và Z, thì bạn cần thêm mũi tên này.
And you need to add this arrow. Once you do that, you get W condition on X, Y, and Z. But that's not the Bayes net we have here.
Và thêm mũi tên này. Khi đó bạn có W điều kiện theo X, Y và Z. Nhưng đó không phải mạng Bayes ta có ở đây.
We're just having Z as the parent. So how do you write that out in terms of conditional independencies?
Ở đây W chỉ có Z là nút cha. Vậy ta viết điều đó thế nào dưới dạng độc lập có điều kiện?
We said by doing this one here corresponds to saying Z is independent of X given Y. This one here is saying, Z is independent of X and Y. Should
Ta nói cái này tương ứng với việc Z độc lập với X khi biết Y. Cái này thì nói rằng Z độc lập với X và Y. Lẽ ra phải viết hoa.
be writing this in capitals. Z is independent of X and Y. It's not Z. Wrong one. W. Working with W here. W is independent of X and Y given Z.
Z độc lập với X và Y. Không phải Z, nhầm rồi. W. Đang xét W ở đây. W độc lập với X và Y khi biết Z.
So these are the two assumptions we made by choosing this graph and by just looking at the chain rule simplified to what the Bayes net will prescribe.
Đây là hai giả định ta đưa ra khi chọn đồ thị này và khi rút gọn quy tắc chuỗi về dạng mà mạng Bayes quy định.
Are there any other independencies than these two that are guaranteed to be true for any distribution of this form factor? Not that one. This one here.
Ngoài hai tính độc lập này, còn tính độc lập nào khác được đảm bảo đúng với mọi phân phối có dạng phân tích thừa số này không? Không phải cái đó. Cái này đây. Còn cái nào khác được đảm bảo đúng không?
Any others that are guaranteed to be true? Any thoughts?
Có ý kiến gì không? Ta nghĩ theo trực giác nhé.
Let's think about this intuitively. What else might be true?
Còn điều gì khác có thể đúng?
If we look at this graph, it seems like in this particular case, we have a chain, a causal-effect change.
Nhìn đồ thị này, có vẻ trong trường hợp này ta có một chuỗi nhân quả.
X seems to cause Y, cause Z, cause W. That's what this roughly encodes.
X dường như gây ra Y, gây ra Z, gây ra W. Đó đại khái là điều mà đồ thị này mã hóa. Nên biết Y thì mất đi ảnh hưởng của X lên W.
So knowing Y takes any influence of X on W away.
Vậy một tính độc lập nữa ta có thể viết là W độc lập với X khi đã biết Y. Ta chưa chứng minh điều này ở đây, nhưng đó là trực giác ta có thể đọc ra từ đồ thị.
So another independence we can write is W is independent of X once we know Y. We haven't proven this here, but that's an intuition that we can read off from this graph.
Và đó là loại kết luận mà bài giảng hôm nay sẽ nói tới.
And it's the kind of conclusion that today's lecture will be about.
You can generally read off from graphs which independencies are guaranteed to be true in addition to the ones that the Bayes net definition already gives you.
Nói chung bạn có thể đọc từ đồ thị xem những tính độc lập nào được đảm bảo đúng, ngoài những tính độc lập mà định nghĩa mạng Bayes đã cho sẵn. Vậy một câu hỏi quan trọng về mạng Bayes: hai nút có độc lập với nhau khi biết một bằng chứng nào đó không?
So important question about Bayes nets — are two nodes independent given certain evidence? If the answer is yes, you can prove it using algebra. There's a definition for independence.
Nếu có, bạn có thể chứng minh bằng đại số. Có một định nghĩa cho tính độc lập. Nên bạn có thể tính toán đại số và chứng minh.
So you can work through the algebra and prove it. This can be tedious in general.
Nhìn chung việc này có thể rất tẻ nhạt.
And so today's lecture really about avoiding needing to do all this algebra and having a graph algorithm that can tell you the answer.
Vì vậy bài hôm nay chính là để tránh phải làm hết chỗ đại số này, nhờ một thuật toán trên đồ thị có thể cho bạn câu trả lời. Nếu câu trả lời là không, bạn có thể chứng minh bằng một phản ví dụ.
If the answer is no, you can prove it with a counter-example. So you could say, well, this independence is not true. Because here's an example distribution showing that this independence is not true.
Bạn có thể nói: tính độc lập này không đúng. Vì đây là một phân phối ví dụ cho thấy tính độc lập này không đúng.
And the example distribution can be represented by the Bayes net that you just gave me. For example, here is a Bayes net.
Và phân phối ví dụ đó có thể được biểu diễn bằng mạng Bayes mà bạn vừa đưa ra. Ví dụ, đây là một mạng Bayes.
We can ask the question, are X and Z guaranteed to be independent? Who thinks X and Z are guaranteed to be independent? Who thinks they're not?
Ta có thể hỏi: X và Z có chắc chắn độc lập không? Ai nghĩ X và Z chắc chắn độc lập? Ai nghĩ là không? Được, tại sao không?
SINH VIÊN
OK, why not.
Vì chúng được nối với nhau qua Y.
STUDENT
Well, they're connected through Y.
Đúng, chúng được nối qua Y.
PIETER ABBEEL
So they're connected through Y. That's why the thinking is, well, they're not guaranteed to be independent. So what can you do? You can see how this reasoning.
Nên người ta nghĩ là chúng không chắc chắn độc lập. Vậy bạn có thể làm gì? Bạn thấy cách lập luận này.
X can influence Z, because this story over here is one way to explain it. Maybe there is low pressure, which causes rain, which causes traffic.
X có thể ảnh hưởng đến Z, vì câu chuyện ở đây là một cách để giải thích điều đó. Đó là một cách giải thích. Có thể có áp suất thấp, gây ra mưa, rồi mưa gây ra kẹt xe.
And I can associate a distribution with this.
Và tôi có thể gắn một phân phối với cấu trúc này.
I can actually put numbers down and say, probability of Y given X maybe is Y is always equal to X. Z is always equal to Y. And if that's the case, then we know that X influences Z and they're not independent.
Tôi có thể đặt số cụ thể vào và nói rằng, xác suất của Y cho trước X có thể là Y luôn bằng X. Z luôn bằng Y. Và nếu vậy, thì X ảnh hưởng đến Z và chúng không độc lập.
And to show that there is no independence just one example is enough.
Và để chứng minh là không độc lập, chỉ cần một ví dụ là đủ.
If we did want to show independence, we'd have to show it to be true no matter what numbers you put in the conditional probability tables, which is what we'll do most of this lecture.
Còn nếu muốn chứng minh tính độc lập, ta phải chứng minh nó đúng với mọi con số điền vào các bảng xác suất có điều kiện, và đó là việc ta sẽ làm trong phần lớn bài giảng này.
One question. Is it possible, if somebody gives you a Bayes net like this, that X and Z are actually independent?
Một câu hỏi. Nếu ai đó đưa cho bạn một mạng Bayes như thế này, liệu X và Z có thể thực sự độc lập không?
Who thinks that's possible?
Ai nghĩ là có thể?
Why?
Tại sao?
STUDENT
So only condition for independence is if you take the individual probability — if the product was equal to conditional probability that is independent.
Điều kiện duy nhất để độc lập là nếu lấy các xác suất riêng lẻ — nếu tích của chúng bằng xác suất có điều kiện thì chúng độc lập.
So if somehow the product works out to be [INAUDIBLE] and independent.
Nên nếu bằng cách nào đó tích đó ra [KHÔNG NGHE RÕ] thì độc lập.
PIETER ABBEEL
OK, that's the right kind of reasoning. Now to complete it.
Được, lập luận như vậy là đúng hướng. Giờ ta hoàn thiện nó.
So the reasoning was, if somehow the product works out that things are independent, then we'd still achieve independence even if this is the graph's structure.
Lập luận là, nếu bằng cách nào đó tích đó cho ra các biến độc lập, thì ta vẫn có tính độc lập dù đồ thị có cấu trúc này.
And now a question is, can we come up with a conditional probability table for X, Y, and Z such that indeed there will be independence? This is a little bit of a tricky thing.
Và câu hỏi bây giờ là, ta có thể tìm ra bảng xác suất có điều kiện cho X, Y và Z sao cho thực sự có tính độc lập không? Chuyện này hơi khó.
Because it's very counter-intuitive. Because why would you use a Bayes net like this if X and Z are independent? But the question here is, mathematically speaking, could we still make them independent?
Vì nó rất phản trực giác. Vì sao bạn lại dùng một mạng Bayes như thế này nếu X và Z độc lập? Nhưng câu hỏi ở đây là, xét về mặt toán học, ta vẫn có thể làm cho chúng độc lập không?
And the answer is yes. Just make X a coin flip. 50/50. You make Y a coin flip, 50/50, independent of the value of X.
Và câu trả lời là có. Cứ cho X là một lần tung đồng xu. 50/50. Cho Y cũng là tung đồng xu 50/50, độc lập với giá trị của X.
And same for Z. Now everything is independent coin flips. But you can still represent it with this kind of Bayes net.
Và Z cũng vậy. Giờ tất cả đều là các lần tung đồng xu độc lập. Nhưng bạn vẫn biểu diễn được bằng mạng Bayes này.
It's just not very smart to use this Bayes net to represent that distribution. Because this Bayes net is overkill for distribution over all independent variables. But you could do it.
Chỉ là dùng mạng Bayes này để biểu diễn phân phối đó thì không khôn ngoan. Vì mạng Bayes này là quá mức cần thiết cho phân phối trên các biến hoàn toàn độc lập. Nhưng bạn vẫn làm được.
Just every entry in every CPT will be one half and not two.
Chỉ là mọi mục trong mọi CPT sẽ là một nửa chứ không phải hai.
OK, let's start thinking about how we can come up with graph algorithms to conclude independencies between variables in Bayes nets. The way we'll do this, we'll first study this for triplets.
Nào, ta bắt đầu nghĩ cách tìm các thuật toán trên đồ thị để kết luận tính độc lập giữa các biến trong mạng Bayes. Cách ta làm là trước hết nghiên cứu bộ ba biến.
And then for more complex cases, we'll refer back to the triplet cases and say, OK, this complex case can be solved by just looking at triplets that constitute the more complex case.
Rồi với các trường hợp phức tạp hơn, ta quay lại các trường hợp bộ ba và nói, trường hợp phức tạp này có thể giải bằng cách xét các bộ ba cấu thành trường hợp phức tạp đó.
And the thing we'll come up with ultimately is something called d-separation. OK, here's one triplet. X points to Y points to Z. For example, low pressure could or could not cause rain.
Và thứ cuối cùng ta thu được gọi là d-separation. Đây là một bộ ba. X trỏ tới Y trỏ tới Z. Ví dụ, áp suất thấp có thể gây ra mưa hoặc không.
Could or could not cause traffic. This is the distribution that we get when using the above Bayes net structure. First question, can be guarantee that X is independent of Z?
Có thể gây ra kẹt xe hoặc không. Đây là phân phối ta có khi dùng cấu trúc mạng Bayes ở trên. Câu hỏi đầu tiên, ta có đảm bảo X độc lập với Z không?
We just talked about that. We cannot guarantee that. That was on the previous slide. The answer is no.
Ta vừa bàn về điều đó. Ta không thể đảm bảo. Đó là ở slide trước. Câu trả lời là không.
Because X could influence Z in this kind of Bayes net. How do we show this? Well, we can show it by thinking through a story.
Vì X có thể ảnh hưởng đến Z trong mạng Bayes kiểu này. Làm sao để chứng minh? Ta có thể chứng minh bằng cách nghĩ ra một câu chuyện.
But even more concretely, to mathematically show it, we could come up with some numbers. We can say, here's a story. Let's now put it in numbers.
Nhưng cụ thể hơn, để chứng minh bằng toán, ta có thể đưa ra một vài con số. Ta nói, đây là một câu chuyện. Giờ ta đặt nó thành số.
Y is always equal to X. Z is always equal to Y. And then let's say X is 50/50. Then there is clearly an influence from X onto Z.
Y luôn bằng X. Z luôn bằng Y. Và giả sử X là 50/50. Thì rõ ràng X có ảnh hưởng lên Z.
And we can not claim independence. So if somebody asked you, given a distribution represented with this Bayes net, but I did not give you the numbers in the CPTs.
Và ta không thể khẳng định tính độc lập. Vậy nếu ai đó hỏi bạn, cho một phân phối được biểu diễn bằng mạng Bayes này, nhưng tôi không đưa bạn các con số trong CPT.
I just gave you the graph of the Bayes net, can you claim independence of X and Z? The answer is no. How about can we guarantee X is independent of Z given Y?
Tôi chỉ đưa đồ thị của mạng Bayes, bạn có thể khẳng định X và Z độc lập không? Câu trả lời là không. Còn việc đảm bảo X độc lập với Z cho trước Y thì sao?
Intuitively, yes. That's the whole intuition of this kind of causal chain is that one causes the next, causes the next.
Theo trực giác, là có. Toàn bộ trực giác của chuỗi nhân quả này là cái này gây ra cái kế tiếp, rồi cái kế tiếp nữa.
And if you know the one in the middle, it doesn't matter anymore what the one before it was. So our tentative answer is yes.
Và nếu bạn biết cái ở giữa, thì cái đứng trước nó là gì không còn quan trọng nữa. Nên câu trả lời tạm thời của ta là có.
X is independent of Z given Y. And, again, to make this question very explicit.
X độc lập với Z cho trước Y. Và, một lần nữa, để làm câu hỏi này thật rõ ràng.
The question is, if somebody tells you this is the structure of the Bayes net, but is not giving you any conditional probability tables. Just saying this is the structure.
Câu hỏi là, nếu ai đó cho bạn biết đây là cấu trúc của mạng Bayes, nhưng không đưa bảng xác suất có điều kiện nào. Chỉ nói đây là cấu trúc.
That's all you know. Without knowing the tables, can you conclude that X is independent of Z given Y? And we're saying yes, and we're going to prove it.
Đó là tất cả những gì bạn biết. Không biết các bảng, bạn có thể kết luận X độc lập với Z cho trước Y không? Và ta nói là có, và ta sẽ chứng minh.
So let's write it out.
Nào viết ra nhé.
Conditional of Z given X and Y, by definition, is equal to the joint of X, Y, and Z, divided by the joint of just X and Y. Now for each of those, we can fill in how they are represented in the Bayes net.
Xác suất có điều kiện của Z cho trước X và Y, theo định nghĩa, bằng phân phối đồng thời của X, Y và Z, chia cho phân phối đồng thời chỉ của X và Y. Với mỗi cái đó, ta có thể điền cách chúng được biểu diễn trong mạng Bayes.
The joint of X, Y, and Z is the product of what's shown on top there. And the joint of X and Y is the product of what's shown at the bottom.
Phân phối đồng thời của X, Y và Z là tích của những gì hiển thị ở trên. Và phân phối đồng thời của X và Y là tích của những gì hiển thị ở dưới.
Now we can simplify.
Giờ ta có thể rút gọn.
What we're left with is just Z given Y.
Phần còn lại chỉ là Z cho trước Y.
So we have here is the conditional of Z given X and Y equals the condition of Z given Y, which means Z is independent of X given Y.
Vậy ta có xác suất có điều kiện của Z cho trước X và Y bằng xác suất có điều kiện của Z cho trước Y, nghĩa là Z độc lập với X cho trước Y.
And what it shows is that if we have evidence along such a chain, it blocks the influence from the early variables onto the later variables.
Và điều nó cho thấy là nếu ta có bằng chứng dọc theo một chuỗi như vậy, nó sẽ chặn ảnh hưởng từ các biến đứng trước lên các biến đứng sau.
Now just to be very explicit about where did the Bayes net come in. Where did we use the fact that we have this specific Bayes net and why we can reach this particular conclusion.
Bây giờ, để nói thật rõ ràng mạng Bayes xuất hiện ở đâu. Ta đã dùng việc có mạng Bayes cụ thể này ở chỗ nào và vì sao ta đi đến được kết luận này.
It happens in this step over here. So when we go from here to here, in general, when we apply the chain rule, we can't just try Z given Y here.
Nó nằm ở bước này. Khi ta đi từ đây sang đây, nói chung, khi áp dụng quy tắc chuỗi, ta không thể chỉ viết Z cho trước Y ở đây.
We have to write Z given X and Y. But because of this Bayes net structure, it assumes we can write the probable distribution this way. That's where the assumption comes in.
Ta phải viết Z cho trước X và Y. Nhưng nhờ cấu trúc mạng Bayes này, ta được phép viết phân phối xác suất theo cách này. Đó là chỗ giả định xuất hiện.
Next we can simplify and reach our conclusion of conditional Independence.
Tiếp theo ta rút gọn và đi đến kết luận về tính độc lập có điều kiện.
Let's do another one. Common cause. So maybe a project could be due or not.
Ta làm một ví dụ khác. Nguyên nhân chung. Giả sử một dự án có thể đến hạn nộp hoặc không.
Then based on whether our project is due or not, forums could be busy or not, and labs could be full or not.
Rồi tùy dự án có đến hạn hay không, diễn đàn có thể đông hoặc không, và phòng lab có thể kín chỗ hoặc không.
So we have one node at the top, which might cause two separate effects. This would be the joint distribution encoded by this model shown here.
Vậy ta có một nút ở trên cùng, có thể gây ra hai kết quả riêng biệt. Đây sẽ là phân phối đồng thời được mã hóa bởi mô hình hiển thị ở đây.
We call this common cause, because it's two effects that are caused by a single thing. These are guaranteed to be X independent of Z? Answer is no. Why not?
Ta gọi là nguyên nhân chung, vì có hai kết quả cùng do một thứ gây ra. Liệu có chắc chắn X độc lập với Z không? Câu trả lời là không. Tại sao không?
Intuitively speaking, when projects are due, it's more likely that both the forums are busy and the labs are full.
Nói trực giác, khi dự án đến hạn, nhiều khả năng cả diễn đàn đều đông và phòng lab đều kín chỗ.
And when there's no project due, it's more likely that they're both not busy and not full. So clearly X and Z are correlated. They're not independent.
Còn khi không có dự án đến hạn, nhiều khả năng cả hai đều vắng và không kín chỗ. Rõ ràng X và Z có tương quan. Chúng không độc lập.
They tend to be on and off more commonly together than not together. So that means they're not independent.
Chúng có xu hướng cùng bật và cùng tắt nhiều hơn là không cùng nhau. Nghĩa là chúng không độc lập.
So all we need to do to show this is not guaranteed — if somebody gives you a Bayes net, just the structure, not the CPTs and asks you is there an independence, you say no.
Vậy để chỉ ra điều này không được đảm bảo thì ta chỉ cần — nếu ai đó đưa bạn một mạng Bayes, chỉ có cấu trúc, không có các CPT, và hỏi có độc lập không, bạn trả lời là không.
All we need to do to prove that no is to say, here is a conditional probability table that has it not be true. So for example, this is the story we just told.
Để chứng minh câu trả lời không, ta chỉ cần đưa ra một bảng xác suất có điều kiện làm cho nó không đúng. Ví dụ, đây chính là câu chuyện vừa kể.
And in numbers, we make X take the same value as Y.
Bằng số, ta cho X nhận cùng giá trị với Y.
We make Z take on the same value as Y. And if that's the case, then X and Z will take on the same values. And clearly they're not independent, then.
Ta cho Z cũng nhận cùng giá trị với Y. Khi đó, X và Z sẽ nhận cùng giá trị. Và rõ ràng khi đó chúng không độc lập.
So it's an example of a choice of conditional probability tables that shows just proclaiming this structure of your Bayes net is not enough to be able to conclude anything about independence of X and Z. In fact, generally it won't be true.
Đây là một ví dụ về cách chọn các bảng xác suất có điều kiện cho thấy chỉ nêu ra cấu trúc mạng Bayes của bạn là chưa đủ để kết luận bất cứ điều gì về tính độc lập của X và Z. Thực tế, nói chung nó sẽ không đúng.
How about if we condition on Y, the node in the middle? Are X and Z conditionally independent given Y? Intuitively, yes. Because that's the common cause.
Còn nếu ta điều kiện hóa theo Y, nút ở giữa thì sao? X và Z có độc lập có điều kiện khi biết Y không? Theo trực giác, có. Vì đó là nguyên nhân chung.
And once you know the cause for Z, it doesn't matter what X is doing. Because it's Y that's causing Z. We can now again go through the math.
Và một khi bạn biết nguyên nhân của Z, thì X làm gì cũng không quan trọng. Vì chính Y mới gây ra Z. Giờ ta lại đi qua phần tính toán.
We have, what is the condition of Z given X and Y? We write it out, same definition as before.
Xác suất có điều kiện của Z cho trước X và Y là gì? Ta viết ra, cùng định nghĩa như trước.
Next step, we're going to use the structure of the Bayes net to fill in this specific instantiation of the joint distributions for top and bottom.
Bước tiếp theo, ta dùng cấu trúc của mạng Bayes để điền dạng cụ thể của các phân phối đồng thời ở tử số và mẫu số.
Again, assumption has been made. The last variable here, Z, is only conditioning on Y. If you apply the chain rule, we'd have to condition on X and Y. Just Y.
Lại một giả định được đưa ra. Biến cuối cùng ở đây, Z, chỉ phụ thuộc vào Y. Nếu áp dụng quy tắc chuỗi, ta sẽ phải điều kiện hóa theo X và Y. Nhưng ở đây chỉ Y.
That's the Bayes net assumption for this Bayes net structure. After we do that, things simplify. And we're left with just Z given Y, which shows that Z is independent of X given Y.
Đó là giả định mạng Bayes cho cấu trúc mạng Bayes này. Sau đó, mọi thứ được rút gọn. Và ta chỉ còn Z cho trước Y, điều này cho thấy Z độc lập với X khi biết Y.
Because once we know Y, adding in X in the conditioning does not change what we know about Z. So observing the cause blocks the influence.
Vì một khi đã biết Y, thêm X vào phần điều kiện không làm thay đổi những gì ta biết về Z. Vậy quan sát nguyên nhân sẽ chặn ảnh hưởng.
Here's another one. Third type of structure. With three variables there's only so many things we can do.
Đây là một cấu trúc khác. Loại cấu trúc thứ ba. Với ba biến thì ta chỉ có chừng đó khả năng.
This is the third type of structure that's available to us, where they have two variables pointing to the bottom one. For example, the story could be, it could rain or not.
Đây là loại cấu trúc thứ ba mà ta có, trong đó hai biến cùng trỏ xuống biến ở dưới. Ví dụ, câu chuyện có thể là trời mưa hoặc không.
There could be a baseball game or not. And then, as a consequence, there could be traffic or not. Are X and Y independent in this kind of Bayes net?
Có thể có một trận bóng chày hoặc không. Và kết quả là có thể có kẹt xe hoặc không. X và Y có độc lập trong loại mạng Bayes này không?
So again, what does that mean? If I ask the question, are X and Y independent in this kind of Bayes net?
Vậy điều đó nghĩa là gì? Nếu tôi hỏi X và Y có độc lập trong loại mạng Bayes này không?
That means that no matter what choice of conditional probability tables you associate with each of those variables, the joint distribution should exhibit the fact that X and Y are independent.
Nghĩa là dù bạn chọn bảng xác suất có điều kiện nào gắn với mỗi biến đó, phân phối đồng thời cũng phải thể hiện việc X và Y độc lập.
Who thinks yes? Somebody there. Red shirt. You want to explain why?
Ai nghĩ là có? Có bạn kia. Bạn áo đỏ. Bạn giải thích vì sao nhé?
STUDENT
There's no [INAUDIBLE].
Không có [KHÔNG NGHE RÕ].
PIETER ABBEEL
So the intuition here is X and Y are drawn independently. There's nothing causing them to be correlated. And so we expect independence between them. What do we need to do to prove this?
Trực giác ở đây là X và Y được lấy mẫu độc lập với nhau. Không có gì khiến chúng tương quan. Nên ta kỳ vọng chúng độc lập. Để chứng minh điều này ta cần làm gì?
We'll have to again to do the math that we've been doing all along.
Ta lại phải làm phần tính toán mà ta vẫn làm từ nãy giờ.
Not doing it on this slide here, but it's the same kind of math that we did on previous slides, where you would write out using that this distribution is of the form pX times pY times Z given X comma Y.
Không làm trên slide này, nhưng là loại tính toán giống trên các slide trước, nơi bạn viết ra dùng việc phân phối này có dạng pX nhân pY nhân Z cho trước X, Y.
And by using that structure, you will be able to show that the joint of X and Y equals just pX times pY. Are X and Y independent given Z?
Và nhờ dùng cấu trúc đó, bạn sẽ chứng minh được phân phối đồng thời của X và Y chỉ bằng pX nhân pY. X và Y có độc lập khi biết Z không?
So once you know Z, once you know there is traffic, is there now any influence between X and Y? Or are they still independent?
Tức là một khi bạn biết Z, biết là có kẹt xe, liệu bây giờ X và Y có ảnh hưởng gì đến nhau không? Hay chúng vẫn độc lập?
Who thinks they are now not independent anymore? Why?
Ai nghĩ bây giờ chúng không còn độc lập nữa? Tại sao?
STUDENT
Maybe [INAUDIBLE].
Có thể là [KHÔNG NGHE RÕ].
PIETER ABBEEL
OK, so the intuition here is correct. I'm just going to rephrase it. Because it's hard for everybody to hear you. Intuition here is that, imagine you know there is traffic.
Được, trực giác này đúng. Tôi sẽ diễn đạt lại. Vì mọi người khó nghe được bạn nói. Trực giác là: giả sử bạn biết đang có kẹt xe.
And you're wondering, will there be rain? Will there be a ballgame? You're not so sure, but because there's traffic you say, well, my probability for both has gone up.
Và bạn tự hỏi: có mưa không? Có trận bóng không? Bạn không chắc, nhưng vì có kẹt xe nên bạn nói, xác suất của cả hai đều tăng lên.
Because there's traffic. And either one could have caused that traffic. So higher probability of rain. Higher probability of ballgame.
Vì có kẹt xe. Và cái nào cũng có thể gây ra kẹt xe. Nên xác suất có mưa cao hơn. Xác suất có trận bóng cũng cao hơn.
Then somebody tells you there is a ballgame. At that point, your probability for rain will drop. Because there was two possible causes of traffic.
Rồi có người nói với bạn là có trận bóng. Lúc đó xác suất có mưa của bạn sẽ giảm. Vì kẹt xe có hai nguyên nhân có thể.
Initially, you didn't know which one might be the one. And so the probability for both went up. But then, all of a sudden, you know there is a ball game.
Ban đầu bạn không biết cái nào là nguyên nhân. Nên xác suất của cả hai đều tăng. Nhưng rồi đột nhiên bạn biết có trận bóng.
So that's enough explanation for there being traffic. And that now decreases the probability of the other explanation. All right, so whenever there is multiple possible explanations — that's the scenario here.
Vậy là đủ để giải thích việc kẹt xe. Và điều đó làm giảm xác suất của lời giải thích còn lại. Vậy nên bất cứ khi nào có nhiều lời giải thích khả dĩ, tức là kịch bản ở đây.
There's multiple possible explanations for something to happen. When that thing happens, probability of all of them goes up.
Có nhiều lời giải thích khả dĩ cho một việc xảy ra. Khi việc đó xảy ra, xác suất của tất cả chúng đều tăng.
But then when somebody tells you of one of them is true, that'll drop the probability of the others.
Nhưng khi có người nói một trong số đó là đúng, xác suất của những cái còn lại sẽ giảm.
So that's the story here. And you can actually then write out a probability distribution that has exactly this story encoded in it.
Đó là câu chuyện ở đây. Và bạn thực sự có thể viết ra một phân phối xác suất mã hóa đúng câu chuyện này. được mã hóa trong đó.
And then if you check the condition for independence, of X and Y given Z, you'll see the condition doesn't hold true, which is proof that we can not claim this.
Rồi nếu bạn kiểm tra điều kiện độc lập của X và Y cho trước Z, bạn sẽ thấy điều kiện không đúng, đó là bằng chứng rằng ta không thể khẳng định điều này.
Now let's look at the general case. What have we seen so far? Or what do we want to do now?
Giờ hãy xét trường hợp tổng quát. Ta đã thấy gì cho đến giờ? Hay bây giờ ta muốn làm gì?
We want to know, for any Bayes net, figure out whether the two variables are independent given some evidence.
Ta muốn biết, với mạng Bayes bất kỳ, hai biến có độc lập hay không khi cho trước một số bằng chứng.
We want to do it by just looking at the graph, not looking at the conditional probability tables and do some tedious work there.
Ta muốn làm điều đó chỉ bằng cách nhìn vào đồ thị, không nhìn vào các bảng xác suất có điều kiện và phải tính toán rườm rà ở đó.
And we'll do it by breaking it down into the canonical cases we already covered. So let's take a first pass at this.
Và ta sẽ làm bằng cách chia nhỏ thành các trường hợp chuẩn đã học. Hãy thử cách đầu tiên.
Let's say you're given a Bayes net, and somebody asks something about, are these two variables independent given the other variables? You might say, well, let's just check if there's a path between the variables.
Giả sử bạn có một mạng Bayes, và ai đó hỏi, hai biến này có độc lập khi cho trước các biến khác không? Bạn có thể nói, cứ kiểm tra xem có đường đi giữa các biến không.
And then do something with that path. And a naive think could be, oh, to make it easier to think about this, I'm going to shade evidence nodes.
Rồi làm gì đó với đường đi ấy. Một cách nghĩ ngây thơ là, để dễ hình dung hơn, tôi sẽ tô đậm các nút bằng chứng.
So if we observe, let's say, R. We will shade R. And then maybe we might ask, is L independent of B given R? Might be a question.
Nếu ta quan sát, chẳng hạn, R thì ta tô R. Rồi có thể ta hỏi: L có độc lập với B cho trước R không? Đó có thể là một câu hỏi.
L independent of B given R could be a question we ask. And then we could say, well, maybe all we need to do is look at the path between L and B.
L độc lập với B cho trước R có thể là câu hỏi ta đặt ra. Rồi ta có thể nghĩ, có lẽ chỉ cần nhìn đường đi giữa L và B.
And, oh, there is a shaded node in between which might block the influence. And we're all good to go. Turns out it's a little more complex than that.
Và, có một nút được tô ở giữa, có thể chặn ảnh hưởng. Vậy là xong. Hóa ra phức tạp hơn thế một chút.
Because we've seen it in triples we just analyzed that, if the shading happens in one of those bottom nodes, it actually activates the influence, rather than deactivate the influence.
Vì trong các bộ ba vừa phân tích, ta thấy rằng nếu việc tô xảy ra ở một trong các nút dưới cùng, nó thực ra kích hoạt ảnh hưởng, chứ không vô hiệu hóa ảnh hưởng.
So we need to be a little more careful. So let's spell this out explicitly. So whenever we have a path, we're going to break it up into triples.
Nên ta cần cẩn thận hơn một chút. Hãy nói rõ ra. Bất cứ khi nào có một đường đi, ta sẽ chia nó thành các bộ ba.
These triples are going to be overlapping triples that together make up an entire path. And if we ask the question, are X and Y conditionally independent given some evidence variables Z?
Các bộ ba này chồng lên nhau và cùng nhau tạo thành toàn bộ đường đi. Và nếu ta hỏi: X và Y có độc lập có điều kiện khi cho trước các biến bằng chứng Z không?
We will check paths between X and Y. And check every triple along that path. And check for each triple if it's active or inactive.
Ta sẽ xét các đường đi giữa X và Y. Và kiểm tra mọi bộ ba dọc theo đường đó. Và xem mỗi bộ ba là hoạt động hay không hoạt động.
With the work we already did, we know that these are the active triples. And these are the inactive ones.
Từ những gì đã làm, ta biết đây là các bộ ba hoạt động. Và đây là các bộ ba không hoạt động.
We actually did not do the work for the bottom one here. So let's do a little bit of explanation about this one. What's this one here?
Ta thực ra chưa phân tích trường hợp dưới cùng này. Nên hãy giải thích một chút về nó. Đây là trường hợp gì?
This one is saying, if I have a common effect, or there's multiple things that could cause something, it's not just the case that influence can travel in this scenario here.
Nó nói rằng, nếu có một hệ quả chung, tức là có nhiều thứ có thể gây ra một điều, thì không chỉ riêng trường hợp này mới có ảnh hưởng truyền qua.
But the evidence that we observe can also be much further down. And that will still trigger influence between the variables.
Mà bằng chứng ta quan sát cũng có thể nằm xa hơn nhiều phía dưới. Và điều đó vẫn kích hoạt ảnh hưởng giữa các biến.
It's like if we go back to the example we had here, we had traffic. But what if we, from traffic, hang off another node. Maybe accident has been reported or not.
Giống như nếu quay lại ví dụ ở đây, ta có kẹt xe. Nhưng nếu từ kẹt xe, ta treo thêm một nút khác. Có thể là có báo cáo tai nạn hay không.
Then it's also going to be the case, initially you observe nothing. Then you observe there has been an accident. The accident having been there makes you think, probably, there is more traffic.
Thì cũng sẽ như vậy, ban đầu bạn không quan sát gì. Rồi bạn quan sát thấy đã có tai nạn. Việc có tai nạn khiến bạn nghĩ có lẽ đang kẹt xe nhiều hơn.
Probably there is rain or ballgame. This model would assume the more traffic, the more likely there's an accident. And just knowing there's an accident will already cause influence between these two variables up here.
Có lẽ có mưa hoặc có trận bóng. Mô hình này giả định kẹt xe càng nhiều thì càng có khả năng xảy ra tai nạn. Và chỉ cần biết có tai nạn cũng đã gây ảnh hưởng giữa hai biến ở trên này.
So that's the bottom one here. And then we have the inactives on the right. So to draw any conclusions, we'll break it up into those.
Đó là trường hợp dưới cùng. Và bên phải là các trường hợp không hoạt động. Vậy để rút ra kết luận, ta sẽ chia nhỏ thành các bộ ba đó.
And we just need to remember which one falls on the which side. Any triple, and you'll want to be able to recognize that easily.
Và ta chỉ cần nhớ nằm ở phía nào. Với bất kỳ bộ ba nào, các em cần nhận ra được nó một cách dễ dàng.
Just remember, essentially, typically, when a node is shaded, it'll block the path. But the exception is when it's one of those V-structures where it will actually activate the path rather than block it.
Cứ nhớ rằng, thông thường, khi một nút được tô đậm, nó sẽ chặn đường đi. Nhưng ngoại lệ là khi đó là một trong những cấu trúc chữ V mà lúc đó nó thực sự kích hoạt đường đi thay vì chặn lại.
So that's a triple categorization. Now we'll get a query. Are two variables Xi and Xj independent given some evidence variables? OK, we'll check all undirected paths between Xi and Xj.
Đó là cách phân loại bộ ba. Bây giờ ta sẽ có một truy vấn. Hai biến Xi và Xj có độc lập khi biết một số biến bằng chứng không? Ta kiểm tra mọi đường đi vô hướng giữa Xi và Xj.
We check a path. For every path we check — and if one of these paths is active, then independence is not guaranteed. Because once there is an active path, some influence can flow.
Ta kiểm tra một đường đi. Với mỗi đường đi ta kiểm tra — nếu một trong các đường đi này là active, thì không đảm bảo được tính độc lập. Vì một khi có đường đi active, ảnh hưởng có thể truyền qua.
And that's it. There is no independence. If you have checked all paths, and by the time you checked all paths you have not found any active paths.
Vậy là xong. Không có tính độc lập. Nếu em đã kiểm tra mọi đường đi, và đến lúc kiểm tra xong tất cả mà không thấy đường đi active nào.
They're all inactive, only then can you conclude there is independence. Because there's not a single path that can influence one variable from the other one.
Tất cả đều inactive, chỉ khi đó em mới kết luận là có tính độc lập. Vì không có một đường đi nào có thể truyền ảnh hưởng từ biến này sang biến kia.
OK, let's take a short break here. And after the break, let's work through a few examples of how this works.
Được rồi, ta nghỉ giải lao một chút. Và sau giờ nghỉ, ta sẽ làm vài ví dụ về cách việc này hoạt động.
All right, let's restart. Any questions about the first half of lecture?
Được rồi, ta bắt đầu lại. Có câu hỏi nào về nửa đầu bài giảng không?
Yes?
Em nói đi?
STUDENT
Why is it necessary to look for all conditional independencies among your Bayes net?
Tại sao cần phải tìm tất cả các độc lập có điều kiện trong mạng Bayes?
PIETER ABBEEL
So the question is why is it necessary, or maybe interesting, to look at all the conditional independencies in your Bayes net?
Câu hỏi là tại sao cần thiết, hay có thể là thú vị, khi xem xét mọi độc lập có điều kiện trong mạng Bayes?
The answer is that when you want to model a joint distribution over many random variables.
Câu trả lời là khi em muốn mô hình hóa một phân phối đồng thời trên nhiều biến ngẫu nhiên.
To do that a Bayes net can help you express that distribution by not requiring you to write out a full joint distribution, which is extremely large to write out and difficult to come up with the numbers.
Mạng Bayes giúp em biểu diễn phân phối đó mà không phải viết ra phân phối đồng thời đầy đủ, vốn cực lớn để viết ra và khó xác định các con số.
So it's nice. The business helps you with that. But then when you choose a certain Bayes net structure, you're making assumptions.
Vậy là tiện. Mạng Bayes giúp em việc đó. Nhưng khi chọn một cấu trúc mạng Bayes nhất định, em đang đưa ra các giả định.
And so the reason is to understand what assumptions you are making, depending on how you structure your Bayes net.
Nên lý do là để hiểu em đang giả định gì, tùy cách em cấu trúc mạng Bayes.
Such that you don't make assumptions that you realize are actually faulty assumptions and will limit what you can do with the model that you come up with.
Để không đưa ra những giả định mà sau đó em nhận ra là sai và sẽ hạn chế những gì em làm được với mô hình mình xây dựng.
Because the Bayes net graph is already constraining you and not allowing you to represent effects that you know are there, but that you made impossible to represent. Because you introduced some independencies.
Vì đồ thị mạng Bayes đã ràng buộc em và không cho phép em biểu diễn những hiệu ứng mà em biết là có thật, nhưng em đã khiến chúng không thể biểu diễn được. Vì em đã đưa vào một số tính độc lập.
Let's do an example. First one. Is R independent of B? How do we do this?
Ta làm một ví dụ. Cái đầu tiên. R có độc lập với B không? Ta làm thế nào?
What's the procedure? First step, we try to find all paths that connect R and B. There's only one path. This is the path.
Quy trình là gì? Bước đầu, ta tìm mọi đường đi nối R và B. Chỉ có một đường đi. Đây là đường đi đó.
Along that one path, we check all the triples. And check whether they're are active or inactive. There's only one triple here. So we need to check one triple.
Dọc theo đường đi này, ta kiểm tra mọi bộ ba. Và xem chúng active hay inactive. Ở đây chỉ có một bộ ba. Nên ta cần kiểm tra một bộ ba.
Is that triple active or inactive? Well, we can look at our categorization.
Bộ ba đó active hay inactive? Ta có thể xem bảng phân loại.
Our categorization shows that this kind of triple V-structure, with no evidence observed in the bottom of the V-structure or anywhere below, is inactive. So this is an inactive triple.
Bảng cho thấy loại bộ ba cấu trúc chữ V, không quan sát bằng chứng nào ở đáy chữ V hay bên dưới nó, là inactive. Vậy đây là bộ ba inactive.
That means this triple ensures that along this path, there can be no influence from R to B. This is the only path.
Nghĩa là bộ ba này đảm bảo dọc đường đi này không có ảnh hưởng từ R đến B. Đây là đường đi duy nhất.
So the only path between R and B is not able to carry any influence between R and B. That means that R and B are independent.
Vậy đường đi duy nhất giữa R và B không truyền được ảnh hưởng nào giữa R và B. Nghĩa là R và B độc lập.
Next one. How about R independent of B given T? There's some evidence. So the first thing we do, we're going to shade the evidence node.
Câu tiếp theo. R có độc lập với B khi biết T không? Có một số bằng chứng. Việc đầu tiên, ta sẽ tô đậm nút bằng chứng.
Then we look at all the paths between R and B. Still only one path. This is the one path. That one path is only one triple long.
Rồi ta xem mọi đường đi giữa R và B. Vẫn chỉ có một đường. Đây là đường đó. Đường đó chỉ dài một bộ ba.
We look at that triple. Is this triple active or inactive? Well it's a V-structure, but there is evidence observed in the bottom of the V-structure.
Ta xem bộ ba đó. Bộ ba này active hay inactive? Nó là cấu trúc chữ V, nhưng có bằng chứng được quan sát ở đáy chữ V.
We know in those scenarios that influence can run through that triple. That triple constitutes the entire path from R to B.
Ta biết trong những trường hợp đó ảnh hưởng có thể truyền qua bộ ba. Bộ ba đó chính là toàn bộ đường đi từ R đến B.
So that means influence can run in the entire path. Because it's only one triple long, and that one triple is active.
Nghĩa là ảnh hưởng truyền được dọc cả đường đi. Vì nó chỉ dài một bộ ba, và bộ ba đó là active.
So there can be influence all the way from R to B given T. So we can not claim this conditional independence to be true.
Nên có thể có ảnh hưởng suốt từ R đến B khi biết T. Vì vậy ta không thể khẳng định độc lập có điều kiện này là đúng.
So can't claim anything about conditional independence here. How about R and B given T prime, which lives at the bottom here. Well, let's go through the same procedure again.
Nên không thể kết luận gì về độc lập có điều kiện ở đây. Còn R và B khi biết T', ở phía dưới đây thì sao? Ta lại làm qua cùng quy trình.
It's actually very mechanical and fairly straightforward. We look at all paths from R to B. Only one path. We'll look at the triples along the path. Only one triple.
Nó thực ra rất máy móc và khá đơn giản. Ta xem mọi đường đi từ R đến B. Chỉ có một đường. Ta xem các bộ ba dọc đường đi. Chỉ có một bộ ba.
That one triple here. Is this triple active or inactive? Well, this kind of structure, activity depends on whether there is evidence at the bottom or below the bottom.
Bộ ba này đây. Bộ ba này active hay inactive? Với cấu trúc này, việc active phụ thuộc vào việc có bằng chứng ở đáy hoặc bên dưới đáy hay không.
Indeed, there is evidence below here. So this triple is active. This active triple constitutes the entire path. So the entire path is active.
Đúng là có bằng chứng ở bên dưới đây. Nên bộ ba này active. Bộ ba active này là toàn bộ đường đi. Vậy cả đường đi là active.
If we have an active path from R to B, then we can not claim conditional independence. So no claim of conditional independence there. Next one. Slightly bigger network.
Nếu có một đường đi hoạt động từ R đến B, thì ta không thể khẳng định tính độc lập có điều kiện. Vậy ở đây không có khẳng định độc lập có điều kiện. Câu tiếp theo. Một mạng lớn hơn một chút.
How about, is L independent of T prime given T? So how do we do this? Given T — so we'll shade the T variable.
L có độc lập với T' khi biết T không? Vậy ta làm thế nào? Biết T, nên ta tô đậm biến T.
We're concerned with L and T prime. The only path connecting them is this path over here.
Ta quan tâm đến L và T'. Đường đi duy nhất nối chúng là đường ở đây.
This path has multiple triples along it. Here is a first triple.
Đường này có nhiều bộ ba dọc theo nó. Đây là bộ ba đầu tiên.
And this is important. The second triple starts here and runs this way. So you can see there's a lot of overlap when we pick all triples along a path.
Và điều này quan trọng. Bộ ba thứ hai bắt đầu từ đây và chạy theo hướng này. Như vậy bạn thấy có rất nhiều phần chồng lấn khi ta lấy tất cả các bộ ba dọc theo một đường đi.
Here there's two triples along the path. We want to check, is this path active? OK, let's check the first triple, the one up here.
Ở đây có hai bộ ba dọc theo đường đi. Ta muốn kiểm tra xem đường này có hoạt động không. Được, kiểm tra bộ ba đầu tiên, bộ ở trên này.
It's a causal chain, L to R to T. Causal chain with no evidence in the middle. So it's active. So first triple is active.
Đó là chuỗi nhân quả L đến R đến T. Chuỗi nhân quả không có bằng chứng ở giữa. Nên nó hoạt động. Vậy bộ ba đầu tiên hoạt động.
How about the second triple? Is that one active? It's also a causal chain, but a causal chain with evidence in the middle. Causal chain with evidence in the middle is an inactive triple.
Còn bộ ba thứ hai thì sao? Nó có hoạt động không? Nó cũng là chuỗi nhân quả, nhưng là chuỗi nhân quả có bằng chứng ở giữa. Chuỗi nhân quả có bằng chứng ở giữa là bộ ba không hoạt động.
So this one is inactive.
Vậy bộ này không hoạt động.
If every path consisting of multiple triples — if any single one of them is inactive, that means that one blocks the flow of influence. And so then the path becomes inactive.
Với một đường đi gồm nhiều bộ ba, chỉ cần một bộ bất kỳ không hoạt động, thì bộ đó chặn dòng ảnh hưởng. Và khi đó cả đường đi trở nên không hoạt động.
So this path is inactive. It's the only path between L and T prime. The only path between L and T prime is inactive.
Vậy đường này không hoạt động. Đây là đường duy nhất giữa L và T'. Đường duy nhất giữa L và T' không hoạt động.
That means L and T prime are independent conditioned on T.
Nghĩa là L và T' độc lập có điều kiện khi biết T.
Next one. L and B. For L and B, let's have you take, let's say, a minute.
Câu tiếp theo. L và B. Với L và B, các bạn dành khoảng một phút.
Talk with your neighbor and think through whether or not we can claim independence of L and B given this Bayes net structure.
Trao đổi với bạn bên cạnh và suy nghĩ xem ta có thể khẳng định L và B độc lập hay không với cấu trúc mạng Bayes này.
OK, let's see. Who thinks yes, we can claim this independence? Raise your hands. Two people.
Được rồi, xem nào. Ai nghĩ là có, ta có thể khẳng định sự độc lập này? Giơ tay nào. Hai người.
OK, over there. Kara, why?
Được, bạn ở đằng kia. Kara, tại sao?
STUDENT
Because you're not given any information. And then also, you have to have that set of [INAUDIBLE]..
Vì ta không được cho thông tin nào. Và ngoài ra, bạn còn phải có tập [KHÔNG NGHE RÕ].
PIETER ABBEEL
OK, so the reasoning here was that there is no evidence along the path.
Được, lập luận ở đây là không có bằng chứng dọc theo đường đi.
And these are triples, that when there is no evidence they might or might not be active. I think we need to go in a little more detail than just repeating what you just said.
Và đây là những bộ ba mà khi không có bằng chứng thì có thể hoạt động hoặc không. Tôi nghĩ ta cần đi vào chi tiết hơn một chút thay vì chỉ lặp lại điều bạn vừa nói.
So let's step through this in detail. L and B, no evidence. This is the only path between L and B. How many triples along the path?
Vậy ta đi qua từng bước chi tiết. L và B, không có bằng chứng. Đây là đường đi duy nhất giữa L và B. Có bao nhiêu bộ ba dọc theo đường đi?
There's a triple here. And another triple here. Look at the first triple here. It's a causal chain.
Có một bộ ba ở đây. Và một bộ ba nữa ở đây. Nhìn bộ ba đầu tiên ở đây. Đó là chuỗi nhân quả.
The middle node is not observed. So this one is active.
Nút ở giữa không được quan sát. Nên bộ này hoạt động.
Second one is a V-structure. There's no evidence in the V-structure. So this is inactive.
Bộ thứ hai là cấu trúc V. Không có bằng chứng ở cấu trúc V. Nên bộ này không hoạt động.
Once you have one inactive triple along a path, the path becomes inactive. And this is the only path. The only path is inactive. What's going on here?
Một khi có một bộ ba không hoạt động dọc theo đường đi, đường đi trở nên không hoạt động. Và đây là đường duy nhất. Đường duy nhất không hoạt động. Chuyện gì đang xảy ra ở đây?
Only path is inactive. So that means we have conditional independence of L and B given zero evidence. So yes, most of you were correct. We have conditional independence here.
Đường duy nhất không hoạt động. Nghĩa là ta có tính độc lập có điều kiện của L và B khi không có bằng chứng nào. Vậy đúng, phần lớn các bạn đã đúng. Ở đây ta có tính độc lập có điều kiện.
Now one thing you can do if we think about this one again. We have L and B we care about. And I said, well, this is the only path.
Có một điều bạn có thể làm nếu ta nghĩ lại câu này. Ta quan tâm đến L và B. Và tôi nói, đây là đường đi duy nhất.
And we have a bunch of triples. The slightly faster way to get through it than what I just did is if you can directly identify the triple that is inactive.
Và ta có một loạt bộ ba. Cách nhanh hơn một chút so với những gì tôi vừa làm là nếu bạn nhận ra ngay bộ ba không hoạt động.
So you say, instead of linearly going through all the triples, if you say, oh, I know that this triple is inactive. I don't have to check any other triples.
Tức là thay vì duyệt tuần tự tất cả các bộ ba, bạn nói, à, tôi biết bộ ba này không hoạt động. Tôi không cần kiểm tra các bộ ba khác.
Because I already found one that is inactive, which will break the influence in that path. And we now know this is an inactive path. And we're done with checking this path.
Vì tôi đã tìm được một bộ không hoạt động, nó sẽ cắt đứt ảnh hưởng trên đường đó. Và giờ ta biết đây là đường không hoạt động. Và ta xong việc kiểm tra đường này.
Next one. Is L independent of B given T? Well, this is the same reasoning as we just went through. We're looking at L and B. But now this one here is observed.
Câu tiếp theo. L có độc lập với B khi biết T không? Lập luận y hệt như ta vừa làm. Ta xét L và B. Nhưng giờ nút này được quan sát.
This triple before was the inactive one blocking things. Now thanks to the evidence here, this is now an active triple. So this triple is active now.
Bộ ba này trước đó là bộ không hoạt động chặn dòng ảnh hưởng. Giờ nhờ bằng chứng ở đây, nó trở thành bộ ba hoạt động. Vậy bộ ba này giờ hoạt động.
The other triple along the path is also active. So the entire path is active. And we can not claim any conditional independence. What if instead of T, observe T prime?
Bộ ba còn lại dọc theo đường đi cũng hoạt động. Nên toàn bộ đường đi hoạt động. Và ta không thể khẳng định độc lập có điều kiện nào. Nếu thay vì T, ta quan sát T' thì sao?
Does that change anything? No, it doesn't, right? Because the triples between L and B remain the same.
Có thay đổi gì không? Không, đúng không? Vì các bộ ba giữa L và B vẫn như cũ.
And whether this triple here is active or not only depends on whether there is anywhere along — from there down — any evidence.
Và bộ ba ở đây có hoạt động hay không chỉ phụ thuộc vào việc có bằng chứng ở đâu đó dọc theo — từ đó đi xuống — bất kỳ bằng chứng nào.
It doesn't need to be in T. It can be in T prime. All has the same effect. So also here, we have a path that is active. So we can not claim conditional independence.
Không nhất thiết phải ở T. Có thể ở T'. Đều có cùng tác dụng. Nên ở đây cũng vậy, ta có một đường đi hoạt động. Vậy ta không thể khẳng định độc lập có điều kiện.
How about this one?
Còn câu này thì sao?
We are still looking at L and B. We observe R and we observe T. Who believes we have conditional independence here?
Ta vẫn xét L và B. Ta quan sát R và quan sát T. Ai tin là ta có tính độc lập có điều kiện ở đây?
A few people. Why?
Một vài người. Tại sao?
STUDENT
The LRT triplet is inactive.
Bộ ba LRT không hoạt động.
PIETER ABBEEL
OK, so the answer was, we have only one path. Along that path we're able to find an inactive triplet, namely LRT sitting over here.
Đúng rồi, ở đây chỉ có một đường đi. Dọc theo đường đó, ta tìm được một bộ ba không hoạt động, cụ thể là LRT ở đằng này.
Once we find an inactive triplet, we know the entire path is inactive. And at that point, if that's the only path we can claim conditional independence. So yes.
Một khi tìm được một bộ ba không hoạt động, ta biết cả đường đi đó không hoạt động. Và lúc đó, nếu đó là đường đi duy nhất, ta có thể khẳng định độc lập có điều kiện. Vậy là có.
Here's another example. In this one, sometimes there's more than one path between nodes. Story is it could be raining, which could cause traffic, which could also cause, independently, the roof to drip or not.
Đây là một ví dụ khác. Ở ví dụ này, đôi khi giữa các nút có nhiều hơn một đường đi. Giữa các nút có nhiều đường. Câu chuyện là trời có thể mưa, gây ra kẹt xe, và mưa cũng có thể gây ra, một cách độc lập, việc mái nhà bị dột hay không.
And then you could be sad either because the roof is dripping or because there is traffic. OK, questions? Is T independent of D?
Và bạn có thể buồn vì mái nhà dột hoặc vì kẹt xe. Có câu hỏi nào không? T có độc lập với D không?
Let's have you think about this for about 30 seconds. Talk with your neighbor and see what you come up with.
Các em nghĩ về chuyện này khoảng 30 giây. Trao đổi với bạn bên cạnh xem các em ra kết quả gì.
Who thinks we can claim independence of T and D for this Bayes net?
Ai nghĩ rằng ta có thể khẳng định T và D độc lập trong mạng Bayes này?
Not a lot of you. That's great. We can't. Why not?
Không nhiều người. Tốt lắm. Ta không thể. Tại sao không?
T and D. To check if we can claim independence, we have to check all paths. And if we find a path that is active, then we can not claim independence.
T và D. Để kiểm tra xem có độc lập không, ta phải kiểm tra tất cả các đường đi. Và nếu tìm được một đường đi hoạt động, thì ta không thể khẳng định độc lập.
Well, the path along the top here has a single triplet. That triplet is a active triplet. So we have a path of influence. So we can not claim independence.
Đường ở phía trên chỉ có một bộ ba. Bộ ba đó là bộ ba hoạt động. Vậy ta có một đường truyền ảnh hưởng. Nên ta không thể khẳng định độc lập.
You might wonder, how about this bottom path over here? Well, that one is inactive. So we have a situation where there is two types of paths, active and inactive paths.
Bạn có thể hỏi, còn đường phía dưới này thì sao? À, đường đó không hoạt động. Vậy ta có tình huống với hai loại đường đi, hoạt động và không hoạt động.
But once there is a single active path, it voids our ability to claim independence. So we can't claim it. How about once we condition on R?
Nhưng chỉ cần có một đường hoạt động, là ta mất khả năng khẳng định độc lập. Nên ta không thể khẳng định. Còn nếu ta cho trước R thì sao?
Well now there is all of a sudden independence. Because the bottom path was already an inactive triplet. And now the top path has got them blocked. Also inactive.
Bỗng nhiên lại có độc lập. Vì đường phía dưới vốn đã là bộ ba không hoạt động. Và giờ đường phía trên bị chặn lại. Cũng không hoạt động.
Both paths inactive, so we have independence. How about if now we also condition on S? So we condition on R and S. What happens?
Cả hai đường đều không hoạt động, nên ta có độc lập. Còn nếu giờ ta cho trước cả S thì sao? Ta cho trước R và S. Chuyện gì xảy ra?
Well, conditioning on S will activate the path along the bottom. Once that is activated, there is an active path. And we cannot claim independence.
Việc cho trước S sẽ kích hoạt đường phía dưới. Khi nó được kích hoạt, ta có một đường hoạt động. Và ta không thể khẳng định độc lập.
OK, now let's go back to the question that came right after the break. Why and how might we investigate all independencies and what do we do with this?
Được rồi, giờ quay lại câu hỏi ngay sau giờ nghỉ. Tại sao và làm thế nào để xét mọi tính độc lập, và ta làm gì với điều này?
So given a Bayes net structure, we now have an algorithm called d-separation, which we step through in our heads and on the slides. But in principle, you can code in a computer program.
Với một cấu trúc mạng Bayes, giờ ta có thuật toán gọi là d-separation, mà ta đã chạy từng bước trong đầu và trên slide. Nhưng về nguyên tắc, bạn có thể lập trình nó.
You could write a computer program that, given a Bayes net structure, and the graph finds all the paths. Along each path checks the triplets and then checks whether or not each triple is active.
Bạn có thể viết chương trình mà, cho cấu trúc mạng Bayes và đồ thị, tìm tất cả các đường đi. Dọc mỗi đường, kiểm tra các bộ ba xem mỗi bộ ba có hoạt động hay không.
And then Bayes net decides whether or not there exists an active path. And if there is an active path, then it says, cannot claim anything. If there is no active path, it says independence.
Rồi mạng Bayes quyết định xem có tồn tại đường hoạt động hay không. Nếu có đường hoạt động, nó nói: không thể khẳng định gì. Nếu không có đường hoạt động, nó nói độc lập.
So we can do that program adequately now. What can we do with this?
Vậy giờ ta có thể làm chương trình đó khá tốt. Ta làm được gì với nó?
What it actually does — the list that we can generate this way, if we try to look at all of them, is a list of assumptions we make by choosing a specific Bayes net structure.
Điều nó thực sự làm là danh sách ta tạo ra theo cách này, nếu ta xét tất cả, là danh sách các giả định ta đưa ra khi chọn một cấu trúc mạng Bayes cụ thể.
So let's try to do this. Here is a few Bayes net structures. Let's compute all the independencies that we can claim for each of those Bayes net structures.
Ta thử làm nhé. Đây là vài cấu trúc mạng Bayes. Hãy tính tất cả các tính độc lập mà ta có thể khẳng định cho từng cấu trúc đó.
How about the first one? Y common cause to X and Z. What independencies are present there? Only one. It's X independent of Z given Y.
Cái đầu tiên thì sao? Y là nguyên nhân chung của X và Z. Có những tính độc lập nào ở đây? Chỉ một. X độc lập với Z khi biết Y.
How about the next one? Causal chain X to Y to Z. What are the independencies? Also only one.
Cái tiếp theo thì sao? Chuỗi nhân quả X đến Y đến Z. Có những tính độc lập nào? Cũng chỉ một.
In this case it's X independent of Z given Y. Actually, the same one as before. They have the same independence. And it's the only independence you can claim based on this structure.
Trường hợp này là X độc lập với Z khi biết Y. Thật ra giống cái trước. Chúng có cùng tính độc lập. Và đó là tính độc lập duy nhất bạn có thể khẳng định dựa trên cấu trúc này.
How about the next one? X and Z point into Y. What are the independencies that we know? Well, when there's no evidence, X and Z are independent. And that's it.
Cái tiếp theo thì sao? X và Z cùng trỏ vào Y. Ta biết những tính độc lập nào? Ta biết những gì? Khi không có bằng chứng, X và Z độc lập. Và chỉ có vậy.
How about the last one? Where we have Z to Y, and then Y and Z together to X. What independencies do we have here?
Cái cuối cùng thì sao? Trong đó Z trỏ đến Y, rồi Y và Z cùng trỏ đến X. Ở đây ta có tính độc lập nào?
None. Why none? Because every node has all the previous nodes in the ordering as its parents. That means we can have an equation for this Bayes net that matches with the chain rule.
Không có. Tại sao không có? Vì mỗi nút đều có tất cả các nút đứng trước trong thứ tự làm nút cha. Nghĩa là ta có thể viết một phương trình cho mạng Bayes này khớp với quy tắc chuỗi.
And we made no assumptions. So here we have the empty set.
Và ta không đưa ra giả định nào. Nên ở đây ta có tập rỗng.
So one interesting thing already comes up here. If you look at these two Bayes nets, they actually end up with the same set of independencies.
Đã có một điều thú vị xuất hiện ở đây. Nếu nhìn hai mạng Bayes này, chúng thực ra có cùng một tập các tính độc lập.
What that means is that if you want to represent a distribution over three variables, X, Y, and Z, that represents something in the real world.
Whether you use the first one or the second one, you'll be equally capable of capturing that distribution.
Điều đó nghĩa là nếu bạn muốn biểu diễn một phân phối trên ba biến X, Y và Z đại diện cho điều gì đó trong thế giới thực, dù dùng cái đầu hay cái thứ hai, bạn đều có khả năng nắm bắt phân phối đó như nhau.
If somebody represents it with the first one, you can turn that into a new Bayes net structured like the second one that represents the exact same distribution.
Nếu ai đó biểu diễn nó bằng cái đầu tiên, thì bạn có thể chuyển nó thành một mạng Bayes mới có cấu trúc giống cái thứ hai, cái biểu diễn chính xác cùng một phân phối.
Because the assumptions you make by using the structure is the same. And so they can represent the same distributions.
Vì các giả định bạn đưa ra khi dùng cấu trúc đó là như nhau. Nên chúng biểu diễn được cùng các phân phối.
On the other hand, if somebody gives you a distribution represented by the bottom Bayes net over here, that Bayes net makes no assumptions.
Ngược lại, nếu ai đó đưa cho bạn một phân phối được biểu diễn bởi mạng Bayes ở dưới cùng này, thì mạng Bayes đó không đưa ra giả định nào.
So it's very unlikely that if you get a distribution represented by this Bayes net here, that you can then represent it by any of the other Bayes nets.
Nên rất khó có chuyện nếu bạn nhận một phân phối được biểu diễn bởi mạng Bayes này thì bạn lại biểu diễn được nó bằng bất kỳ mạng Bayes nào khác.
Because the other Bayes nets make assumptions, independence assumptions. And if they're not holding true in the distribution you're given, then you can not capture that distribution.
Vì các mạng Bayes khác đưa ra các giả định, tức là giả định độc lập. giả định. Và nếu chúng không đúng trong phân phối bạn được cho, thì bạn không thể biểu diễn phân phối đó.
Some might wonder, why do we even have both versions if they can represent the same distributions anyway? Sometimes it's easier to specify one than the other.
Có thể có bạn thắc mắc, vì sao ta lại có cả hai phiên bản nếu chúng đều biểu diễn được cùng các phân phối? Đôi khi xác định cái này dễ hơn cái kia.
If the way the world works is really something along the lines of Y tends to cause X and Z, then the probabilities in the table of this Bayes net will be much, much easier to come up with than if you then represent it with some chain Bayes net.
Nếu cách thế giới vận hành thực sự kiểu Y có xu hướng gây ra X và Z, thì các xác suất trong bảng của mạng Bayes này sẽ dễ xác định hơn rất nhiều so với khi biểu diễn bằng một mạng Bayes dạng chuỗi.
Similarly, if the effects are really a chaining effect, then it's going to be much easier to use the second Bayes net to represent that probability distribution than the first one.
Tương tự, nếu các tác động thực sự là dạng chuỗi, thì dùng mạng Bayes thứ hai sẽ dễ hơn nhiều để biểu diễn phân phối xác suất đó so với cái thứ nhất.
You still could use the first one. They are interchangeable, mathematically speaking. In terms of practical ability to come up with the numbers in the CPTs, it might still matter which one you pick.
Bạn vẫn có thể dùng cái thứ nhất. Về mặt toán học, chúng thay thế được cho nhau. Còn về khả năng thực tế trong việc tìm các con số trong CPT, việc chọn cái nào vẫn có thể quan trọng.
So taking a further step back. Let's look at distributions over three variables. And you can think of a distribution as, let's say, a point in the space here.
Giờ ta lùi lại một bước. Xét các phân phối trên ba biến. Bạn có thể xem một phân phối như một điểm trong không gian này.
So this space here is any point corresponds to a distribution.
Không gian này, mỗi điểm tương ứng với một phân phối.
Now we can say if we look at distributions that can be represented by this Bayes net over here, X, Y, and Z, zero connections.
Giờ nếu xét các phân phối biểu diễn được bởi mạng Bayes này, X, Y và Z, không có kết nối nào.
So all independencies they can possibly come up with between three variables, they all hold true. You can represent only a very small set of distributions with this kind of Bayes net.
Thì mọi tính độc lập có thể có giữa ba biến đều đúng. Bạn chỉ biểu diễn được một tập phân phối rất nhỏ với loại mạng Bayes này.
And that's this kind of small, green thing in the middle here, where a different point in that set corresponds to a different distribution.
Đó là phần nhỏ màu xanh lá ở giữa này, mỗi điểm khác nhau trong tập đó ứng với một phân phối khác nhau.
Like maybe one distribution has probably one half, one half, one half for each of of X, Y, and Z. Another one might be a biased coin flip for X, maybe 0.9, 0.1.
Ví dụ một phân phối có xác suất một nửa, một nửa, một nửa cho mỗi biến X, Y và Z. Một phân phối khác có thể là tung đồng xu thiên lệch cho X, chẳng hạn 0.9, 0.1.
And Y and Z still have 0.5 and 0.5. Yet another one could be X 0.9, 0.1. Y 0.8, 0.2. Z 0.2, 0.8.
Còn Y và Z vẫn là 0.5 và 0.5. Một cái nữa có thể là X 0.9, 0.1. Y 0.8, 0.2. Z 0.2, 0.8.
So any such choices will be representable by this Bayes net here and live in that small cell. Now if you take a different Bayes net structure, one shown here.
Mọi lựa chọn như vậy đều biểu diễn được bằng mạng Bayes này và nằm trong ô nhỏ đó. Giờ lấy một cấu trúc mạng Bayes khác, cái được hiển thị ở đây.
What do you get for any one of those three? You get the same conditional independence assumption.
Với mỗi cái trong ba cái này, bạn có gì? Bạn có cùng một giả định độc lập có điều kiện.
Only one, that one — X independent of Z given Y. That is a lot less assumptions than you made over here.
Chỉ một, chính là — X độc lập với Z khi biết Y. Như vậy ít giả định hơn nhiều so với cái ở đây.
So it's a larger set of distributions that you can represent if you're only forced to make this one assumption, rather than being forced to make a lot of assumptions.
Nên tập phân phối bạn biểu diễn được lớn hơn nếu bạn chỉ bị buộc đưa ra một giả định này, thay vì bị buộc đưa ra rất nhiều giả định.
And it's also the same distributions. Any distribution represented by the first one, you can re-formulate as represented by the second one or the third one.
Và chúng cũng là cùng các phân phối. Bất kỳ phân phối nào được biểu diễn bởi cái thứ nhất, bạn đều có thể viết lại bằng cái thứ hai hoặc cái thứ ba.
It's interchangeable from a mathematical point of view, even if from a practical point of view, you often will still prefer one structure over another one. Here, how about these Bayes nets?
Về mặt toán học thì chúng thay thế được cho nhau, dù về mặt thực tế, bạn thường vẫn thích cấu trúc này hơn cấu trúc kia. Còn những mạng Bayes này thì sao?
These are all Bayes nets that make zero assumptions. So if you use any of these Bayes net structures, you're not forced to make any assumptions.
Đây đều là các mạng Bayes không đưa ra giả định nào. Nên nếu dùng bất kỳ cấu trúc nào trong số này, bạn không bị buộc đưa ra giả định nào.
And you can represent any distribution over the three variables. How come there is six of them? It corresponds to the six possible ways of ordering those variables. It's like the chain rule.
Và bạn biểu diễn được mọi phân phối trên ba biến. Sao lại có sáu cái? Nó ứng với sáu cách có thể để sắp thứ tự các biến. Giống quy tắc chuỗi.
We have three variables. So we first have three choices, which one to go first, then two choices left for who goes next. So 3 times 2, six choices of ordering.
Ta có ba biến. Đầu tiên có ba lựa chọn cho biến đứng trước, rồi còn hai lựa chọn cho biến tiếp theo. Vậy 3 nhân 2, sáu cách sắp thứ tự.
And each of these corresponds to one of the six orderings in the chain rule and in constructing the Bayes net.
Và mỗi cái ứng với một trong sáu thứ tự trong quy tắc chuỗi và khi xây dựng mạng Bayes.
Again, if somebody gives you a distribution, for example, represented by this Bayes net over here, and you wonder, can I instead use this other Bayes net? The answer is yes.
Lại nữa, nếu ai đó đưa bạn một phân phối, chẳng hạn được biểu diễn bởi mạng Bayes này, và bạn tự hỏi, tôi có thể dùng mạng Bayes khác này không? Câu trả lời là có.
They are equivalent. These structures make the same assumptions, namely no assumptions.
Chúng tương đương nhau. Các cấu trúc này đưa ra cùng các giả định, cụ thể là không có giả định nào.
But if somebody gives you a Bayes net like this and then says, can you please give it to me in that form factor? Usually, that's not going to work.
Nhưng nếu ai đó đưa bạn một mạng Bayes như thế này rồi hỏi, bạn có thể đưa nó cho tôi dưới dạng kia không? Thường thì sẽ không được.
There might be some coincidence where some very specific choice of the conditional probability tables makes it still work out. That there was a hidden independence assumption that was just there because of the numbers.
Có thể có trường hợp trùng hợp khi một lựa chọn rất cụ thể của các bảng xác suất có điều kiện vẫn làm nó khớp. Tức là có một giả định độc lập ẩn chỉ do các con số mà có.
But typically it won't work out. Because here you need an assumption built to use any of these structures.
Nhưng thông thường sẽ không được. Vì ở đây bạn cần một giả định có sẵn để dùng bất kỳ cấu trúc nào trong số này.
And so going back to the earlier question, this is what you think about when you build models. You think about, what assumptions am I making?
Và quay lại câu hỏi trước đó, đây là điều bạn cần nghĩ tới khi xây dựng mô hình. Bạn nghĩ: mình đang đưa ra những giả định nào?
Was the entire set of assumptions I'm making when I choose a Bayes net structure?
Toàn bộ tập giả định mình đưa ra là gì khi mình chọn một cấu trúc mạng Bayes?
And also, how can I structure my Bayes net in a way that it's easier to come up with conditional probability tables for it?
Và cả, làm sao tôi cấu trúc mạng Bayes theo cách để dễ tìm ra các xác suất có điều kiện hơn các bảng xác suất có điều kiện cho nó?
And so even if you say, this is the only assumption I'm going to make, you might still say, well, among the choices I have available, maybe the first one is the one that makes it easier to think about what is really going on here.
Nên dù bạn nói đây là giả định duy nhất mà tôi sẽ đưa ra, bạn vẫn có thể nói rằng trong các lựa chọn hiện có, có lẽ lựa chọn đầu tiên giúp dễ hình dung hơn chuyện gì đang thực sự xảy ra.
Any questions about this? Yes.
Có câu hỏi nào về phần này không? Vâng, mời em.
STUDENT
We don't see any models that are shaped like a V.
Chúng ta chưa thấy mô hình nào có hình chữ V.
PIETER ABBEEL
Oh, OK. So the question is, how about a model maybe that looks like this?
À, được. Vậy câu hỏi là, còn mô hình trông như thế này thì sao?
Y, X, Z. So what are the initial independencies here?
Y, X, Z. Vậy các tính độc lập ban đầu ở đây là gì?
Just X independent of Z. Nothing else. So maybe if I had purple or something, we could have another set of models. What would happen now? If we want to draw this on here?
Chỉ có X độc lập với Z. Không có gì khác. Nên nếu tôi dùng màu tím chẳng hạn, ta có thể có thêm một tập mô hình khác. Chuyện gì sẽ xảy ra bây giờ? Nếu ta vẽ nó vào đây?
This one here, purple, makes less assumptions than the green one. So everything that lives in the green set, purple can handle.
Cái màu tím này đưa ra ít giả định hơn so với cái màu xanh lá. Nên mọi thứ nằm trong tập xanh lá, tím đều xử lý được.
That Bayes net can do it.
Mạng Bayes đó làm được.
Now if it really lives in the green set, it would be a very non-communicative choice of Bayes net structure, to use this one with two edges in it if you could have gotten away with zero edges.
Còn nếu thực sự nằm trong tập xanh lá, thì dùng cấu trúc mạng Bayes có hai cạnh này sẽ là lựa chọn rất kém rõ ràng, nếu bạn có thể dùng không cạnh nào.
But you can do it. You can represent — so everything in green can go and will be subsumed in purple. How about everything in red? Well, this is kind of a different assumption here.
Nhưng vẫn làm được. Bạn có thể biểu diễn, nên mọi thứ màu xanh lá đều nằm gọn trong màu tím. Còn những thứ màu đỏ thì sao? Đây là một giả định khá khác.
These assumptions are not directly comparable.
Các giả định này không so sánh trực tiếp được.
X independent of Z versus X independent of Z given Y. So what's going to happen here is that you're going to have a purple set that — let me just color it in.
X độc lập với Z so với X độc lập với Z khi biết Y. Vậy điều sẽ xảy ra ở đây là bạn sẽ có một tập màu tím mà để tôi tô màu vào.
It will have all the green included.
Nó bao gồm toàn bộ phần xanh lá.
Not this thing here. So all the green it'll have. And then just like the red one encompass the green, but not everything. Because it still makes an assumption.
Không gồm phần này. Nên nó có hết phần xanh lá. Và giống như tập đỏ bao phần xanh lá nhưng không phải mọi thứ. Vì nó vẫn đưa ra một giả định.
There would be something similar, but we wouldn't want it to overlap with the red one. So it's hard to draw.
Sẽ có một cái tương tự, nhưng ta không muốn nó chồng lên tập đỏ. Nên khó vẽ.
But let's say we stopped the red one over here and over here. Then the purple one could come out of here and maybe run here. Or something like that.
Nhưng giả sử tập đỏ dừng ở chỗ này và chỗ này. Thì tập tím có thể đi ra từ đây và chạy tới đây chẳng hạn. Hoặc đại loại như vậy.
And there will be others. Because you could reorder the variables. Instead of Y at the bottom, you could put Z at the bottom or X at the bottom.
Và sẽ còn những tập khác. Vì bạn có thể sắp xếp lại thứ tự các biến. Thay vì Y ở dưới, bạn có thể đặt Z ở dưới hoặc X ở dưới.
And same thing for these red ones. You could but not Y in the middle, but X or Z in the middle. And then you'll have similarly other things coming out.
Các tập đỏ cũng tương tự. Bạn có thể đặt không phải Y ở giữa, mà là X hoặc Z ở giữa. Và khi đó cũng có những tập khác xuất hiện tương tự.
A little hard to draw, but it will have the same kind of effect, where they will capture the green. But they will have none overlap otherwise with the other ones.
Hơi khó vẽ, nhưng chúng sẽ có cùng hiệu ứng, tức là chúng bao trọn phần xanh lá. Nhưng ngoài ra chúng không chồng lên các tập kia.
And then the blue one will always have them all included. Because the blue one makes no assumptions. So it can capture everything any Bayes net with less edges can represent.
Và tập xanh dương luôn chứa tất cả. Vì mạng xanh dương không đưa ra giả định nào. Nên nó biểu diễn được mọi thứ mà mạng Bayes ít cạnh hơn có thể biểu diễn.
Essentially, whenever you remove an edge, you make an assumption. When you have all the edges, you've made no assumptions. Any other questions about this.
Về cơ bản, mỗi khi bạn bỏ một cạnh, bạn đã đưa ra một giả định. Khi có đủ mọi cạnh, bạn không đưa ra giả định nào. Còn câu hỏi nào khác không?
So quick summary. Bayes nets compactly encode joint distributions. And the reason we care about that is because we want to reason about large numbers of random variables.
Vậy tóm tắt nhanh. Mạng Bayes mã hóa gọn phân phối đồng thời. Và lý do ta quan tâm là vì ta muốn suy luận về số lượng lớn biến ngẫu nhiên.
Hundreds, maybe thousands or millions of random variables to do complicated things. And including the joint distribution directly is not going to be practical.
Hàng trăm, có thể hàng nghìn hay hàng triệu biến ngẫu nhiên để làm những việc phức tạp. Và việc lưu trực tiếp phân phối đồng thời là không khả thi.
By using a Bayes net we introduce some guaranteed independencies that we can read off directly from the graph structure.
Khi dùng mạng Bayes, ta đưa vào một số tính độc lập được đảm bảo, đọc trực tiếp được từ cấu trúc đồ thị.
The algorithm we saw today, d-separation, gives us a way to methodologically check independencies.
Thuật toán hôm nay ta thấy, d-separation, cho ta cách kiểm tra có phương pháp các tính độc lập.
If you then run it for all sets of variables, you get the full listing of all independencies that characterize what you assume when using a specific Bayes net structure.
Nếu chạy nó cho mọi tập biến, bạn có danh sách đầy đủ mọi tính độc lập đặc trưng cho giả định khi dùng một cấu trúc mạng Bayes cụ thể.
Last bullet point here. This one's a little subtle. But it is possible to have independencies that your d-separation algorithm does not find.
Ý cuối cùng ở đây. Ý này hơi tinh tế. Có thể tồn tại những tính độc lập mà thuật toán d-separation không tìm ra.
What I mean with that is that d-separation will only find the independencies that are true, no matter what numbers you put in the conditional probability tables. That's what it does.
Ý tôi là d-separation chỉ tìm những tính độc lập đúng cho dù bạn điền con số nào vào các bảng xác suất có điều kiện. Nó làm như vậy.
But if you put it in very special numbers in the tables, there might be additional independencies that you cannot read off from your graph structure. Such as if you put one half everywhere.
Nhưng nếu bạn điền những con số rất đặc biệt vào bảng, có thể có thêm những tính độc lập mà bạn không thể đọc ra từ cấu trúc đồ thị. Chẳng hạn nếu bạn điền một phần hai khắp nơi.
Then there will be complete independence. And you won't be able to read it off from your graph structure.
Thì sẽ có độc lập hoàn toàn. Và bạn không đọc ra được từ cấu trúc đồ thị.
Because the graph structure doesn't tell you there is one half everywhere, it just shows you the structure of the Bayes net. Where does that put us? Last lecture we covered representation.
Vì cấu trúc đồ thị không cho biết là có một phần hai khắp nơi, nó chỉ cho bạn thấy cấu trúc của mạng Bayes. Vậy ta đang ở đâu? Bài trước ta học về biểu diễn.
Now we covered better understanding what assumptions we make when using this representation. Next lecture will be probabilistic inference, exact.
Bài này ta hiểu rõ hơn ta đưa ra những giả định nào khi dùng cách biểu diễn này. Bài tới sẽ là suy luận xác suất, chính xác.
And then the next next lecture will be, well, to do it exactly might still be complete in some scenarios. So it might need something approximate through sampling.
Rồi bài kế tiếp nữa sẽ là, à, làm chính xác đôi khi vẫn quá phức tạp trong một số tình huống. Nên có thể cần cách xấp xỉ thông qua lấy mẫu.
And then after that, we'll start looking at learning the Bayes nets from data. OK, that's it for today.
Và sau đó, ta sẽ bắt đầu xem việc học mạng Bayes từ dữ liệu. Được rồi, hôm nay đến đây.
Đăng nhập để đánh giá học liệu này.
Đăng nhập để bình luận — chưa ai bình luận về học liệu này.
Không có khóa học liên quan.