Video
Đăng bởi Ban biên tập OpenER ·
Tác giả giữ toàn bộ bản quyền (All Rights Reserved) — không phải giấy phép mở. Bạn vẫn xem và học miễn phí trên OpenER; muốn tái sử dụng cần xin phép tác giả.
[AUDIO OUT] [INTERPOSING VOICES]
[MẤT ÂM THANH] [NHIỀU NGƯỜI NÓI CHEN NHAU]
GIREEJA RANADA
Okay, let's get started. Welcome to Module 4, Lecture 4. We're going to pick up today where we left off last class.
Được rồi, chúng ta bắt đầu nhé. Chào mừng các em đến với Module 4, Bài giảng 4. Hôm nay chúng ta tiếp tục từ chỗ đã dừng ở buổi trước.
Last class, we were basically trying to complete our GPS story. We talked about identifying the satellite. Then we talked about figuring out the distance between a satellite and our receiver.
Buổi trước, về cơ bản chúng ta đang cố hoàn thành câu chuyện về GPS. Chúng ta đã nói về việc nhận diện vệ tinh. Sau đó chúng ta nói về việc xác định khoảng cách giữa vệ tinh và máy thu của mình.
Then after that, we said, well, once we have all of the distances, we use the trilateration algorithm to figure out our location. But what if there is some kind of noise in the system?
Rồi sau đó, chúng ta nói rằng, khi đã có tất cả các khoảng cách, ta dùng thuật toán định vị ba điểm (trilateration) để tìm ra vị trí của mình. Nhưng nếu hệ thống có nhiễu thì sao?
What if the trilateration equations that you get or the distance measurements that you get by doing cross-correlation aren't exactly accurate and have a little bit of noise?
Nếu các phương trình định vị ba điểm mà ta có hoặc các số đo khoảng cách có được từ tương quan chéo không hoàn toàn chính xác mà có một chút nhiễu thì sao?
How do you solve systems of linear equations when there might be some small amount of noise present or in the case where you cannot exactly solve the system?
Làm sao giải hệ phương trình tuyến tính khi có thể có một lượng nhiễu nhỏ, hoặc trong trường hợp ta không thể giải chính xác hệ phương trình?
And that was the least squares algorithm that we talked about last time. And, in fact, we derived this algorithm from scratch.
Và đó chính là thuật toán bình phương tối thiểu mà chúng ta đã nói ở buổi trước. Thực tế, chúng ta đã xây dựng thuật toán này từ đầu.
We talked about how least squares is basically the projection of a vector onto a subspace.
Chúng ta đã nói rằng bình phương tối thiểu về cơ bản là phép chiếu một vectơ lên một không gian con.
So just to remind everyone of where we were at, we had some system of equations Ax. And we say equal to b.
Để nhắc lại mọi người chúng ta đang ở đâu, ta có một hệ phương trình Ax. Và ta viết là bằng b.
But we know that this equal to is really an approximately equal to. We know that there is some error. We know that this is not perfect.
Nhưng ta biết dấu bằng này thực ra là xấp xỉ bằng. Ta biết là có sai số. Ta biết nó không hoàn hảo.
And we're thinking about a situation where A is not a square matrix.
Và ta đang nghĩ đến tình huống A không phải là ma trận vuông.
We're thinking about a situation when, in fact, A has this kind of shape. A is a tall matrix.
Ta đang nghĩ đến tình huống A có dạng như thế này. A là một ma trận cao.
So I have, let's say, an m by n A. And m is greater than n.
Giả sử A có kích thước m nhân n, và m lớn hơn n.
So I have more equations than unknowns.
Vậy ta có nhiều phương trình hơn số ẩn.
This is sometimes called an overdetermined system.
Đây đôi khi được gọi là hệ quá xác định (overdetermined).
Each row of A is basically a measurement, or an equation. And the number of unknowns we have is basically the length of x.
Mỗi hàng của A về cơ bản là một phép đo, hay một phương trình. Và số ẩn của ta về cơ bản là độ dài của x.
And this is much smaller than A. So x is, let's say, n by 1. And then b is basically the output of all of the equations.
Con số này nhỏ hơn nhiều so với A. Vậy x có kích thước n nhân 1. Còn b về cơ bản là đầu ra của tất cả các phương trình.
So we have m by 1 is the size of b. So when you're thinking about least squares, you want to keep this picture in mind.
Vậy b có kích thước m nhân 1. Khi nghĩ về bình phương tối thiểu, các em hãy luôn nhớ hình ảnh này.
Typically, we've been thinking about when you have a square system — as an aside, if you have a square system, A is a square matrix. So A looks like this.
Thông thường, chúng ta đã nghĩ về trường hợp hệ vuông. Nói thêm một chút, nếu có hệ vuông thì A là ma trận vuông. Vậy A trông như thế này.
And x and b are the same size. This is n by n. This is n by 1. This is n by 1, right?
Còn x và b có cùng kích thước. Đây là n nhân n. Đây là n nhân 1. Đây là n nhân 1, đúng không?
But this situation that we're looking up fundamentally is different from the square setup.
Nhưng tình huống đang xét ở đây về căn bản khác với trường hợp vuông.
And I want all of you to make sure you always have this picture in mind when you're thinking about overdetermined systems or cases where you have more equations than you have unknowns.
Và tôi muốn các em luôn nhớ hình ảnh này khi nghĩ về các hệ quá xác định, tức là trường hợp có nhiều phương trình hơn số ẩn.
When you go to upper division classes, such as, for example, 127, or even a little bit in 16B, you will be exposed to what are underdetermined systems.
Khi lên các lớp chuyên ngành, ví dụ như lớp 127, hay thậm chí một chút trong 16B, các em sẽ gặp các hệ thiếu xác định (underdetermined).
Underdetermined systems are systems where you have fewer equations than unknowns. We're not going to really talk too much about that in this class, except for a little bit.
Hệ thiếu xác định là hệ có ít phương trình hơn số ẩn. Trong lớp này chúng ta sẽ không bàn nhiều về chuyện đó, ngoại trừ một chút.
But here, our focus is on this second case, which is, how can you use the extra equations that you have to basically get rid of the fact that you have some noise in your actual measurements?
Ở đây, trọng tâm của chúng ta là trường hợp thứ hai, tức là, làm sao dùng các phương trình dư để loại bỏ ảnh hưởng của việc các phép đo thực tế có nhiễu?
So when we're looking at this kind of setup, what was the main issue that we had when we were trying to solve this?
Vậy với dạng bài toán này, vấn đề chính mà chúng ta gặp phải khi cố giải nó là gì?
We were saying that, well, Ax equal to b, A isn't square.
Ta nói rằng, Ax bằng b, nhưng A không vuông.
And so we don't have really an inverse of A to be able to solve it the way we did in the square case. So A is not square.
Nên ta không thực sự có nghịch đảo của A để giải như đã làm trong trường hợp vuông. Vậy A không vuông.
So A has no inverse.
Nên A không có nghịch đảo.
And we were worried furthermore which is that what is the space that Ax can belong to? What is the vector space that Ax can belong to?
Và hơn nữa, ta còn lo ngại Ax có thể thuộc về không gian nào? Ax có thể thuộc không gian vectơ nào?
Well, A times any x can only belong to the column space of A. No matter what x you choose, A times x always belongs to the column space of A.
Chà, A nhân với bất kỳ x nào cũng chỉ có thể thuộc không gian cột của A. Dù chọn x nào, A nhân x luôn thuộc không gian cột của A.
On the other hand, vector b might not be in the column space of A. This vector b might be somewhere else.
Mặt khác, vectơ b có thể không nằm trong không gian cột của A. Vectơ b này có thể nằm ở chỗ khác.
You might be in a situation where you have this is the column space of A. And you have some vector b that clearly does not lie in this subspace.
Có thể ta ở trong tình huống như sau: đây là không gian cột của A. Và có một vectơ b rõ ràng không nằm trong không gian con này.
This plane is basically the column space of A. And the b is kind of sticking out. It's not in that subspace.
Mặt phẳng này về cơ bản là không gian cột của A. Còn b thì nhô ra ngoài. Nó không nằm trong không gian con đó.
And so what do we want to do? We want to say, well, Ax is allowed to move around in this plane. It's allowed to move around in this column space.
Vậy ta muốn làm gì? Ta nói rằng, Ax được phép di chuyển trong mặt phẳng này. Nó được phép di chuyển trong không gian cột này.
I want to find at that point in the column space that is closest to this vector b. So does it make sense if I'm here to move this way to get close to b?
Tôi muốn tìm điểm trong không gian cột gần vectơ b nhất. Vậy nếu tôi đang ở đây, di chuyển theo hướng này để lại gần b có hợp lý không?
No. Does it make sense to move this way? No. I want to move here.
Không. Di chuyển theo hướng này có hợp lý không? Không. Tôi muốn di chuyển đến đây.
If I moved to somewhat here, should I keep going, going, going, going? No. We discussed we have this geometric proof that said that, well, how do I find the point that is closest?
Nếu tôi đã đến gần đây, tôi có nên cứ đi tiếp, đi tiếp, đi tiếp không? Không. Chúng ta đã thảo luận một chứng minh hình học cho thấy, làm sao tìm điểm gần nhất?
I find that point that is orthogonal. And I wanted to find, let's say, this vector z.
Ta tìm điểm sao cho sai số trực giao. Và giả sử tôi muốn tìm vectơ z này.
That is the closest vector within the column space of A to the vector b.
Đó là vectơ gần nhất trong không gian cột của A đối với vectơ b.
And what did we show that the z actually minimizes?
Vậy chúng ta đã chứng minh z thực sự cực tiểu hóa điều gì?
So the orthogonal projection of b onto column space of A minimizes our error.
Phép chiếu trực giao của b lên không gian cột của A làm cực tiểu sai số của chúng ta.
And what is our error? Our error is the difference between Ax and b. We want to be at b. But we can't get there.
Vậy sai số của chúng ta là gì? Sai số là hiệu giữa Ax và b. Ta muốn đến được b. Nhưng ta không thể tới đó.
So whatever is remaining is our error. And we want to minimize the length of that error. And here, we're talking about it as minimizing the length of the error squared.
Nên phần còn lại chính là sai số của ta. Và ta muốn cực tiểu hóa độ dài của sai số đó. Ở đây, ta xét việc cực tiểu hóa độ dài của sai số bình phương.
But minimizing the square of a number and minimizing a number is exactly the same thing. So it doesn't make any difference whether I write a squared here or not.
Nhưng cực tiểu hóa bình phương của một số và cực tiểu hóa chính số đó là hoàn toàn như nhau. Nên không có gì khác biệt dù tôi viết bình phương ở đây hay không.
Does anybody have any questions about this setup or what is going on with this least squares? There's geometry and this basic algorithm is fundamental.
Có ai có câu hỏi nào về phần thiết lập này hoặc về bình phương tối thiểu không? Có phần hình học, và thuật toán cơ bản này rất nền tảng.
So I want to make sure that we're all on the same page with regard to this.
Nên tôi muốn chắc là mọi người đều theo kịp phần này.
I don't have time to fully redo the proof calculation that we did at the end of class last time. But I can take a couple of questions on this if people have questions.
Tôi không có thời gian làm lại đầy đủ phép tính chứng minh mà ta đã làm ở cuối buổi trước. Nhưng tôi có thể nhận vài câu hỏi nếu mọi người có thắc mắc.
Yes.
Mời bạn.
STUDENT
What does the magnitude Ax minus b represent?
Độ lớn của Ax trừ b biểu diễn điều gì ạ?
GIREEJA RANADA
What does the magnitude of Ax minus b represent? Good question. So this Ax is the z. The z is this Ax.
Độ lớn của Ax trừ b biểu diễn điều gì? Câu hỏi hay. Ax này chính là z. z chính là Ax.
So like we showed last time, this is this z. And this vector here — does this orange look different than the pink?
Như ta đã chỉ ra lần trước, đây là z. Và vectơ này — màu cam này trông có khác màu hồng không?
Kind of, you can tell? So this vector that goes from this orthogonal projection point all the way up to b, this is the error vector.
Các bạn phân biệt được chứ? Vectơ đi từ điểm chiếu trực giao này lên tới b, đây là vectơ sai số.
This is, let's say, you can call this vector e. And a z plus the error gives me b. So Ax minus b is the length of this vector e.
Ta có thể gọi vectơ này là e. Và z cộng sai số cho ra b. Vậy Ax trừ b là độ dài của vectơ e này.
What was the formula that we had? We basically had a projection formula.
Công thức ta có là gì nhỉ? Về cơ bản ta có một công thức chiếu.
Our solution was to project b onto this column space.
Lời giải của ta là chiếu b lên không gian cột này.
And this gave us that what we want for our x here, the best value that we have, which we're going to represent by x — I call this x hat.
Và nó cho ta giá trị x mà ta muốn ở đây, giá trị tốt nhất mà ta có, mà ta sẽ ký hiệu là x — tôi gọi là x mũ (x hat).
It's like vector x with a little hat on top of it — to say that this is our best estimate for what x should be.
Tức là vectơ x có một cái mũ nhỏ ở trên — để nói rằng đây là ước lượng tốt nhất của ta cho x.
This is A transpose A inverse A transpose b.
Đó là A transpose A inverse A transpose b.
And Ax hat, which is what this quantity is, is basically A times x hat.
Và Ax hat, chính là đại lượng này, về cơ bản là A nhân x hat.
So A times A transpose A inverse A transpose b.
Tức là A nhân A transpose A inverse A transpose b.
So last time after class I got a question that I think was very good, which said that, well, when you look at this A transpose A inverse A transpose b, can't we cancel something?
Lần trước sau giờ học tôi nhận được một câu hỏi mà tôi thấy rất hay, đại ý là khi nhìn A transpose A inverse A transpose b, chẳng lẽ ta không giản ước được gì sao?
Because like they're all super similar. But we can't unfortunately. Because what are the dimensions of this thing? A transpose A, what is the dimension of A transpose A?
Vì chúng trông rất giống nhau. Nhưng tiếc là không được. Vì số chiều của nó là gì? A transpose A, số chiều của A transpose A là gì?
A is m by n. So A transpose has dimensions n by m.
A là m nhân n. Nên A transpose có số chiều n nhân m.
A transpose A has dimensions n by n. So this is a square matrix. We can't really separate this out.
A transpose A có số chiều n nhân n. Vậy đây là ma trận vuông. Ta không thể tách nó ra được.
This inverse holds only for this square matrix A transpose A. You can't say that, well, let me take the inverse of A transpose times the inverse of A. You can't take this inverse inside these parentheses.
Nghịch đảo này chỉ áp dụng cho ma trận vuông A transpose A. Bạn không thể nói rằng ta lấy nghịch đảo của A transpose nhân nghịch đảo của A. Bạn không thể đưa nghịch đảo vào bên trong dấu ngoặc này.
Okay? That's really important to notice and realize that some of these operations that you're really used to doing when you're dealing with real numbers or scalars don't really work with matrices.
Được chứ? Điều rất quan trọng cần để ý và nhận ra là một số phép toán mà các bạn rất quen làm khi làm việc với số thực hay số vô hướng thì không dùng được với ma trận.
We can only take this inverse here because we're thinking of A transpose A as the square matrix. So A transpose inverse doesn't really exist, because it's not a square matrix.
Ta chỉ lấy nghịch đảo ở đây được vì ta coi A transpose A là ma trận vuông. Còn nghịch đảo của A transpose thì không tồn tại, vì nó không phải ma trận vuông.
Inverses only exist for square matrices. Okay? So any questions about this? I'm going to just pause and take a second.
Nghịch đảo chỉ tồn tại với ma trận vuông. Được chứ? Còn câu hỏi nào về phần này không? Tôi sẽ dừng lại một chút.
Ask me questions. Or ask your neighbor questions. I'm just going to wait. Yeah.
Hãy hỏi tôi. Hoặc hỏi bạn bên cạnh. Tôi sẽ chờ. Mời bạn.
STUDENT
Is the direction of the vector our projection?
Hướng của vectơ có phải là phép chiếu của ta không ạ?
GIREEJA RANADA
Is x hat the direction of our projection? I wouldn't think of it really as the direction per se.
GIREEJA RANADA: x hat có phải là hướng của phép chiếu không? Tôi sẽ không nghĩ nó là hướng theo đúng nghĩa.
Our projection is basically this vector is v, which is Ax hat.
Phép chiếu của ta về cơ bản là vectơ này, gọi là v, tức là Ax hat.
Yeah.
Mời bạn.
STUDENT
So where does x show up in our diagram?
Vậy x xuất hiện ở đâu trong hình ạ?
GIREEJA RANADA
Where does x show up in our diagram? Great question. x does not show up in our diagram here. We don't have a picture for where x is.
GIREEJA RANADA: x xuất hiện ở đâu trong hình? Câu hỏi rất hay. x không xuất hiện trong hình này. Ta không có hình cho vị trí của x.
x has no restrictions on being part of anything, any particular space. But we know that A times x must be in the column space of A by definition.
x không bị ràng buộc phải thuộc về bất kỳ không gian cụ thể nào. Nhưng ta biết A nhân x phải nằm trong không gian cột của A theo định nghĩa.
So good question. x does not show up in this picture. This pink arrow is A times x.
Câu hỏi hay. x không xuất hiện trong hình này. Mũi tên hồng này là A nhân x.
Other questions? Yes.
Còn câu hỏi nào khác không? Mời bạn.
STUDENT
I'm still confused, where does x hat fit into our picture?
Em vẫn chưa rõ, x hat nằm ở đâu trong hình ạ?
GIREEJA RANADA
Yep, good question. Where does x hat fit into our picture?
Vâng, câu hỏi hay. x hat nằm ở đâu trong hình?
So x hat is sometimes called the best estimate of x.
x hat đôi khi được gọi là ước lượng tốt nhất của x.
Why do we call it x hat and not exactly x? This is just a question of terminology. No one would fault to you if you were to just say x is equal to this.
Tại sao ta gọi là x hat mà không phải chính xác là x? Đây chỉ là vấn đề thuật ngữ. Sẽ không ai trách bạn nếu bạn cứ nói x bằng biểu thức này.
But we're saying this because we know that A times x hat is not exactly equal to b.
Nhưng ta nói vậy vì ta biết A nhân x hat không chính xác bằng b.
We know that Ax is only going to approximately equal b.
Ta biết Ax chỉ xấp xỉ bằng b.
So that's why we separate out this idealized x, which doesn't exist, but if it did exist, x would be exactly equal to b, and x hat, which is our best estimate of what that actually is.
Nên ta tách riêng x lý tưởng này, tức là không tồn tại, nhưng nếu nó tồn tại thì Ax sẽ đúng bằng b, còn x mũ (x hat) là ước lượng tốt nhất của chúng ta cho giá trị thật đó.
Does that make sense? So this is just notation. If the notation is confusing feel free to just call these things x's. It won't really matter.
Mọi người hiểu chứ? Đây chỉ là ký hiệu thôi. Nếu ký hiệu này gây rối, cứ gọi tất cả là x cũng được. Không quan trọng lắm.
But I just wanted to introduce this because you might come across this somewhere, and you should be familiar.
Nhưng tôi muốn giới thiệu nó vì các em có thể gặp nó ở đâu đó, và nên làm quen.
Usually, when people put a hat on something they mean they're making an estimate of that quantity. They don't have exactly the value. But they're making their best guess.
Thường thì khi người ta đặt dấu mũ lên một đại lượng, nghĩa là họ đang ước lượng đại lượng đó. Họ không có giá trị chính xác. Mà chỉ đưa ra dự đoán tốt nhất.
Okay, so let's do an example. And hopefully, that'll start to get more juices flowing.
Được rồi, ta làm một ví dụ. Hy vọng nó sẽ giúp đầu óc mình hoạt động hơn.
So let's think about the following example.
Hãy xét ví dụ sau.
I'm going to do a simple one. You're going to do some more complicated ones in discussion on Monday. So make sure you go to discussion if you want a chance to practice this more.
Tôi sẽ làm một ví dụ đơn giản. Các em sẽ làm những ví dụ phức tạp hơn trong buổi thảo luận vào thứ Hai. Nên hãy đi thảo luận nếu muốn có cơ hội luyện tập thêm.
Let's say A is this simple 2 by 1 matrix. So A is 2, 1. And b is equal to also this 2 by 1 matrix.
Giả sử A là ma trận 2 nhân 1 đơn giản này. A là 2, 1. Và b cũng là một ma trận 2 nhân 1.
And I have A times x is equal to b. So x, in this case, is just a scalar. It's a 1 by 1 matrix essentially.
Ta có A nhân x bằng b. Ở đây x chỉ là một số vô hướng. Về cơ bản nó là ma trận 1 nhân 1.
So I can write 2, 1 times x. This is just 1 by 1 times 1, 1.
Nên tôi viết 2, 1 nhân x. Bằng 1 nhân 1 rồi nhân với 1, 1.
So I have this Ax equal to b. And if we were to try the things that we've learned in Module 1 so far, what would we want to try and do?
Vậy ta có Ax bằng b. Nếu dùng những gì đã học ở Module 1 cho đến giờ, ta sẽ muốn thử làm gì?
We have a system of linear equations. Hopefully, by now, you have some kind of default response that says when you see a system of linear equations, apply Gaussian elimination.
Ta có một hệ phương trình tuyến tính. Hy vọng giờ các em đã có phản xạ mặc định: khi thấy một hệ phương trình tuyến tính, hãy dùng phép khử Gauss.
So it's something that's really worth trying. So let's just see what happens if we do our natural, autocorrect response to a system of linear equations.
Nên rất đáng để thử. Hãy xem điều gì xảy ra nếu ta làm theo phản xạ tự nhiên với một hệ phương trình tuyến tính.
So does Gaussian elimination work?
Vậy phép khử Gauss có hiệu quả không?
So let me make the augmented matrix 2, 1, 1, 1 is the augmented matrix in this case. What does this give me?
Ta lập ma trận mở rộng 2, 1, 1, 1 là ma trận mở rộng trong trường hợp này. Ta được gì?
Well, I make this a 1. Make this a 1/2. This is a 1 and a 1.
Tôi biến chỗ này thành 1. Chỗ này thành 1/2. Đây là 1 và 1.
Just by multiplying the first row by a 1/2, and then this gives me 1, 1/2, 0, 1/2.
Chỉ cần nhân hàng đầu với 1/2, rồi ta được 1, 1/2, 0, 1/2.
So what do I have at the bottom? I have a row of zeros. And what are they equal to on the right-hand side?
Vậy ở dưới cùng có gì? Một hàng toàn số không. Và vế phải bằng bao nhiêu?
A non-zero. So what does this mean for our system? No solutions. So what does this say?
Một số khác không. Điều này nói gì về hệ của ta? Vô nghiệm. Vậy điều này cho biết gì?
This says that well there doesn't exist an x that perfectly satisfies both of these equations, because they're noisy equations.
Cho biết không tồn tại x thỏa mãn hoàn hảo cả hai phương trình, vì chúng là các phương trình có nhiễu. Không có x nào mà 2 nhân x bằng 1 và 1 nhân x cũng bằng 1.
You don't have an x such that 2 times x is 1 and 1 times x is also 1.
Nhưng ta làm gì đây?
But what do you do? What if you get such an equation out of your system of measurements? You have this is what your imaging system gives you. This is what your trilateration system gives.
Nếu hệ đo lường của ta cho ra một phương trình như vậy thì sao? Đây là kết quả hệ ảnh của bạn đưa ra. Đây là kết quả hệ trilateration đưa ra. Bạn phải đưa ra một kết quả.
You have to produce an input. You have to tell the user, well, you know these are the measurements I got. There is no perfect solution. But I better give you something.
Bạn phải nói với người dùng: đây là các phép đo tôi có. Không có nghiệm hoàn hảo. Nhưng tôi vẫn phải đưa cho bạn một thứ gì đó. Vậy giải quyết tình huống này thế nào?
How do you solve this situation? This is where now least squares can come in. So let's try to use these squares.
Đây là lúc bình phương tối thiểu xuất hiện. Ta thử dùng bình phương tối thiểu.
And we can write, let's say now we can try our x hat is equal to A transpose A inverse A transpose times b.
Ta có thể viết x hat bằng nghịch đảo của A transpose A, nhân A transpose, nhân b. Được chưa?
Okay? So what is A transpose in this case?
Vậy A transpose trong trường hợp này là gì? A transpose là một vectơ hàng.
A transpose is a row vector. And it's going to be 2, 1.
Và nó là 2, 1.
So A transpose A is equal to 2, 1 times 1, 2 — oh, 2, 1 times 2, 1.
Vậy A transpose A bằng 2, 1 nhân 1, 2 — à, 2, 1 nhân 2, 1. Các em hãy tự tính đại lượng này.
Why don't you go ahead and calculate this quantity out. Just go ahead and do this calculation. Plug in A transpose. Plug in A. Take the inverse.
Cứ tính đi. Thế A transpose vào. Thế A vào. Lấy nghịch đảo. Tính ngay bây giờ nhé.
Just do that calculation now. Take a minute and do it. Check your answer with your neighbors.
Dành một phút làm đi. Kiểm tra đáp án với bạn bên cạnh. Ai làm xong rồi?
How many people are done? How many people want other minute? Okay, another minute. You can talk, you know.
Ai muốn thêm một phút? Được, thêm một phút. Các em có thể trao đổi mà. Hãy chắc là mình hiểu chuyện gì đang diễn ra.
Make sure you understand what's going on. If you're confused about something and you don't want to ask in the whole class, ask your neighbor. Everyone turn to your neighbor and make sure they understand.
Nếu có gì chưa rõ mà ngại hỏi cả lớp, hãy hỏi bạn bên cạnh. Mọi người quay sang bạn bên cạnh và chắc chắn bạn ấy hiểu. Hỏi xem bạn ấy ổn không.
Ask them if they're okay.
[INTERPOSING VOICES] GIREEJA RANADA: If you're talking to neighbor
[NHIỀU NGƯỜI NÓI CHEN NHAU] GIREEJA RANADA: Nếu em đang nói chuyện với bạn một bên thì hãy chắc là bạn ở bên kia
on one side of you, make sure the neighbor on the other side of you isn't feeling left out.
không bị bỏ rơi.
[INTERPOSING VOICES] GIREEJA RANADA: Okay, so how many people are done now?
[NHIỀU NGƯỜI NÓI CHEN NHAU] GIREEJA RANADA: Được rồi, giờ ai làm xong rồi? Ai đã có đáp án?
How many people have an answer? Most people have an answer? Okay. So can someone tell me what A transpose A comes out to be?
Hầu hết mọi người có đáp án rồi chứ? Được. Ai cho tôi biết A transpose A bằng bao nhiêu? Đúng bằng 5.
It's exactly 5. 2 times 2 plus 1 times 1. It's a 1 by 1 matrix.
2 nhân 2 cộng 1 nhân 1. Đó là ma trận 1 nhân 1. Vậy nghịch đảo của A transpose A bằng 1/5.
So A transpose A inverse is equal to 1/5.
Giờ x hat bằng 1/5 nhân 2, 1 nhân 1, 1.
So x hat now is equal to 1/5 times 2, 1 times 1, 1.
2, 1 nhân 1, 1 bằng bao nhiêu?
SINH VIÊN
2, 1 times 1, 1 is what?
3.
STUDENT
3.
3.
GIREEJA RANADA
3. So x hat is 3 by 5.
Vậy x hat là 3/5.
Does x hat equal to 3 by 5 perfectly satisfy the first equation? Does it perfectly satisfy the second equation? No.
x hat bằng 3/5 có thỏa mãn hoàn hảo Liệu x hat bằng 3/5 có thỏa mãn hoàn toàn phương trình thứ nhất không? Nó có thỏa mãn chính xác phương trình thứ hai không? Không.
But what it does is it approximately satisfies both equations. And what it does is it says that this quantity Ax minus b is minimized.
Nhưng nó thỏa mãn cả hai phương trình một cách xấp xỉ. Nghĩa là đại lượng Ax trừ b được cực tiểu hóa.
So if we draw a picture of this. For example, let's say I have — so A is basically 2, 1. So 1, 2; 1, 2; 2, 1.
Ta hãy vẽ hình minh họa. Ví dụ, giả sử tôi có — A về cơ bản là 2, 1. Vậy là 1, 2; 1, 2; 2, 1.
This is my A. And my b is 1, 1. This color doesn't look very different.
Đây là A của tôi. Còn b là 1, 1. Màu này nhìn không khác lắm.
All right, this is my b. And this is my A.
Được rồi, đây là b. Và đây là A.
So what we're saying is we're saying how much should I walk along this vector so that it can get to b?
Ta đang hỏi là phải đi dọc theo vectơ này bao xa để tới được b?
Is this a reasonable question to ask? Kind of, but not really. There's no way to get to b by just walking along A.
Câu hỏi này có hợp lý không? Cũng tạm, nhưng không hẳn. Không có cách nào tới b chỉ bằng cách đi dọc theo A.
So you're saying, well, if I'm only allowed to walk along A, where do I want to stop? Well, I want to stop here at this point of the orthogonal projection.
Vậy nếu chỉ được đi dọc theo A, thì ta muốn dừng ở đâu? Ta muốn dừng tại điểm này, điểm hình chiếu trực giao.
And so this point is exactly 3/5 times A. Okay?
Và điểm này đúng bằng 3/5 lần A. Được chưa?
Does everyone get how does geometry and the algebra are playing together here and have a sense of what this is doing?
Mọi người có thấy hình học và đại số kết hợp với nhau thế nào ở đây, và hiểu nó đang làm gì không?
So I encourage you to just try and make up some examples like this and try to do it on your own for simple 2 by 2, 3 by 3 cases.
Tôi khuyến khích các bạn tự bịa ra vài ví dụ như thế này và tự làm với các trường hợp đơn giản 2 nhân 2, 3 nhân 3.
And it'll give you some practice and hopefully help clear things up a little bit. And you'll get a lot more practice of this in homework again and discussion.
Việc đó giúp các bạn luyện tập và hy vọng làm rõ thêm một chút. Các bạn cũng sẽ luyện tập nhiều hơn phần này trong bài tập về nhà và buổi thảo luận.
But now that we have some basic understanding of least squares, I want to really talk about where and how we can really use the least squares algorithm and why it's such a cool algorithm.
Giờ đã hiểu cơ bản về bình phương tối thiểu, tôi muốn nói về việc dùng thuật toán bình phương tối thiểu ở đâu, như thế nào và vì sao nó là một thuật toán tuyệt vời.
We can definitely use it for the trilateration example. And you will be doing exactly that in lab. So I'm not going to do exactly the same calculation out here.
Chắc chắn ta dùng được nó cho ví dụ định vị ba điểm (trilateration). Và các bạn sẽ làm đúng việc đó trong lab. Nên tôi sẽ không tính y hệt ở đây.
You'll get a chance to do it in lab. But there's many, many, many powerful applications of least squares. And so I wanted to start with actually the first one.
Các bạn sẽ có cơ hội làm trong lab. Nhưng bình phương tối thiểu có rất, rất nhiều ứng dụng mạnh mẽ. Và tôi muốn bắt đầu với ứng dụng đầu tiên.
Can I split the screen to have my computer and the doc cam?
Cho tôi chia màn hình để hiện máy tính và camera tài liệu được không?
So this planet, or what is called a dwarf planet, is called Ceres.
Hành tinh này, hay còn gọi là hành tinh lùn, tên là Ceres.
And this body, I guess, lies in the space between Mars and Jupiter.
Thiên thể này nằm trong khoảng không giữa Sao Hỏa và Sao Mộc.
And, understanding the motion of this particular planetary object — it's been classified from a planet to an asteroid and from an asteroid to a dwarf planet over the years — this is one of the first known applications of the least squares algorithm.
Và việc hiểu chuyển động của thiên thể này — qua các năm nó bị phân loại từ hành tinh thành tiểu hành tinh rồi từ tiểu hành tinh thành hành tinh lùn — là một trong những ứng dụng đầu tiên được biết của thuật toán bình phương tối thiểu.
We studied Gaussian elimination in this class. And Gaussian elimination is called Gaussian elimination because one of the people to widely use it first was the mathematician Gauss.
Trong lớp này ta đã học phép khử Gauss. Nó có tên là phép khử Gauss vì một trong những người đầu tiên dùng rộng rãi nó là nhà toán học Gauss.
Of course, Gaussian elimination wasn't invented by Gauss. It was invented — or it was well known in China far before Gauss. But least squares, again, we don't know exactly who invented it.
Dĩ nhiên phép khử Gauss không do Gauss phát minh. Nó được phát minh, hay đã được biết rõ ở Trung Quốc từ rất lâu trước Gauss. Còn bình phương tối thiểu thì cũng vậy, ta không biết chính xác ai phát minh.
But it's definitely true that Gauss was one of the mathematicians that used it a lot.
Nhưng chắc chắn Gauss là một trong những nhà toán học dùng nó rất nhiều.
And in particular, the most famous — or one of the most famous applications of least squares and one of the first documented ones was when Gauss used these squares to be able to predict the path of this object series.
Và cụ thể, ứng dụng nổi tiếng nhất của bình phương tối thiểu, cũng là một trong những ứng dụng đầu tiên được ghi chép, là khi Gauss dùng bình phương tối thiểu để dự đoán quỹ đạo của thiên thể Ceres này.
So this story actually takes us back to 1801. January of 1801, there was an astronomer called Piazzi.
Câu chuyện này đưa ta về năm 1801. Tháng 1 năm 1801, có một nhà thiên văn tên là Piazzi.
Yep, not making it up. And you know, he was observing the skies, as astronomers tend to do.
Vâng, tôi không bịa đâu. Ông ấy đang quan sát bầu trời, như các nhà thiên văn vẫn làm.
And he made observations of a point of light in between Mars and Jupiter, or in between the space where you would expect that they would be blank space between Mars and Jupiter.
Ông ghi nhận một điểm sáng giữa Sao Hỏa và Sao Mộc, tức ở vùng mà lẽ ra người ta nghĩ là khoảng trống giữa Sao Hỏa và Sao Mộc.
And he made 22 observations of this over a course of many, many nights. And there had been people who had been studying the solar system, obviously.
Ông thực hiện 22 lần quan sát điểm này qua rất nhiều đêm. Dĩ nhiên đã có những người nghiên cứu hệ Mặt Trời.
And people were expecting — there was an expectation that the gap between Mars and Jupiter is kind of larger than what was expected.
Và người ta kỳ vọng rằng khoảng cách giữa Sao Hỏa và Sao Mộc lớn hơn so với dự kiến.
So people thought it would be natural to have another planet there.
Nên người ta nghĩ sẽ hợp lý nếu có một hành tinh khác ở đó.
And so when people thought that, oh, you know, maybe here's a planet that is that missing planet between Mars and Jupiter — they saw this little point of light that was basically moving across the skies at night — people got pretty excited.
Và khi người ta nghĩ, ồ, có lẽ đây là hành tinh còn thiếu giữa Sao Hỏa và Sao Mộc, họ thấy điểm sáng nhỏ này di chuyển ngang bầu trời ban đêm, mọi người khá phấn khích.
And then Piazzi got sick and stopped making observations of this planet. And then the path of the planet actually disappeared behind the sun.
Rồi Piazzi bị ốm và ngừng quan sát hành tinh này. Rồi quỹ đạo của hành tinh biến mất sau Mặt Trời.
So it was being tracked for a while. The Piazzi fell sick. And then it was behind the sun, and people couldn't really see it anymore.
Nó đã được theo dõi một thời gian. Piazzi bị ốm. Rồi nó ở sau Mặt Trời, và người ta không thể nhìn thấy nó nữa.
And so then what was done was actually these observations that he made were published in a scientific journal where they said, well, we really think that this is the missing planet between Jupiter and Mars.
Sau đó, những quan sát của ông được đăng trên một tạp chí khoa học, với nội dung: chúng tôi thực sự tin đây là hành tinh còn thiếu giữa Sao Mộc và Sao Hỏa.
You know, astronomers around the world, here's the observations that we've seen so far. Can you try to figure out where the planet is going to be next?
Các nhà thiên văn trên thế giới, đây là những quan sát chúng tôi đã có cho đến nay. Các bạn có thể tính xem hành tinh sẽ ở đâu tiếp theo không?
Because we can't see it now, we can't search the entire sky for this planet, we have to figure out where to look, to have a reasonable certainty that the planet that we see is actually what we're looking for.
Vì giờ không thấy nó, ta không thể tìm khắp bầu trời, mà phải biết nên tìm ở đâu, để chắc chắn một cách hợp lý rằng hành tinh ta thấy đúng là thứ ta đang tìm.
So these first observations where, I believe, sometime in January of 1801. And they were published in June. And this is when Gauss entered the picture.
Những quan sát đầu tiên này diễn ra, tôi tin là, vào khoảng tháng 1 năm 1801. Và chúng được công bố vào tháng 6. Và đây là lúc Gauss xuất hiện.
And what he did was he actually used a very end of least squares to be able to make these predictions and figure out exactly where the planet was going to reappear.
Và điều ông ấy làm là dùng một dạng rất đặc biệt của bình phương tối thiểu để đưa ra các dự đoán và tìm ra chính xác chỗ hành tinh sẽ xuất hiện trở lại.
There was many, many astronomers who tried to make predictions for where this planet was. But his technique turned out to be by far the most accurate. And so what did he do?
Có rất, rất nhiều nhà thiên văn đã thử dự đoán vị trí của hành tinh này. Nhưng phương pháp của ông ấy chính xác nhất với khoảng cách rất xa. Vậy ông ấy đã làm gì?
At that point Kepler's laws were already known.
Lúc đó các định luật Kepler đã được biết.
And he used Kepler's law. What does Kepler's law say? Kepler's law says that basically planets will orbit the sun in an elliptical orbit.
Và ông ấy dùng định luật Kepler. Định luật Kepler nói gì? Định luật Kepler nói về cơ bản các hành tinh quay quanh mặt trời theo quỹ đạo elip.
And so Gauss used the fact that, well, if this is going to be a planet, and if it is indeed orbiting the sun, then it should actually be following an elliptical path.
Và Gauss dùng thực tế rằng, nếu đây là một hành tinh, và nếu nó thật sự quay quanh mặt trời, thì nó phải đi theo một quỹ đạo elip.
Of course, there can be many, many, many different elliptical paths that it could follow. In fact, every single one of the planets follow its own unique, different elliptical path.
Tất nhiên, có thể có rất, rất nhiều quỹ đạo elip mà nó có thể đi theo. Thực tế, mỗi hành tinh đều đi theo một quỹ đạo elip riêng, khác nhau.
How do you figure out which elliptical path this is? And this is where the least squares technique comes in.
Làm sao biết được đó là quỹ đạo elip nào? Và đây là lúc phương pháp bình phương tối thiểu xuất hiện.
So what we have is, let's say, we are in 1801 with Jupyter notebooks and have a little bit of fake data to play with.
Giả sử là chúng ta đang ở năm 1801 mà có Jupyter notebook và có một ít dữ liệu giả để thử.
This is not what they did. This was done way before computers. Every single calculation was done by hand. It's really mind blowing what people managed to accomplish.
Họ đã không làm như vậy. Việc này được làm từ rất lâu trước khi có máy tính. Mọi phép tính đều làm bằng tay. Thật đáng kinh ngạc về những gì con người đã làm được.
We're going to do it the cheap way with just using a quick laptop simulation.
Chúng ta sẽ làm theo cách đơn giản, chỉ dùng một mô phỏng nhanh trên laptop.
But let's say what we had was a bunch of xy pairs in the plane for observations where we have actually seen this particular planet. This is our data.
Giả sử ta có một loạt cặp xy trong mặt phẳng, là các lần quan sát mà ta đã thực sự thấy hành tinh này. Đây là dữ liệu của chúng ta.
In the machine learning context, one might think of this as training data. We have some xy pairs that are given to us.
Trong bối cảnh machine learning, ta có thể coi đây là training data. Ta được cho một số cặp xy.
We want to predict future paths of this given this data. And so I have this planet data. And I can plot it. And I want to say, let's say, I've observed this over time.
Ta muốn dự đoán quỹ đạo tương lai từ dữ liệu này. Vậy tôi có dữ liệu hành tinh này. Và tôi có thể vẽ nó ra. Giả sử tôi đã quan sát nó theo thời gian.
And I want to figure out where here exactly I can actually make a prediction. But how do I go about doing this? Like how is this even connected to least squares?
Và tôi muốn biết chính xác ở đâu tôi có thể đưa ra dự đoán. Nhưng làm thế nào để làm việc này? Việc này liên quan gì đến bình phương tối thiểu?
We can do this. And I'm telling you we can do this. But there's a bunch of steps between how to start doing this and where to go.
Ta làm được việc này. Tôi nói là ta làm được. Nhưng có một loạt bước giữa lúc bắt đầu và đích đến.
So for this, first, we should say that we know that the planet will have an elliptical orbit.
Trước hết, ta nên nói rằng ta biết hành tinh có quỹ đạo elip.
And we know what the equation of an ellipse is.
Và ta biết phương trình của một elip.
So if I have these xy pairs, I know they're basically following some path, such as ax squared plus by squared plus cxy plus dx plus e equal to 1.
Nên nếu có các cặp xy này, ta biết chúng đi theo một đường nào đó, chẳng hạn ax bình phương cộng by bình phương cộng cxy cộng dx cộng e bằng 1.
This is just the general equation for an ellipse.
Đây chỉ là phương trình tổng quát của một elip.
So every one of these points, we think should satisfy this equation.
Vậy mỗi điểm này, ta cho rằng đều phải thỏa mãn phương trình này.
So we have some information. We have this model effectively of where we think this data is coming from.
Vậy ta có một ít thông tin. Về cơ bản ta có mô hình này về nơi mà ta nghĩ dữ liệu đến từ đó.
And we want to basically identify what the model is in order to be able to make a prediction. So when I look at this equation, what do we know?
Và ta muốn xác định mô hình là gì để có thể đưa ra dự đoán. Nhìn phương trình này, ta biết gì?
What do we not know? Is this a linear equation? Can I just use Gaussian elimination somehow to magically produce what I want to do? You know, take a minute to think about this.
Ta không biết gì? Đây có phải phương trình tuyến tính không? Tôi có thể dùng phép khử Gauss bằng cách nào đó để thần kỳ ra được cái tôi muốn không? Hãy dành một phút suy nghĩ.
Think about assuming you know this, assuming you have this data, how can you try to put this together to make this into a problem that is actually solvable by the techniques that we've thought about so far.
Hãy nghĩ là giả sử bạn biết điều này, giả sử bạn có dữ liệu này, bạn có thể ghép chúng lại thế nào để biến nó thành một bài toán giải được bằng các kỹ thuật mà ta đã học đến giờ.
Just take a minute to think about, and then we'll do it together. Feel free to talk to each other. Discuss.
Cứ dành một phút nghĩ về nó, rồi ta sẽ cùng làm. Cứ thoải mái trao đổi với nhau. Thảo luận đi.
If you talking to the neighbor on your right the last time, make sure you talk to the neighbor on your left. We want to make sure everyone in the class feels welcome and included.
Lần trước nếu bạn nói chuyện với người bên phải, thì lần này hãy nói chuyện với người bên trái. Chúng tôi muốn mọi người trong lớp đều cảm thấy được chào đón và hòa nhập.
[INTERPOSING VOICES] GIREEJA RANADA: So how many people
[NHIỀU GIỌNG NÓI XEN VÀO NHAU] GIREEJA RANADA: Vậy có bao nhiêu bạn
have some kind of maybe idea? Does anyone have any idea that they might want to share with everyone on how to proceed? Someone who hasn't spoken yet. Yeah.
đã có chút ý tưởng nào đó? Có bạn nào có ý tưởng muốn chia sẻ về cách tiến hành không? Một bạn chưa phát biểu. Vâng.
STUDENT
Can we use all of our xy points to generate a set of linear equations using our variables, being a, b, c, d, e?
Ta có thể dùng tất cả các điểm xy để tạo ra một hệ phương trình tuyến tính theo các biến a, b, c, d, e không ạ? là a, b, c, d, e?
GIREEJA RANADA
Yeah, can we somehow use our data points to generate a set of linear equations that we can solve? That's the idea. And how do we get about this idea?
Đúng, ta có thể dùng các điểm dữ liệu để tạo ra một hệ phương trình tuyến tính mà ta giải được không? Đó chính là ý tưởng. Vậy làm sao thực hiện ý tưởng này?
So let's look at this equation. What do we know? What do we have given to us?
Hãy nhìn phương trình này. Ta biết gì? Ta được cho những gì?
We have known — we have, let's say, these pairs of points, x1, y1, x2, y2, so on and so forth.
Ta biết, giả sử, các cặp điểm này, x1, y1, x2, y2, và cứ thế.
Do we know exactly what the equation of this ellipse is? We don't know what this equation is. So what are the unknowns?
Ta có biết chính xác phương trình của elip này không? Ta không biết phương trình này. Vậy ẩn số là gì?
The unknowns are the coefficients, a, b, c, d, and e.
Ẩn số là các hệ số a, b, c, d và e.
I want to find the equation of this ellipse. The equation of this ellipse is defined by its coefficients.
Tôi muốn tìm phương trình của elip này. Phương trình của elip này được xác định bởi các hệ số của nó.
So when I look at this equation, is this equation linear in x and y? No, it has quadratic terms. But is it linear in a?
Nhìn phương trình này, nó có tuyến tính theo x và y không? Không, nó có các số hạng bậc hai. Nhưng nó có tuyến tính theo a không?
It is linear in a. It is linear in b. It is linear in e. It is linear and all of these things.
Nó tuyến tính theo a. Nó tuyến tính theo b. Nó tuyến tính theo e. Nó tuyến tính theo tất cả những thứ này.
And turns out that's linear in the stuff that we don't know. And it has some nonlinear quadratic terms. But we have a data set that gives us what x and y are.
Và hóa ra nó tuyến tính theo những thứ mà ta chưa biết. Và nó có một số số hạng bậc hai phi tuyến. Nhưng chúng ta có một tập dữ liệu cho biết x và y là bao nhiêu.
Like the fact that there are some quadratic terms there, doesn't bother us at all. So what we're going to do is we're going to set this up now as a least squares problem.
Việc có một số số hạng bậc hai ở đó hoàn toàn không gây trở ngại gì cho chúng ta. Vậy bây giờ chúng ta sẽ thiết lập đây thành một bài toán bình phương tối thiểu.
So I'm going to write my vector of unknowns, which is basically a, b, c, d, e.
Tôi sẽ viết vectơ các ẩn số, mà về cơ bản là a, b, c, d, e.
And I'm going to try and write this now as a linear equation. So let's say I have my vector of unknowns here, a, b, c, d, e.
Và tôi sẽ thử viết nó thành một phương trình tuyến tính. Giả sử tôi có vectơ các ẩn số ở đây: a, b, c, d, e.
a gets multiplied by x squared. So let's say I have this data point x1, y1, and I plug it in.
a được nhân với x bình phương. Giả sử tôi có điểm dữ liệu x1, y1 và thay vào.
That gives me the equation basically ax1 squared plus by1 squared plus cx1, y1 plus dx1 plus ey1 equal to 1.
Ta được phương trình: a nhân x1 bình phương cộng b nhân y1 bình phương cộng c nhân x1 y1 cộng d nhân x1 cộng e nhân y1 bằng 1.
And remember here, x1, y1 are all known. So now, I can write this here if I want to try to do this.
Và nhớ rằng ở đây x1, y1 đều đã biết. Bây giờ tôi có thể viết nó ra như thế này.
I can say x1 squared y1 squared x1, y1, x1, y1.
Tôi viết x1 bình phương, y1 bình phương, x1 y1, x1, y1.
My first data point makes up the first row of a matrix here. If I have a second data point, can I write a second equation here for x2, y2?
Điểm dữ liệu đầu tiên tạo nên hàng đầu tiên của ma trận. Nếu có điểm dữ liệu thứ hai, tôi có thể viết phương trình thứ hai cho x2, y2 không?
So I can write x2 squared y2 squared x2, y2, x2, y2.
Tôi viết x2 bình phương, y2 bình phương, x2 y2, x2, y2.
And if I have n different data points, I can write xn squared yn squared xn, yn.
Và nếu có n điểm dữ liệu khác nhau, tôi viết xn bình phương, yn bình phương, xn yn, xn, yn.
And now I want to write this is equal to something.
Và bây giờ tôi muốn viết cái này bằng một thứ gì đó.
What is this equal to? Yeah.
Nó bằng gì? Vâng, mời em.
STUDENT
Should the last column say [INAUDIBLE] GIREEJA RANADA: Should what?
Cột cuối cùng có nên là [KHÔNG NGHE RÕ] GIREEJA RANADA: Nên là gì cơ?
STUDENT
Should the last column, be like [INAUDIBLE] GIREEJA RANADA: Why would it be that? Because I'm taking y1 times e. And so, no, I don't think so.
Cột cuối cùng có nên là [KHÔNG NGHE RÕ] GIREEJA RANADA: Tại sao lại như vậy? Vì tôi lấy y1 nhân với e. Nên không, tôi nghĩ là không.
[INTERPOSING VOICES] GIREEJA RANADA: Where?
[NHIỀU NGƯỜI NÓI CHEN] GIREEJA RANADA: Ở đâu?
[INTERPOSING VOICES] GIREEJA RANADA: Oh, it should be ey, sorry. That's just a typo here.
[NHIỀU NGƯỜI NÓI CHEN] GIREEJA RANADA: À, phải là ey, xin lỗi. Đó chỉ là lỗi đánh máy ở đây.
The equation of an ellipse, so it's symmetric in x and y. You have a quadratic term in x, quadratic term in y, the cross term, linear term in x, linear term in y.
Phương trình của một ellipse thì đối xứng theo x và y. Có số hạng bậc hai theo x, số hạng bậc hai theo y, số hạng chéo, số hạng tuyến tính theo x, số hạng tuyến tính theo y.
This is e times y. This is just a typo.
Đây là e nhân y. Đây chỉ là lỗi đánh máy.
But since you're thinking about a column of 1s, what's the thing that's going to go on the right-hand side?
Nhưng vì em đang nghĩ đến một cột toàn số 1, vậy vế phải sẽ là gì?
STUDENT
1.
1.
GIREEJA RANADA
Column of 1s, right?
Một cột toàn số 1, đúng không?
So now, I have a linear equation. I have basically this is my matrix A. This is my unknown vector x. This is my vector b.
Vậy bây giờ ta có một phương trình tuyến tính. Về cơ bản đây là ma trận A của tôi. Đây là vectơ ẩn x. Đây là vectơ b.
So let's actually do it. So I have this. And I'm going to now build this A now.
Vậy ta làm thử nhé. Tôi có cái này. Và bây giờ tôi sẽ xây dựng ma trận A này.
And what am I saying, I'm saying, basically take the x component squared, the xy component, the y component squared, the x component, and the y component.
Tôi đang nói rằng, lấy thành phần x bình phương, thành phần xy, thành phần y bình phương, thành phần x, và thành phần y.
That's what this A is being made up of. And I'm just stacking them up. My b, as we talked about, is just a column full of 1s.
Đó là những gì tạo nên A này. Và tôi chỉ xếp chúng chồng lên nhau. Còn b, như đã nói, chỉ là một cột toàn số 1.
And then I'm going to do least squares on this.
Rồi tôi sẽ làm bình phương tối thiểu trên đó.
I do least squares. I get my x out. And I expect x to have length 5. So I pull out all of the entries of x.
Tôi chạy bình phương tối thiểu. Tôi nhận được x. Và ta kỳ vọng x có độ dài 5. Tôi lấy ra tất cả các phần tử của x.
And then I look at A times x, right? Because, remember, I want to find the approximation of vector b. And A times x is the approximation of vector b.
Rồi tôi xét A nhân x, đúng không? Vì nhớ rằng, tôi muốn tìm xấp xỉ của vectơ b. Và A nhân x chính là xấp xỉ của vectơ b.
What is vector b? We expect to b to be a vector of 1s.
Vectơ b là gì? Ta kỳ vọng b là một vectơ toàn số 1.
So if I take this x that I got out of the least squares equation and I multiply it by A, what do I get here? I'm hoping for a vector of 1s.
Vậy nếu tôi lấy x thu được từ phương trình bình phương tối thiểu và nhân với A, tôi sẽ được gì? Tôi hy vọng được một vectơ toàn số 1.
What do I actually get?
Thực tế tôi được gì?
STUDENT
Approximate.
Xấp xỉ.
GIREEJA RANADA
I get an approximate vector of 1s. So this is not going to give me the exact solution, but it's pretty good.
Tôi được một vectơ xấp xỉ toàn số 1. Nên nó không cho nghiệm chính xác, nhưng khá tốt.
And then I do some like code to plot stuff. And that's something — it's not very interesting. But then, basically plotting this equation, what do I get?
Sau đó tôi viết một đoạn code để vẽ đồ thị. Phần đó không có gì thú vị lắm. Nhưng khi vẽ phương trình này, ta được gì?
This is basically using what we figured out. We're basically plotting the equation of the ellipse using these least squares solutions to plot this blue curve.
Về cơ bản là dùng những gì ta vừa tìm ra. Ta vẽ phương trình của ellipse bằng nghiệm bình phương tối thiểu để ra đường cong màu xanh này.
And as you can see, the red points aren't exactly on the curve, but this is a pretty good prediction.
Và như các em thấy, các điểm đỏ không nằm chính xác trên đường cong, nhưng đây là một dự đoán khá tốt.
So if you are to predict where the planet would be, you would probably predict that it's going to move along this blue line. And that's a pretty good way to do it.
Nếu phải dự đoán hành tinh sẽ ở đâu, các em có lẽ sẽ dự đoán là nó sẽ di chuyển dọc theo đường xanh này. Và đó là một cách làm khá tốt.
So this, believe it or not — like really think about this — this was done in 1801. We talk about machine learning as though it was invented today.
Tin hay không thì tùy, hãy thử nghĩ kỹ xem, việc này được làm từ năm 1801. Ta nói về machine learning như thể nó mới được phát minh hôm nay.
But this was done in 1801 without any computers. And this basic fundamental mathematics is what really forms the heart of a lot of the algorithms that we're building out today.
Nhưng việc này đã được làm năm 1801, khi chưa có máy tính. Và phần toán học cơ bản này chính là cốt lõi của rất nhiều thuật toán mà ngày nay ta đang xây dựng.
So when we have a matrix like this where we have this column of x squared, this column of y squared, in machine learning jargon these are often called polynomial features.
Khi ta có một ma trận như thế này, với một cột x bình phương, một cột y bình phương, trong thuật ngữ machine learning chúng thường được gọi là polynomial features.
So if you take classes like 127 or 189, you'll encounter this terminology. We're not going to go into it very much in this class.
Nếu các em học các lớp như 127 hay 189, các em sẽ gặp thuật ngữ này. Trong lớp này ta sẽ không đi sâu vào nó.
But you should know that you're learning the fundamentals for a lot of major modern algorithms.
Nhưng các em nên biết rằng mình đang học nền tảng của rất nhiều thuật toán hiện đại quan trọng.
Okay, so any questions on what just happened? And pause for a minute. Is everyone with me here?
Được rồi, có câu hỏi nào về những gì vừa xảy ra không? Tôi dừng một chút. Mọi người theo kịp chưa?
Yes, question.
Vâng, mời em hỏi.
STUDENT
It wasn't it an issue that x and y were squared in the equation because they were known?
Việc x và y bị bình phương trong phương trình không phải là vấn đề vì chúng đã biết sao ạ? Việc x và y bị bình phương trong phương trình không phải là vấn đề vì chúng đã biết sao ạ?
GIREEJA RANADA
Exactly, it wasn't an issue that there were squares because we basically computed those values.
Chính xác, việc có bình phương không phải vấn đề vì ta đã tính sẵn các giá trị đó.
If you look at the code here — I guess here I can even print A, right?
Nếu em nhìn vào code ở đây — tôi nghĩ ở đây tôi còn có thể in A ra, đúng không?
I'll just add a cell and say A. These are basically the values. This is the first column of this matrix A is all x squares.
Em thêm một cell và gõ A. Đây chính là các giá trị đó. Cột đầu tiên của ma trận A này toàn là các giá trị x bình phương.
But they're numbers because we know those data points. Yeah.
Nhưng chúng là những con số, vì ta biết các điểm dữ liệu. Vâng.
STUDENT
Is the idea behind having more equations necessary, like if we have 22 versus a bare minimum of 5, we'll have more accurate ellipses?
Việc có nhiều phương trình hơn có cần thiết không ạ, ví dụ nếu có 22 phương trình thay vì tối thiểu 5, thì ta sẽ có các ellipse chính xác hơn?
GIREEJA RANADA
Exactly, exactly. If we have more equations, then we are not going to be super affected by a particularly bad noise realization on a particular point. You might have heard of this term called outliers.
Đúng vậy. Nếu có nhiều phương trình hơn thì ta sẽ không bị ảnh hưởng quá nhiều bởi một lần nhiễu quá xấu tại một điểm cụ thể. Có thể các em đã nghe thuật ngữ outlier (điểm ngoại lai).
Outliers are sometimes when you have a lot of data points and some points don't really follow the trend. And you sometimes don't want these to affect your model too terribly.
Outlier là khi bạn có nhiều điểm dữ liệu và có vài điểm không theo xu hướng chung. Và đôi khi ta không muốn những điểm này ảnh hưởng đến mô hình quá nhiều.
So if you have more points, these weird points can be ignored and won't affect your model too much.
Nên nếu có nhiều điểm hơn, những điểm kỳ lạ này có thể bị bỏ qua và không ảnh hưởng nhiều đến mô hình.
Of course, how to really do this is a full series of multiple course, all the way up into grad school. We're not going to go into all of that in this class.
Tất nhiên, cách làm thật sự là cả một chuỗi nhiều môn học, kéo dài đến tận bậc sau đại học. Lớp này sẽ không đi vào hết những điều đó.
It's out of scope. Yeah.
Nó nằm ngoài phạm vi. Vâng.
STUDENT
Does time affect our data?
Thời gian có ảnh hưởng đến dữ liệu không ạ?
Because like a lot of [INAUDIBLE] are very concentrated in one area of the [INAUDIBLE] GIREEJA RANADA: So it's possible to have good and bad properties of data.
Vì nhiều [KHÔNG NGHE RÕ] tập trung rất nhiều ở một vùng của [KHÔNG NGHE RÕ] GIREEJA RANADA: Dữ liệu có thể có tính chất tốt hoặc xấu. của dữ liệu.
There's also notions around how to think about whether your data is good or not. Right now, we're not going to think about most of this.
Cũng có những khái niệm để nghĩ về việc dữ liệu của bạn tốt hay không. Hiện giờ ta sẽ không xét phần lớn những điều này.
When you go to upper division classes, you'll learn about things like condition numbers and things like that. And that'll help you understand those questions a little bit more.
Khi lên các lớp chuyên ngành, các em sẽ học về condition number (số điều kiện) và những thứ tương tự. Và nó sẽ giúp các em hiểu những câu hỏi đó rõ hơn một chút.
Yeah. But that's completely out of scope for us right now. So next year, you'll figure it out. Other questions?
Vâng. Nhưng hiện giờ điều đó hoàn toàn nằm ngoài phạm vi của ta. Năm sau các em sẽ biết thôi. Còn câu hỏi nào khác không?
Okay, so now we've done this problem where we've thought about fitting an ellipse to data and trying to predict using this quadratic equation essentially.
Vậy là ta đã làm xong bài toán khớp một ellipse với dữ liệu và dự đoán bằng phương trình bậc hai này.
But if we can do this for a general quadratic equation, we can probably do it for a lot more other kinds of polynomials. This same trick will work.
Nhưng nếu làm được với phương trình bậc hai tổng quát, thì chắc ta cũng làm được với nhiều loại đa thức khác. Mẹo này vẫn dùng được.
And this brings us to linear — oh, no, sorry, I still want to use that — linear regression.
Và điều này đưa ta đến linear — ồ không, xin lỗi, em vẫn muốn dùng cái đó — hồi quy tuyến tính (linear regression).
So how many of you have seen a plot like this sometime in your life?
Có bao nhiêu bạn đã từng thấy đồ thị như thế này trong đời?
There is a — question?
Có một câu hỏi?
STUDENT
[INAUDIBLE] GIREEJA RANADA: You've seen this [INAUDIBLE] before, very good. So let us step back for a moment and study exactly what this plot is saying. What is the x-axis on the blue plot?
[KHÔNG NGHE RÕ] GIREEJA RANADA: Em đã thấy cái này [KHÔNG NGHE RÕ] rồi, tốt lắm. Ta hãy lùi lại một chút và xem chính xác đồ thị này nói gì. Trục x của đồ thị màu xanh là gì?
It says how long you've been awake. The y-axis says, well, how good is your performance? As you're awake for longer and you don't sleep, what happens to your performance?
Là bạn đã thức bao lâu. Trục y là hiệu suất của bạn tốt đến đâu. Khi bạn thức lâu hơn mà không ngủ, hiệu suất của bạn thay đổi thế nào?
STUDENT
[INAUDIBLE] GIREEJA RANADA: It has a negative slope. What does this suggest about what you should be doing the week before or the month before or the year before an exam?
[KHÔNG NGHE RÕ] GIREEJA RANADA: Nó có độ dốc âm. Điều này gợi ý các em nên làm gì trong tuần trước, tháng trước hoặc năm trước một kỳ thi?
[INTERPOSING VOICES] GIREEJA RANADA: You should be sleeping. Don't stay up all night and don't get sick.
[NHIỀU NGƯỜI NÓI CHEN VÀO] GIREEJA RANADA: Các em nên ngủ. Đừng thức trắng đêm và đừng để bị ốm.
But as you can see, what this plot is showing in particular is that, in fact, you can also compare blood alcohol concentration to performance.
Nhưng như các em thấy, đồ thị này đặc biệt cho thấy là bạn cũng có thể so sánh nồng độ cồn trong máu với hiệu suất.
What kind of score curve do you see there? In fact, you can see that both these curves are quite similar.
Các em thấy đường điểm số ở đó thế nào? Thực ra, cả hai đường cong này khá giống nhau.
But when you look at this, you might have heard people talk about these kinds of graphs and say that, oh, there is a linear trend.
Nhưng khi nhìn vào đây, có thể các em đã nghe người ta nói về những đồ thị này rằng, ồ, có một xu hướng tuyến tính.
And, oh, let's try and understand what this trend is. And how did people, like when someone writes a scientific paper like this, where does this line come from?
Và, ồ, hãy thử hiểu xu hướng này là gì. Vậy người ta, như khi ai đó viết một bài báo khoa học như thế này, đường thẳng này từ đâu ra?
How do they know to draw this line and not a slightly different line? There's like different lines that could potentially fit this data. Why did they pick this line?
Làm sao họ biết vẽ đường này mà không phải một đường hơi khác? Có nhiều đường khác nhau có thể khớp với dữ liệu này. Tại sao họ chọn đường này?
This line is coming from least squares.
Đường này đến từ bình phương tối thiểu.
And so now, let's figure out exactly how we can do a linear regression problem using least squares. So we have, let's say, some data.
Và bây giờ, ta hãy xem chính xác làm sao giải bài toán hồi quy tuyến tính bằng bình phương tối thiểu. Giả sử ta có một ít dữ liệu.
I have some points here. And I want to figure out, what is the trend here? This line or this line or this line? Which line am I supposed to pick?
Em có vài điểm ở đây. Và em muốn tìm xem xu hướng ở đây là gì? Đường này, đường này hay đường này? Em phải chọn đường nào?
So what is the equation of a line? I know that y is equal to m times x plus c is the equation of a line. And I want to find, let's say, the trend.
Phương trình của một đường thẳng là gì? Em biết y bằng m nhân x cộng c là phương trình của một đường thẳng. Và em muốn tìm xu hướng.
And so I'm given basically data points, x1, y1. x1 is, let's say, how long you slept. y1 is your performance. x2 is another day where how much you slept.
Em được cho các điểm dữ liệu, x1, y1. Giả sử x1 là bạn đã ngủ bao lâu, y1 là hiệu suất của bạn. x2 là một ngày khác, lượng bạn đã ngủ.
y2 is the performance related to that, so on and so forth. You have xn, yn.
y2 là hiệu suất tương ứng, và cứ thế tiếp tục. Bạn có xn, yn.
You have all of these different data points. Can we use the same idea that we did for the ellipse here?
Bạn có tất cả những điểm dữ liệu khác nhau này. Ta có thể dùng cùng ý tưởng như với ellipse ở đây không?
So now, I have, again, what is known to me here?
Vậy bây giờ, một lần nữa, ở đây ta biết gì?
The x's and y's are what are known to me. This is my data.
Các x và y là những gì ta biết. Đây là dữ liệu của ta.
If I want to figure out the line of best fit, my m and my c are my unknowns.
Nếu muốn tìm đường thẳng khớp nhất, m và c là các ẩn số.
Find the line of best fit.
Tìm đường thẳng khớp nhất.
So now, I can say, well, y1 is equal to m times x1 plus c1. y2 is equal to m times x2 plus c2, and so on.
Vậy bây giờ, y1 bằng m nhân x1 cộng c1. y2 bằng m nhân x2 cộng c2, và cứ thế.
I can make now a vector of my unknowns, which is mc.
Bây giờ em có thể lập một vectơ các ẩn số, là mc.
And I can write this, again, as a matrix equation, where the first column here is x1, x2, xn. The second column here is going to be a column full of 1s.
Và em có thể viết lại thành một phương trình ma trận, trong đó cột đầu tiên là x1, x2, xn. Cột thứ hai sẽ là một cột toàn số 1.
And this is going to be equal to y1, y2, all the way up to yn.
Và cái này sẽ bằng y1, y2, cho đến yn.
Yeah?
Có câu hỏi không?
STUDENT
So are there different c's? Why GIREEJA RANADA: Are there different c's? There aren't. There is only one c.
Vậy các c có khác nhau không? Tại sao GIREEJA RANADA: Các c có khác nhau không? Không. Chỉ có một c thôi.
Oh sorry, I apologize, good point. This is just.
À xin lỗi, em nói đúng. Cái này chỉ là.
There's only one c. There's one slope, one intercept. So I have y1 is equal to mx1 plus c. y2 is equal to xm2 plus c.
Chỉ có một c. Một hệ số góc, một tung độ gốc. Vậy y1 bằng m x1 cộng c. y2 bằng m x2 cộng c.
And so m times x1 plus c is equal to y1. I'm just rewriting these equations in matrix vector format.
Và m nhân x1 cộng c bằng y1. Tôi chỉ viết lại các phương trình này dưới dạng ma trận và vectơ.
This now becomes my A matrix. This is my x vector. This is my vector b.
Đây giờ là ma trận A của tôi. Đây là vectơ x. Đây là vectơ b.
So if, let's say, I do an experiment, I gather a bunch of data points, and I want to figure out what is the line of best fit, I'm going to put them into a format like this.
Giả sử tôi làm một thí nghiệm, thu thập một loạt điểm dữ liệu, và tôi muốn tìm đường thẳng khớp nhất, thì tôi sẽ đưa chúng về dạng như thế này.
And the m and the c that this is going to pop out, that least squares is going to pop out is what is going to give me the line that is the best fitting line.
Và m và c mà bình phương tối thiểu cho ra chính là đường thẳng khớp nhất với dữ liệu.
Yes, question?
Em hỏi đi?
STUDENT
Do you have to [INAUDIBLE] output of the b squared [INAUDIBLE] So that's going to give you a vector [INAUDIBLE] or is it just [INAUDIBLE] GIREEJA RANADA: So that will give you basically m and c.
Có phải [KHÔNG NGHE RÕ] đầu ra của b bình phương [KHÔNG NGHE RÕ] Vậy nó sẽ cho một vectơ [KHÔNG NGHE RÕ] hay chỉ là [KHÔNG NGHE RÕ] GIREEJA RANADA: Nó sẽ cho em m và c.
x will give you m and c. So now, if you want to actually draw the line, you actually know how to plot this line, right?
x sẽ cho em m và c. Giờ nếu muốn vẽ đường thẳng, em biết cách vẽ rồi đúng không?
Yeah, the answer, basically once you have the m and, you can plot things or represent them in however you want.
Đúng, khi đã có m và c, em có thể vẽ hay biểu diễn theo cách nào tùy em.
Okay, so another place where people really, really want to take data and analyze trends, as you can imagine, is not just in scientific studies, but in particular, people want to analyze things in the stock market.
Được rồi, một nơi khác mà người ta rất muốn lấy dữ liệu và phân tích xu hướng, như các em tưởng tượng, không chỉ là trong nghiên cứu khoa học, mà đặc biệt là người ta muốn phân tích thị trường chứng khoán.
People really would love to be able to have a great prediction algorithm for what the stock price of a particular company is going to be tomorrow, day after, two weeks from now.
Người ta rất muốn có một thuật toán dự đoán tuyệt vời cho giá cổ phiếu của một công ty vào ngày mai, ngày kia, hai tuần nữa.
If any of you knew exactly how to do this, you probably want to start a company soon. But this is a pretty hard thing. We know that we're not particularly good at this.
Nếu ai trong các em biết chính xác cách làm, chắc nên lập công ty sớm đi. Nhưng việc này khá khó. Chúng ta biết là mình không giỏi việc này lắm.
But, again, when people talk about making financial models, when people talk about modeling prediction, are they doing exactly least squares? Probably not.
Nhưng khi người ta nói về xây dựng mô hình tài chính, về mô hình dự đoán, họ có dùng đúng bình phương tối thiểu không? Có lẽ không.
But are they building on the fundamental principles of least squares? Almost certainly yes.
Nhưng họ có xây dựng trên các nguyên lý cơ bản của bình phương tối thiểu không? Gần như chắc chắn là có.
So here, what I'm showing is this is actually a plot of the Facebook data, stock, at some point, I think, in 2016.
Ở đây tôi cho xem biểu đồ dữ liệu cổ phiếu Facebook, vào một thời điểm nào đó, tôi nghĩ là năm 2016.
And this is the stock price — I forget exactly what the months were for this — but if you wanted to predict what the price of the Facebook stock was going to be, one thing that you might reasonably want to do is you might say that, well, this kind of looks like a linear trend.
Và đây là giá cổ phiếu, tôi không nhớ chính xác là những tháng nào, nhưng nếu muốn dự đoán giá cổ phiếu Facebook sẽ là bao nhiêu, một điều hợp lý là các em có thể nói rằng nhìn có vẻ như một xu hướng tuyến tính.
Let me try and fit a line to it. And so what this code is doing here is it's basically saying, well, let me make my A matrix.
Thử khớp một đường thẳng vào đó. Đoạn code này về cơ bản làm như sau: tạo ma trận A.
This A matrix has the first column, which is the x's here.
Cột đầu của ma trận A là các x ở đây.
And this is just the time of when I am looking at the data.
Đó chính là thời gian của thời điểm tôi xem dữ liệu.
The second column is just a column of 1s, because that's how we have set it up for a line. And the b vector is actually the stock price on that particular date.
Cột thứ hai chỉ là một cột toàn số 1, vì chúng ta thiết lập như vậy cho một đường thẳng. Còn vectơ b chính là giá cổ phiếu vào ngày đó.
So the x is the date. The b vector is actually the stock price just given our equations. Does everyone see how this is exactly mapping to those equations?
Vậy x là ngày. Vectơ b là giá cổ phiếu, đúng theo các phương trình của chúng ta. Mọi người có thấy nó khớp đúng với các phương trình đó không?
Then I can call basically least squares on this.
Rồi tôi gọi bình phương tối thiểu trên đó.
And I can say, well, now if I want to basically figure out what this line is, I'm going to take the m and the c that my least squares algorithm recovered and plot this line.
Và giờ nếu muốn tìm đường thẳng này, tôi lấy m và c mà thuật toán bình phương tối thiểu tìm được rồi vẽ đường thẳng.
And this is the line of best fit I get.
Và đây là đường thẳng khớp nhất tôi có.
And maybe I could extrapolate that, okay, if I have this line, I can say, well, what is the prediction at day 61, day 62, day 63?
Có thể tôi ngoại suy rằng, nếu có đường thẳng này, thì dự đoán ở ngày 61, 62, 63 là gì?
Maybe it's going to be points exactly along this line. Do I know this for sure? Probably not. Do I suggest any of you do this?
Có thể là các điểm nằm đúng trên đường này. Tôi có chắc điều này không? Có lẽ không. Tôi có khuyên ai trong các em làm vậy không?
Definitely not. But it's worth exploring. So here's another graph.
Chắc chắn là không. Nhưng cũng đáng để khám phá. Đây là một đồ thị khác.
This is actually looking at Snapchat stock prices. And as you can see, this was in the past year.
Đây là giá cổ phiếu Snapchat. Và như các em thấy, đây là trong năm vừa qua.
So as you can see, there's like some part of a linear trend. And then maybe not so much of a linear trend.
Như các em thấy, có một phần là xu hướng tuyến tính. Rồi sau đó thì không còn tuyến tính lắm.
So I could try to fit a line to this, but it's doing a pretty bad job at prediction. It's not doing as good of a job.
Tôi có thể thử khớp một đường thẳng vào đây, nhưng dự đoán khá tệ. Nó không tốt bằng.
So maybe this is something that, you know, is really not something exactly that one wants to do. I'm not going to go into the details of how we're doing this here.
Có lẽ đây là việc mà, bạn biết đấy, không hẳn là điều mình nên làm. Tôi sẽ không đi vào chi tiết cách chúng ta làm ở đây.
But you can see that this is kind of a line that maybe it's not really a line. Maybe it's better predicted by a higher degree polynomial or something else.
Nhưng các em thấy đây là một đường thẳng mà có lẽ thật ra không phải đường thẳng. Có lẽ dự đoán tốt hơn bằng đa thức bậc cao hơn hoặc thứ gì khác.
Maybe I want to use some other kind of model. So I have this data here.
Có lẽ tôi muốn dùng một loại mô hình khác. Vậy tôi có dữ liệu này.
And what this function is doing is it's basically saying, well, maybe I can instead of fitting here, we set it up so that we're fitting a line.
Và hàm này về cơ bản đang nói rằng, có lẽ thay vì khớp ở đây, ta thiết lập để khớp một đường thẳng.
But as you saw with the ellipse, we could set this up so that we're predicting with a quadratic. That was a bivariate quadratic. We could use a univariate quadratic, in this case.
Nhưng như các em đã thấy với ellipse, ta có thể thiết lập để dự đoán bằng một hàm bậc hai. Đó là hàm bậc hai hai biến. Trường hợp này ta có thể dùng hàm bậc hai một biến.
We could use a cubic. We could use a quartic equation. We could use all kinds of things. We could use cosines of the data points or sines.
Ta có thể dùng đa thức bậc ba. Hoặc đa thức bậc bốn. Ta có thể dùng đủ thứ. Ta có thể dùng cosin hay sin của các điểm dữ liệu.
We could use many, many different kind of transformations and use this same trick. And this trick is used all the time in all kinds of machine learning algorithms.
Ta có thể dùng rất nhiều loại phép biến đổi khác nhau mà vẫn dùng đúng mẹo này. Và mẹo này được dùng liên tục trong đủ loại thuật toán machine learning.
So what I'm going to do here is that, well, if I say that I want to predict with degree 1, this is the line that I get. And it's something.
Vậy bây giờ em sẽ làm thế này: nếu dự đoán với bậc 1, thì đây là đường thẳng ta nhận được. Cũng tạm được.
But let's say I wanted to try and fit a quadratic equation to it. Hm, it kind of does a lot better, right? So maybe there's some kind of quadratic trend going on around here.
Nhưng giả sử ta muốn thử khớp một đa thức bậc hai. Ồ, khớp tốt hơn nhiều đúng không? Có thể có một xu hướng bậc hai nào đó quanh đây.
Well, let's see what happens as I extrapolate this out. This is my quadratic prediction. This is my actual stock price. Again, do I recommend you do this?
Giờ hãy xem điều gì xảy ra khi ta ngoại suy ra xa hơn. Đây là dự đoán bậc hai của tôi. Đây là giá cổ phiếu thực tế. Tôi có khuyên các bạn làm thế này không?
No. But it's kind of fun to play around with and kind of interesting to try.
Không. Nhưng chơi thử cũng vui và khá thú vị.
So it gives you a sense for when people talk about doing financial prediction or any kind of prediction using any kind of data, they're not doing exactly this.
Nó cho các bạn hình dung rằng khi người ta nói về dự đoán tài chính hay bất kỳ dự đoán nào dựa trên dữ liệu, họ không làm y hệt thế này.
But this is really the spirit of the kind of thing that they're trying to do.
Nhưng đây đúng là tinh thần của việc mà họ đang cố làm.
Any questions on any of this so far?
Đến giờ có câu hỏi nào không?
Okay, so now that we've seen some cool applications, and we've decided that we're not going to try and get rich quick, let us go back to getting rich the usual way, which is by doing a lot of mathematics.
Được rồi, vậy là ta đã thấy vài ứng dụng hay, và ta quyết định không cố làm giàu nhanh nữa, hãy quay lại cách làm giàu thông thường, tức là làm thật nhiều toán.
Could I have both the doc comes back actually? Thank you.
Cho tôi xin lại camera tài liệu được không? Cảm ơn.
So we have this least squares algorithm. This least squares algorithm, it's obviously quite powerful and can be used for a lot of different things.
Ta có thuật toán bình phương tối thiểu này. Thuật toán này rõ ràng rất mạnh và dùng được cho nhiều việc khác nhau.
But we had this caveat that we talked about last time. We had x hat is equal to A transpose A inverse A transpose b.
Nhưng có một lưu ý mà ta đã nói hôm trước. Ta có x mũ bằng A chuyển vị A, nghịch đảo, nhân A chuyển vị b.
And we said, well, A transpose A is a very nice square matrix, but does that mean that we can always invert it?
Ta nói A chuyển vị A là một ma trận vuông rất đẹp, nhưng liệu lúc nào cũng nghịch đảo được không?
No. A transpose A might not be invertible. And how do we get around that? Like what happens to the least squares algorithm?
Không. A chuyển vị A có thể không khả nghịch. Vậy ta xử lý thế nào? Thuật toán bình phương tối thiểu sẽ ra sao?
And fundamentally least squares can fail if A transpose A is non-invertible.
Về cơ bản, bình phương tối thiểu có thể thất bại nếu A chuyển vị A không khả nghịch.
So we want to understand really what cases give us the situation where A transpose A actually doesn't have an inverse.
Nên ta muốn hiểu chính xác những trường hợp nào dẫn đến tình huống A chuyển vị A không có nghịch đảo.
We want to understand this a little bit better, because that tells us when our algorithm is going to work and when we're going to say, well, you know, we plugged it in and basically Python's going to give you some kind of error.
Ta muốn hiểu rõ hơn điều này, vì nó cho biết khi nào thuật toán chạy được và khi nào ta sẽ thấy, bạn biết đấy, ta nhập vào và Python sẽ báo một lỗi nào đó.
And it's going to say that, well, this isn't actually invertible. I cannot actually give you the least squares estimate.
Nó sẽ báo rằng ma trận này không khả nghịch. Nó không thể cho bạn ước lượng bình phương tối thiểu.
So if a square matrix does not have an inverse, if A transpose A inverse does not exist, this basically we know is the same as saying that A transpose A has a non-trivial null space.
Nếu một ma trận vuông không có nghịch đảo, tức là nghịch đảo của A chuyển vị A không tồn tại, thì ta biết điều này tương đương với việc A chuyển vị A có không gian không (null space) khác tầm thường.
Back in Module 1, we had all these properties that talked about invertibility and null spaces.
Ở Module 1, ta có những tính chất nói về tính khả nghịch và không gian không.
And we saw that, well, the ability to invert a matrix is connected to whether or not a matrix has a null space.
Ta đã thấy khả năng nghịch đảo một ma trận liên quan đến việc ma trận đó có không gian không hay không.
And now what we're going to see is basically the following theorem is that the null space of A transpose A is equal to the null space of the matrix A itself.
Và bây giờ ta sẽ thấy định lý sau: không gian không của A chuyển vị A bằng không gian không của chính ma trận A.
And so just by looking at the matrix A, we can actually tell whether or not our least squares algorithm is going to work.
Vậy chỉ cần nhìn vào ma trận A, ta có thể biết thuật toán bình phương tối thiểu có chạy được hay không.
We don't have to compute A transpose A to know whether or not our least squares algorithm is going to work. Our measurement matrix A has all the information.
Ta không cần tính A chuyển vị A để biết thuật toán bình phương tối thiểu có chạy được hay không. Ma trận đo A chứa toàn bộ thông tin.
And remember, what does it mean for — let's say, the null space of A is non-trivial.
Và hãy nhớ, điều gì xảy ra khi — giả sử không gian không của A là khác tầm thường?
The null space of A is non-trivial means that there exists some A times some vector, let's say, vector z, such that A times z is equal to 0.
Không gian không của A khác tầm thường nghĩa là tồn tại A nhân một vectơ nào đó, gọi là vectơ z, sao cho A nhân z bằng 0.
And z is not a zero vector. If only the 0 vector satisfied this, then it would have a trivial null space.
Và z không phải vectơ không. Nếu chỉ có vectơ 0 thỏa mãn điều này, thì không gian không sẽ tầm thường.
But because the null space is non-trivial, there's a non-zero vector z that satisfies this equation. Okay?
Nhưng vì không gian không khác tầm thường, nên có một vectơ z khác không thỏa mãn phương trình này. Được chứ?
But what this means is that basically the columns of A are linearly dependent.
Nhưng điều này có nghĩa là các cột của A phụ thuộc tuyến tính.
So this means that the columns of A — so by basically looking at whether or not these columns are dependent, are linearly dependent, we can figure out whether or not A transpose A
Tức là các cột của A — nên bằng cách xem các cột này có phụ thuộc tuyến tính hay không, ta biết được A chuyển vị A
is going to be invertible.
có khả nghịch hay không.
But now, before we explore when this can fail — and I'll hopefully get to an example at the end where we can see exactly how least squares might fail — let's actually go ahead and prove this theorem.
Nhưng trước khi khám phá khi nào nó có thể thất bại — và hy vọng cuối buổi tôi sẽ có một ví dụ để ta thấy chính xác bình phương tối thiểu có thể thất bại thế nào — ta hãy chứng minh định lý này.
So if we want to say that two null spaces are equal to each other, when we have these proofs that involve equality, there's two things that we always need to show.
Nếu muốn nói hai không gian không bằng nhau, trong các chứng minh về đẳng thức này, ta luôn cần chỉ ra hai điều. .
We always need to show, first, that let's say v is a vector that belongs to the null space of A.
Thứ nhất, giả sử v là một vectơ thuộc không gian không của A.
If v belongs null space of A, then we want to show that v must belong to the null space of A transpose A.
Nếu v thuộc không gian không của A, thì ta muốn chỉ ra v phải thuộc không gian không của A chuyển vị A.
And second, we want to show that if w is a vector that belongs to the null space of A transpose A, then w must belong — it's a null space of A. These are the two things that we want to show.
Thứ hai, ta muốn chỉ ra nếu w là vectơ thuộc không gian không của A chuyển vị A, thì w phải thuộc không gian không của A. Đó là hai điều ta muốn chỉ ra.
If we just showed the first, why is showing the first not enough?
Nếu ta chỉ chứng minh điều đầu, tại sao như vậy là chưa đủ?
It doesn't give the equal, right? It says that, well, if v is in this set, then it also must be in this set. So that means that one is a subset of the other.
Nó chưa cho ta đẳng thức, đúng không? Nó chỉ nói rằng nếu v thuộc tập này, thì v cũng phải thuộc tập kia. Nghĩa là tập này là tập con của tập kia.
But it doesn't show equality. This also shows a subset relationship. And so you want to say that everything here is in here and everything here is in here, then the two must be equal.
Nhưng chưa chứng minh được sự bằng nhau. Cái này cũng chỉ cho thấy quan hệ tập con. Vậy nếu muốn nói mọi phần tử ở đây đều nằm ở đây và mọi phần tử ở đây đều nằm ở đây, thì hai tập phải bằng nhau.
But if everything here is also in here, this might have other things that are not in here. So that doesn't show equality. To establish equality, you need to show this both ways.
Nhưng nếu mọi thứ ở đây cũng nằm ở đây, thì tập này vẫn có thể có những phần tử không nằm ở đây. Nên như vậy chưa chứng minh được sự bằng nhau. Để chứng minh bằng nhau, bạn cần chứng minh cả hai chiều.
So take a minute. Try this on your own. I'm not going to give you the answer right away. Part 1 is easier than part 2.
Các em dành một phút nhé. Tự làm thử đi. Tôi sẽ không đưa đáp án ngay đâu. Phần 1 dễ hơn phần 2.
So start with part 1.
Nên hãy bắt đầu với phần 1.
How many people want to start working together? A few people. How many people want to work on their own for a little bit more? Some people.
Ai muốn bắt đầu làm cùng nhau? Có một vài bạn. Ai muốn tự làm một mình thêm một lúc nữa? Cũng có một số bạn.
Okay, take a couple more minutes.
Được, các em làm thêm vài phút nữa.
For those people that are stuck, the number one thing that I see as people getting stuck is not writing stuff down. This is kind of a very common failure mode.
Với những bạn đang bị kẹt, điều số một mà tôi thấy khiến mọi người bị kẹt là không viết gì ra giấy. Đây là lỗi rất thường gặp.
Like if you're starting to do something and you're not sure, don't be afraid of putting something on the paper. It doesn't have to be right. It doesn't have to be perfect.
Ví dụ khi bắt đầu làm gì đó mà chưa chắc chắn, đừng ngại viết gì đó lên giấy. Không cần phải đúng. Không cần phải hoàn hảo.
But just write stuff. It will help you.
Cứ viết ra. Nó sẽ giúp các em.
If you have an if and then a then, write out what that if means. Write it out mathematically. Write out what that then means. Write it out mathematically.
Nếu có một mệnh đề "nếu" và một mệnh đề "thì", hãy viết ra "nếu" đó nghĩa là gì. Viết bằng ngôn ngữ toán học. Viết ra "thì" đó nghĩa là gì. Cũng viết bằng ngôn ngữ toán học.
Okay, in the interest of time, let's start working on this together. So let's look at the proof, Part 1.
Được rồi, vì thời gian có hạn, ta bắt đầu làm cùng nhau nhé. Hãy xem chứng minh phần 1.
We say if v belongs to null space of A, then v belongs to null space of A transpose A. So let's say v belongs to null space of A.
Ta nói nếu v thuộc không gian không (null space) của A, thì v thuộc không gian không của A transpose A. Giả sử v thuộc không gian không của A.
What does that mean? What's the first thing you want to write down?
Điều đó có nghĩa là gì? Điều đầu tiên em muốn viết ra là gì?
Yeah.
Mời bạn.
STUDENT
A times u equals z [INAUDIBLE] GIREEJA RANADA: So you have some v. A times this, let's say, v is equal to 0, right?
A nhân u bằng z [KHÔNG NGHE RÕ] GIREEJA RANADA: Vậy ta có v nào đó. A nhân v, giả sử vậy, bằng 0, đúng không?
Where do you want to go? You want to have A transpose times A times v equal to 0.
Ta muốn đi đến đâu? Ta muốn có A transpose nhân A nhân v bằng 0.
So I want to have A transpose times A times this exact v is equal to 0. How do I get here from here?
Tôi muốn A transpose nhân A nhân đúng v này bằng 0. Từ đây làm sao đến được đó?
Multiply by both sides by A transpose, right?
Nhân cả hai vế với A transpose, đúng không?
So multiply by A transpose, this gives me A transpose times A times v is equal to basically A transpose times 0 is equal to 0, which proves exactly what I want.
Nhân với A transpose, ta được A transpose nhân A nhân v bằng A transpose nhân 0 bằng 0, đúng như điều ta muốn chứng minh.
It gives me exactly what I want. Therefore, v belongs also to the null space of A transpose A.
Nó cho đúng điều ta muốn. Do đó, v cũng thuộc không gian không của A transpose A.
Right?
Đúng không?
Pretty just straight forward. Just write both things out. See what's similar about them. And try to move forward.
Khá đơn giản. Cứ viết cả hai vế ra. Xem chúng giống nhau ở điểm nào. Rồi cố gắng tiến tiếp.
Everyone's clear on how we did this? Any questions here? Okay. What about Part 2?
Mọi người rõ cách ta làm chưa? Có câu hỏi nào không? Được. Còn phần 2 thì sao?
Here, I want to say that, well, w belongs to null space of A transpose A. So that tells me that A transpose times A times w is equal to 0.
Ở đây, ta nói rằng w thuộc không gian không của A transpose A. Điều đó cho ta biết A transpose nhân A nhân w bằng 0.
What do I want?
Ta muốn gì?
I want to look at this A w, A times w. And I want this to be equal to 0.
Ta muốn xét A w, tức A nhân w. Và ta muốn nó bằng 0.
Does everyone understand why A times w this is what we want, that A w equal to 0?
Mọi người có hiểu vì sao A nhân w là điều ta muốn, tức là A w bằng 0 không?
Yeah? I want to really make sure that everyone's with me here. I'm willing to stop.
Rõ chưa? Tôi muốn chắc chắn là mọi người theo kịp. Tôi sẵn sàng dừng lại.
Okay.
Được.
So here, we had this nice trick where we could just multiply by A transpose, and we kind of easily got what we wanted. But that same thing somehow doesn't work.
Ở phần trước, ta có một mẹo hay là chỉ cần nhân với A transpose, và ta dễ dàng có được điều mình muốn. Nhưng cách đó ở đây lại không dùng được.
I don't have this. I don't know this. So I can't multiply this by A transpose. I want to somehow derive this.
Tôi không có cái này. Tôi không biết cái này. Nên tôi không thể nhân nó với A transpose. Tôi phải tìm cách suy ra nó.
All I have is this equation. But here, what I'm going to do is I'm going to look at this quantity and try to start playing with it.
Tất cả những gì tôi có là phương trình này. Nhưng ở đây, điều tôi sẽ làm là xét đại lượng này và thử biến đổi nó.
So consider A times w is equal to some vector q. Let's call that vector, whatever A times w is, let's call it q.
Xét A nhân w bằng một vectơ q nào đó. Gọi vectơ đó, dù A nhân w là gì, là q.
Okay? What I really want is I want q to be 0. I don't know that yet. But I really want it to be 0.
Được chứ? Điều tôi thật sự muốn là q bằng 0. Tôi chưa biết điều đó. Nhưng tôi rất muốn nó bằng 0.
So I'm going to start exploring this q vector. What is one thing that I know if q was 0? Yes, question.
Nên tôi sẽ bắt đầu khám phá vectơ q này. Nếu q bằng 0 thì ta biết được điều gì? Vâng, mời bạn hỏi.
STUDENT
If you want something, why you can't you start from the one part and get to the original part?
Nếu muốn có một điều gì đó, sao ta không bắt đầu từ một phần và đi đến phần ban đầu?
Why can't you work backwards and use the equation you used in number one to get the w?
Sao không làm ngược lại và dùng phương trình ở câu một để suy ra w?
GIREEJA RANADA
Good question. Why can't I start here and prove it here, right? Because that's saying that if this is true, then this is true. But the implication is the other way around.
Câu hỏi hay. Sao tôi không bắt đầu từ đây và chứng minh ra đây, đúng không? Vì như vậy là nói rằng nếu cái này đúng, thì cái này đúng. Nhưng phép kéo theo lại theo chiều ngược lại.
So you had to be very careful. When I have if and then, I can assume this to prove this.
Nên các em phải rất cẩn thận. Khi có "nếu" và "thì", tôi được giả sử cái này để chứng minh cái này.
So because I have if w belongs to null space of A transpose A, then this. I cannot start from here. I can't assume this, because that's what I want to show.
Vì ở đây ta có nếu w thuộc không gian không của A transpose A, thì ra cái này. Tôi không thể bắt đầu từ đây. Tôi không thể giả sử điều này, vì đó chính là điều tôi muốn chứng minh.
Right? This is a really good point. This is a subtle point. Please, everyone, make sure you understand why we cannot start from here.
Đúng không? Đây là một điểm rất hay. Đây là một điểm tinh tế. Mọi người hãy chắc chắn hiểu vì sao ta không thể bắt đầu từ chỗ này.
We're saying if this is true, then we want to show this. We can't assume this part. Okay? So we have A times w equal to 0.
Ta đang nói: nếu điều này đúng, thì ta muốn chứng minh điều này. Ta không thể giả sử phần này. Rõ chưa? Vậy ta có A nhân w bằng 0.
Let's consider this q. If q was the 0 vector, what would the norm of q be? It would be 0, right? So now, what if I considered this quantity?
Hãy xét q này. Nếu q là vectơ 0 thì chuẩn của q bằng bao nhiêu? Bằng 0, đúng không? Bây giờ, nếu ta xét đại lượng này thì sao?
The thing is that here I have something that has this transpose-y thing. And I have something that has multiplications with something like q.
Vấn đề là ở đây ta có một thứ có phép chuyển vị này. Và ta có một thứ có các phép nhân với một thứ như q.
So let me just play with it to consider this q times q.
Nên ta thử xét q nhân q.
What is q times q? q times q is basically A w transpose times A w.
q nhân q là gì? q nhân q chính là A w chuyển vị nhân A w.
But this is basically equal to w transpose A transpose A w.
Nhưng cái này bằng w chuyển vị nhân A chuyển vị nhân A w.
This transpose can go inside, and it flips the arguments.
Phép chuyển vị đi vào trong và đảo thứ tự các thừa số.
So I have this, but what is this equal to?
Vậy ta có cái này, nhưng nó bằng gì?
Let me be very precise here. w transpose A transpose A w.
Để tôi nói thật chính xác. w chuyển vị A chuyển vị A w.
What do I know about this?
Ta biết gì về cái này?
A transpose A times w, what do I know?
A chuyển vị nhân w, ta biết gì?
STUDENT
0.
0.
GIREEJA RANADA
This is 0. So this is W transpose times 0. So this whole thing is 0.
Cái này bằng 0. Vậy đây là w chuyển vị nhân 0. Nên toàn bộ biểu thức bằng 0.
So the inner product of q with itself is 0, which means that basically the norm of q is 0.
Vậy tích vô hướng của q với chính nó bằng 0, nghĩa là chuẩn của q bằng 0.
But if the norm of a vector is 0, then q must be equal to 0.
Mà nếu chuẩn của một vectơ bằng 0 thì q phải bằng 0.
And as a result, we must have w belongs to the null space of A. So this is a different kind of proof from what you've seen before. It's a little bit more subtle.
Do đó, w phải thuộc không gian không (null space) của A. Đây là một kiểu chứng minh khác so với những gì các bạn đã thấy. Nó tinh tế hơn một chút.
This is a slightly more advanced proof than what we've done in Module 1 so far. But make sure you understand this. If this is confusing, please come to office hours.
Đây là một chứng minh nâng cao hơn một chút so với những gì ta đã làm trong Module 1 đến giờ. Nhưng hãy chắc chắn là các bạn hiểu nó. Nếu còn thấy rối, hãy đến giờ office hours.
What we see here about how invertibility can sometimes break least squares, we'll pick up with an example next time.
Việc tính khả nghịch đôi khi có thể làm hỏng bình phương tối thiểu như thế nào, ta sẽ tiếp tục với một ví dụ vào lần sau.
[APPLAUSE] [AUDIO OUT]
[VỖ TAY] [MẤT ÂM THANH]
Đăng nhập để đánh giá học liệu này.
Đăng nhập để bình luận — chưa ai bình luận về học liệu này.
Không có khóa học liên quan.