Video
Đăng bởi Ban biên tập OpenER ·
Tác giả giữ toàn bộ bản quyền (All Rights Reserved) — không phải giấy phép mở. Bạn vẫn xem và học miễn phí trên OpenER; muốn tái sử dụng cần xin phép tác giả.
[NO SPEECH]
[KHÔNG CÓ LỜI THOẠI]
PROFESSOR: OK, let's get started.
GIÁO SƯ: Được rồi, chúng ta bắt đầu nhé.
So the main topic for today is Naive Bayes models, but the real context here is that today will be our first lecture on machine learning.
Chủ đề chính hôm nay là các mô hình Naive Bayes, nhưng bối cảnh thực sự là hôm nay sẽ là bài giảng đầu tiên của chúng ta về học máy.
Up until now, we have been assuming that somebody gives us a model. They give us the search problems. They give us a search problem, there are weights on the edges.
Cho đến giờ, chúng ta luôn giả định rằng có ai đó đưa cho chúng ta một mô hình. Họ đưa cho ta các bài toán tìm kiếm. Họ đưa một bài toán tìm kiếm, với trọng số trên các cạnh.
There's a game. There's probabilities of the chance notes. We have a Bayes net, and there's a bunch of conditional probabilities that we use to do computation with.
Có một trò chơi. Có các xác suất của các nút ngẫu nhiên. Ta có một mạng Bayes, với một loạt xác suất có điều kiện mà ta dùng để tính toán.
And we've looked at how to use that model to make optimal decisions, whether that's thinking about sequencing actions in the first part of the course, or managing inferences over uncertainty in the second part of the course.
Và ta đã xem cách dùng mô hình đó để đưa ra quyết định tối ưu, dù là suy nghĩ về việc sắp xếp chuỗi hành động ở phần đầu của khóa học, hay quản lý suy luận trong điều kiện bất định ở phần thứ hai của khóa học.
And now, we're going to shift gears and look at machine learning, which is about how to acquire a model, how to acquire the parameters of a model, from data and experience.
Còn bây giờ, ta sẽ chuyển hướng sang học máy, tức là cách có được một mô hình, cách có được các tham số của một mô hình, từ dữ liệu và kinh nghiệm.
So in the end, we want to build good systems. We want to build accurate systems. Where do you get accurate systems? You get them from good models.
Cuối cùng, ta muốn xây dựng những hệ thống tốt. Ta muốn xây dựng những hệ thống chính xác. Hệ thống chính xác đến từ đâu? Từ những mô hình tốt.
And good models come from good data, and we're going to look at that last part now. So what are the kinds of things we could learn? We could learn parameters.
Và mô hình tốt đến từ dữ liệu tốt, và bây giờ ta sẽ xem phần cuối cùng đó. Vậy ta có thể học những loại gì? Ta có thể học các tham số.
These are the individual numbers and other details that determine exactly how our model works.
Đó là những con số riêng lẻ và các chi tiết khác quyết định chính xác mô hình hoạt động ra sao.
For example, the probabilities that live in each conditional probability table of a Bayes net, that's an example of parameters.
Ví dụ, các xác suất nằm trong mỗi bảng xác suất có điều kiện của một mạng Bayes là một ví dụ về tham số.
We can learn structure, so we could learn, for example, given a bunch of random variables, and then a bunch of data showing observations of those random variables, we could learn something about correlations, or maybe even causation between those variables, and use that to build a Bayes net.
Ta có thể học cấu trúc, ví dụ, cho một loạt biến ngẫu nhiên, cùng một loạt dữ liệu cho thấy các quan sát của những biến đó, ta có thể học điều gì đó về tương quan, hoặc thậm chí quan hệ nhân quả giữa các biến, rồi dùng nó để xây dựng một mạng Bayes.
We can also learn hidden concepts. We can take data, we can cluster that data. We can look for patterns.
Ta cũng có thể học các khái niệm ẩn. Ta có thể lấy dữ liệu và phân cụm nó. Ta có thể tìm các mẫu.
Neural nets, which are a very big topic in machine learning now, are, in a lot of ways, all about learning hidden representations and hidden concepts.
Mạng nơ-ron, một chủ đề rất lớn của học máy hiện nay, ở nhiều khía cạnh, đều nhằm học các biểu diễn ẩn và khái niệm ẩn.
What we're going to do today is we're going to start with model-based classification, and, as an example of that, we're going to work through some details of how the Naive Bayes models work.
Hôm nay chúng ta sẽ bắt đầu với phân loại dựa trên mô hình, và làm ví dụ, ta sẽ đi qua một số chi tiết về cách mô hình Naive Bayes hoạt động.
Then in the next few lectures, we're going to work through a sequence of different takes on machine learning that are going to highlight different subsets of the big ideas on this topic.
Sau đó trong vài bài giảng tới, ta sẽ đi qua một chuỗi các cách tiếp cận khác nhau về học máy, mỗi cách sẽ làm nổi bật những tập con khác nhau của các ý tưởng lớn trong chủ đề này.
So today, we're going to talk about classification. We're going to have a couple running examples. One of them is that spam classifier that pulls out all the emails you don't want from your email.
Hôm nay, ta sẽ nói về phân loại. Ta sẽ có vài ví dụ xuyên suốt. Một là bộ phân loại thư rác lọc ra tất cả những email bạn không muốn khỏi hộp thư.
Another one we're going to look at is, digit recognition. These are simple classification problems in some ways, right? The inputs are sort of well-understood, and the outputs are well-understood.
Ví dụ khác là nhận dạng chữ số. Về mặt nào đó, đây là những bài toán phân loại đơn giản. Đầu vào khá dễ hiểu, và đầu ra cũng dễ hiểu.
But we can already see a lot of the big ideas in machine learning, and you could also see how something like spam classification starts to give you a little bit of a window into how other natural language tasks work.
Nhưng ta đã có thể thấy nhiều ý tưởng lớn của học máy, và bạn cũng có thể thấy phân loại thư rác hé mở phần nào cách các tác vụ ngôn ngữ tự nhiên khác hoạt động.
And something like digit recognition, we'll start to give you a window into how other vision tasks work, and we'll see more in-depth examples and more structured examples of these kinds of problems later on when we talk about applications.
Còn nhận dạng chữ số sẽ hé mở cách các tác vụ thị giác khác hoạt động, và ta sẽ thấy các ví dụ sâu hơn và có cấu trúc hơn của những loại bài toán này khi nói về các ứng dụng ở phần sau.
So here's an example of a spam filter. This is an example of a classification system. Classification is not the only kind of machine learning, but it's probably the biggest.
Đây là một ví dụ về bộ lọc thư rác. Đây là ví dụ về một hệ thống phân loại. Phân loại không phải là loại học máy duy nhất, nhưng có lẽ là lớn nhất.
So classification has an input and an output. And the whole point is to automate the prediction of the output on the basis of the input.
Phân loại có đầu vào và đầu ra. Và mục đích chính là tự động hóa việc dự đoán đầu ra dựa trên đầu vào.
So the input might be an email, and the output is the decision. Is this spam or is this a good email, which people who work on spam call ham.
Đầu vào có thể là một email, và đầu ra là quyết định: đây là thư rác hay là email tốt, mà những người làm về thư rác gọi là ham.
So how would this work? Well first, we need some data. And we'll see today exactly how data kind of goes through the mill and gets turned into a model.
Vậy nó hoạt động thế nào? Trước hết, ta cần dữ liệu. Hôm nay ta sẽ thấy chính xác dữ liệu được xử lý và biến thành mô hình ra sao.
But you need data to learn what is a good email, what is a spam email, and so you get a large collection of these.
Nhưng bạn cần dữ liệu để học thế nào là email tốt, thế nào là thư rác, nên bạn thu thập một tập lớn như vậy.
In practice, in the real world, getting the right kind of data is often one of the hardest parts of building and deploying a machine learning system.
Trong thực tế, việc có được đúng loại dữ liệu thường là một trong những phần khó nhất khi xây dựng và triển khai một hệ thống học máy.
So where are we going to get a large collection of example emails?
Vậy ta lấy đâu ra một tập lớn các email mẫu? email thì sao?
Well, we could take some email accounts, get people to agree to let us look at those emails, have humans hand-label them, that's one way.
Ta có thể lấy một số tài khoản email, nhờ mọi người đồng ý cho ta xem các email đó, rồi để con người gán nhãn thủ công, đó là một cách.
You could also build a kind of an ecosystem in, that naturally generates this data. For example, a lot of you, in your email account, see spam. You mark that as spam, and congratulations.
Bạn cũng có thể xây dựng một kiểu hệ sinh thái tự nhiên tạo ra dữ liệu này. Ví dụ, nhiều bạn thấy thư rác trong tài khoản email của mình. Bạn đánh dấu nó là thư rác, và xin chúc mừng.
You've just labeled some training data for a classifier. Somebody has to hand-label this data, and that can be expensive, or it can just fall out of the ecosystem that you have around you.
Bạn vừa gán nhãn một ít dữ liệu huấn luyện cho bộ phân loại. Ai đó phải gán nhãn thủ công dữ liệu này, và việc đó có thể tốn kém, hoặc nó có thể tự phát sinh từ hệ sinh thái xung quanh bạn.
And how easy it is to deploy machine learning systems often depends on how natural it is to collect that data or to discover that data, how costly, what you have to do in order to make that data reasonable to produce.
Việc triển khai hệ thống học máy dễ hay khó thường phụ thuộc vào mức độ tự nhiên của việc thu thập hay khám phá dữ liệu đó, chi phí bao nhiêu, bạn phải làm gì để tạo ra dữ liệu đó một cách hợp lý.
We're not going to talk a lot about that in this class, but when you actually get into the real world and you're thinking about deploying machine learning systems, data is often the first thing, and the biggest thing you worry about.
Chúng ta sẽ không nói nhiều về điều đó trong lớp này, nhưng khi bạn bước vào thế giới thực và nghĩ đến việc triển khai các hệ thống học máy, dữ liệu thường là điều đầu tiên và lớn nhất mà bạn phải lo.
So how are we going to make these decisions? Well, we have a bunch of data like what's shown on the right. I'll read you some of these.
Vậy ta sẽ đưa ra các quyết định này thế nào? Ta có một loạt dữ liệu như hình bên phải. Tôi sẽ đọc một vài cái cho các bạn.
These are from an actual corpus, collection of data, that's labeled, that people use.
Đây là từ một corpus thực tế, một tập dữ liệu đã được gắn nhãn mà mọi người hay dùng.
This one is relatively small, and it's an older corpus, but this is a corpus of email that people use to test this problem. So here's one.
Cái này khá nhỏ, và là một corpus cũ, nhưng đây là một corpus email mà người ta dùng để kiểm thử bài toán này. Đây là một email.
You guys, CS188 classifier, using the parameters in your head. We're going to decide spam or ham. "Dear sir, first I must solicit your confidence in this transaction.
Các bạn là bộ phân loại CS188, dùng các tham số trong đầu mình. Ta sẽ quyết định là spam hay ham. "Thưa ngài, trước hết tôi phải xin ngài tin tưởng vào giao dịch này.
This is by virtue of its nature as being utterly confidential and top secret." What you think? Spam? Looks really important.
Do bản chất của nó, giao dịch này hoàn toàn bí mật và tuyệt mật." Các bạn nghĩ sao? Spam? Nghe có vẻ rất quan trọng.
Yeah, it's spam. Here's the next one. "To be removed from future mailings, simply reply to this message and put Remove in the subject. 99 million email addresses for only $99."
Đúng, là spam. Email tiếp theo. "Để bị xóa khỏi danh sách gửi thư sau này, chỉ cần trả lời thư này và ghi Remove vào tiêu đề. 99 triệu địa chỉ email chỉ với $99."
Spam? I mean, that's like a million email addresses per dollar. Yeah that's bad. You don't want that one.
Spam? Tức là gần một triệu địa chỉ email cho mỗi đô la. Ừ, tệ đấy. Các bạn không muốn email này đâu.
All right. OK, I know this is blatantly off-topic, but I'm beginning to go insane. Had an old Dell Dimension XPS sitting in the corner and decided to put it to use.
Được rồi. "OK, tôi biết là lạc đề hoàn toàn, nhưng tôi sắp phát điên rồi. Có một cái Dell Dimension XPS cũ nằm trong góc và tôi quyết định dùng lại nó.
I know it was working pre-being stuck in the corner, but when I plugged it in, hit the power, nothing happened." Ham or spam? Yeah, so this is ham.
Tôi biết nó chạy tốt trước khi bị bỏ xó, nhưng khi cắm điện, bấm nút nguồn thì chẳng có gì xảy ra." Ham hay spam? Đúng, cái này là ham.
Whether you personally wish to receive this email, this is between you and your friends, right?
Cá nhân bạn có muốn nhận email này hay không, đó là chuyện giữa bạn và bạn bè bạn, đúng không?
But this is an email that was intentionally sent from somebody who probably knows the recipient here, and you would have to go through and label this.
Nhưng đây là email được cố ý gửi bởi người có lẽ quen người nhận, và bạn sẽ phải tự gắn nhãn cho nó.
In the case of email, it's very much an individual question which emails you want to receive or not.
Với email, việc muốn nhận email nào hay không là chuyện rất cá nhân.
And so the boundary between what is actually spam, unsolicited commercial email, whatever, and emails you just don't want, this can be a fuzzy boundary.
Và vì vậy ranh giới giữa spam thực sự, tức email quảng cáo không mong muốn, v.v., và những email bạn chỉ đơn giản không muốn, có thể rất mờ.
And this is a problem when people are just clicking the spam button. Some people just click on an email they wish people hadn't sent them, even if it's like from their mom.
Và đây là vấn đề khi mọi người chỉ bấm nút báo spam. Có người bấm vào email mà họ ước người ta đừng gửi, dù đó là email của mẹ họ.
How are you going to make this decision that you all just did so effortlessly?
Làm sao ta đưa ra quyết định mà các bạn vừa làm dễ dàng như vậy?
What is it about the top two emails that let you conclude that they're spam, and how could we automate this?
Điều gì ở hai email đầu khiến bạn kết luận chúng là spam, và ta tự động hóa việc này thế nào?
Well, machine learning is going to do some amount of work, but something has to power this.
Machine learning sẽ làm một phần việc, nhưng phải có thứ gì đó làm nền.
There has to be something about those first emails that's going to give you the clues that something's fishy here. And so, what kinds of features can you include?
Phải có điều gì đó ở những email đầu tiên cho bạn manh mối rằng có gì đó đáng ngờ. Vậy ta có thể đưa vào những loại đặc trưng nào?
Defining these features is a big part of deploying machine learning systems. So the basic features in a task like spam detection are the words.
Định nghĩa các đặc trưng này là một phần lớn của việc triển khai hệ thống machine learning. Các đặc trưng cơ bản trong tác vụ như phát hiện spam là các từ.
And so there are going be some words that are big giveaways that we have we have spam on our hands.
Sẽ có những từ tố cáo rất rõ rằng đây là spam.
So probably something about "only $99" that's probably a sign of spam, but it's not like those words couldn't occur in ham.
Chẳng hạn "only $99" có lẽ là dấu hiệu của spam, nhưng không phải là những từ đó không thể xuất hiện trong ham.
Or, this "utterly confidential and top secret," that's probably a that phrase is probably a bad sign, but it's not like that couldn't occur.
Hoặc "utterly confidential and top secret", cụm từ đó có lẽ là dấu hiệu xấu, nhưng không phải là nó không thể xuất hiện.
And so each of these features is going to be something that you can think of as a noisy indicator.
Và mỗi đặc trưng này có thể coi là một chỉ báo có nhiễu.
It's going to give you a little bit of confidence — in the probabilistic sense — that perhaps there's spam here. But no one of these things is just going to put that to rest.
Nó cho bạn một chút độ tin cậy, theo nghĩa xác suất, rằng có thể đây là spam. Nhưng không đặc trưng nào một mình giải quyết được vấn đề.
And so what we're going to need to be able to do is build a model that can aggregate that information, combine all of those little bits of weak evidence, manage that uncertainty, and then give us a prediction.
Vì vậy điều ta cần làm là xây dựng một mô hình tổng hợp thông tin đó, kết hợp tất cả những mẩu bằng chứng yếu ấy, xử lý sự không chắc chắn, rồi đưa ra dự đoán.
So the words present in spam are really important, and that's sort of the basic first cut, because these are documents and you want to put them into categories.
Vậy các từ xuất hiện trong spam rất quan trọng, đó là bước đầu cơ bản, vì đây là các văn bản và bạn muốn xếp chúng vào các loại.
But there's a lot else you can look at. For example, maybe any dollar sign followed by some numbers is a bad sign, and that's a feature that abstracts over individual words.
Nhưng còn nhiều thứ khác để xem xét. Ví dụ, có thể dấu đô la theo sau là vài con số là dấu hiệu xấu, và đó là đặc trưng trừu tượng hóa trên từng từ riêng lẻ.
And you can either put some effort into coming up with these features, or you can look at even more advanced machine learning techniques that would automate their induction.
Bạn có thể bỏ công nghĩ ra các đặc trưng này, hoặc dùng các kỹ thuật machine learning nâng cao hơn để tự động suy ra chúng.
In this second one, "to be removed from future mailing," one big sign that this is spam here is just all caps. That's a bad sign.
Ở email thứ hai, "to be removed from future mailing", một dấu hiệu lớn cho thấy đây là spam là viết hoa toàn bộ. Đó là dấu hiệu xấu.
That's no individual word being in caps that's a bad sign, it's sort of that aggregate feature, and so that's a feature you might want to add.
Không phải từ riêng lẻ nào viết hoa là xấu, mà là đặc trưng tổng hợp đó, nên đó là đặc trưng bạn có thể muốn thêm.
In practice, for actual spam detection, a lot of the evidence of spam versus harm comes not from the word or even the content of the email in any way, but rather, its relation to other things in the ecosystem.
Trong thực tế, với việc phát hiện spam thật sự, nhiều bằng chứng phân biệt spam và ham không đến từ từ ngữ hay thậm chí nội dung của email, mà đến từ mối quan hệ của nó với những thứ khác trong hệ sinh thái.
For example, is the sender of this email in your contacts? Well if it is, this is probably not spam, even if it's got some sort of marginal contents.
Ví dụ, người gửi email này có trong danh bạ của bạn không? Nếu có thì có lẽ không phải spam, dù nội dung có hơi đáng ngờ.
Has this email been widely broadcast within a short amount of time?
Email này có được phát tán rộng rãi trong thời gian ngắn không?
Obviously, your email account can't tell this, but your email account provider can, because they can see the behavior of similar emails appearing in lots of different inboxes all at once.
Rõ ràng tài khoản email của bạn không biết được, nhưng nhà cung cấp dịch vụ email thì biết, vì họ thấy được hành vi của các email giống nhau xuất hiện ở nhiều hộp thư khác nhau cùng một lúc.
So you're going to collect some amount of these features, and then some match is going to happen in the middle where we're going to build a model and make predictions, and then out it's going to pop, classifications of either spam or ham.
Vậy bạn sẽ thu thập một số đặc trưng như thế, rồi phần toán học diễn ra ở giữa, nơi ta xây dựng mô hình và đưa ra dự đoán, rồi kết quả phân loại sẽ hiện ra là spam hoặc ham.
Let's do another example. This example is another classic one. The input's going to be images. Think of them as a matrix, a grid of pixels.
Ta làm thêm một ví dụ nữa. Ví dụ này cũng là một bài kinh điển. Đầu vào sẽ là các hình ảnh. Hãy xem chúng như một ma trận, một lưới các điểm ảnh.
They can be black and white, they can be grayscale, whatever. The output is going to be a digit, 0 through 9. What's the setup for this?
Chúng có thể là đen trắng, có thể là ảnh xám, sao cũng được. Đầu ra sẽ là một chữ số, từ 0 đến 9. Thiết lập cho bài này là gì?
We're going to have to collect a large number of example images. Each one has to be labeled. This is a seven, this is a two, this is a four.
Ta phải thu thập một số lượng lớn ảnh ví dụ. Mỗi ảnh đều phải được gán nhãn. Đây là số bảy, đây là số hai, đây là số bốn.
Somebody has to hand-label all this. Or, somebody has to design an ecosystem where the stuff is sort of self-labeling.
Phải có người gán nhãn thủ công tất cả những thứ này. Hoặc phải có người thiết kế một hệ sinh thái để dữ liệu tự gán nhãn.
We want to be able to predict labels of new images that are not the ones we've already seen, OK? So that's actually subtle, but it's super-important.
Ta muốn dự đoán nhãn của những ảnh mới không phải những ảnh ta đã thấy rồi, được chứ? Điều này khá tinh tế, nhưng cực kỳ quan trọng.
We are not, like this is not — this is not the sort of the Pokemon collection task here. We have to collect every digit, every image, right?
Đây không phải kiểu nhiệm vụ sưu tập Pokemon. Ta đâu thể thu thập mọi chữ số, mọi hình ảnh, đúng không?
Every image you see of a digit is going to be unique. It's going to be at least one pixel off of something else you've seen. So you can't just collect all the data.
Mỗi hình chữ số bạn thấy đều là duy nhất. Nó sẽ lệch ít nhất một điểm ảnh so với bất kỳ hình nào khác mà bạn đã thấy. Nên bạn không thể thu thập toàn bộ dữ liệu.
You can get data that is similar, but then, in the end, you're going to have to generalize. And so, we'll talk about how that's going to work.
Bạn có thể lấy dữ liệu tương tự, nhưng cuối cùng bạn vẫn phải khái quát hóa. Ta sẽ nói về cách làm điều đó.
What features might you use to detect digits? Well, somebody puts a grid of numbers.
Ta có thể dùng đặc trưng nào để nhận dạng chữ số? Giả sử ai đó đưa ra một lưới các con số.
Your eyes and your visual processing system is already doing all kinds of processing, and people will think about computer vision, replicate some of that processing.
Mắt và hệ thị giác của bạn đã xử lý đủ mọi thứ rồi, và những người làm thị giác máy tính sẽ tái tạo một phần việc xử lý đó.
You're doing all kinds of processing when you look at a digit and you say, oh, that's a four. But here, you know, this one might be a zero.
Bạn xử lý đủ thứ khi nhìn một chữ số và nói, à, đó là số bốn. Còn đây, chắc là số không.
We could go and we could label these things. And we're going to try to teach a computer to do the same thing. What's the next one? It's probably a one.
Ta có thể gán nhãn cho những thứ này. Và ta sẽ cố dạy máy tính làm điều tương tự. Hình tiếp theo là gì? Chắc là số một.
I'm not like totally sure. What's the next one? So two. That slash is probably a one.
Tôi cũng không chắc hẳn. Hình tiếp theo là gì? Là số hai. Nét gạch chéo đó chắc là số một.
And then, I don't really know what that's supposed to be. And so, this is actually a real issue, right?
Còn cái kia thì tôi không biết nó là gì. Đây thực sự là một vấn đề, đúng không?
There's a lot of inputs that are really noisy, and you're training set, they might be hard, expensive to label, because they're noisy. You might get them wrong.
Có rất nhiều đầu vào chứa nhiều nhiễu, và tập huấn luyện của bạn có thể khó và tốn kém để gán nhãn vì nhiễu. Bạn có thể gán sai.
You might mislabel them, and then your algorithms have to be robust to a certain amount of noise in your training set. And then at test time, you're going to make mistakes.
Bạn có thể gán nhãn nhầm, và khi đó thuật toán phải đủ bền vững trước một mức nhiễu nhất định trong tập huấn luyện. Rồi lúc kiểm tra, bạn vẫn sẽ mắc lỗi.
You're going to make mistakes because machine learning is not perfect.
Bạn mắc lỗi vì học máy không hoàn hảo.
You're going to make mistakes because some inputs are just really, really hard, and they're going to look like this and we're just not all even going to agree on what the heck that's supposed to be.
Bạn mắc lỗi vì có những đầu vào cực kỳ khó, trông như thế này và thậm chí chẳng ai trong ta đồng ý được nó rốt cuộc là cái gì.
So if you wanted to make a decision that that top thing is a zero and the next one is a one, you're probably going to look at the pixels.
Nếu bạn muốn quyết định hình trên cùng là số không và hình kế tiếp là số một, bạn có lẽ sẽ nhìn vào các điểm ảnh.
Those are the basic features.
Đó là những đặc trưng cơ bản.
But if you think about it, that's not really the most invariant representation, because I could take that zero and I could just shift it up a couple pixels to the side, and it's going to be an entirely different set of pixels that are on, but it's still the same number.
Nhưng nghĩ kỹ thì đó không thực sự là biểu diễn bất biến nhất, vì tôi có thể lấy số không đó và dịch nó lên hoặc sang bên vài điểm ảnh, và sẽ có một tập điểm ảnh sáng hoàn toàn khác, nhưng vẫn là cùng một con số.
So people think about computer vision, think about invariances.
Nên người làm thị giác máy tính nghĩ đến tính bất biến.
What are better representations that if the thing gets tilted or it's a little bit lighter or it's a little bit smaller or bigger, it's not the exact pixels being on that we care about.
Biểu diễn nào tốt hơn, để khi hình bị nghiêng hoặc sáng hơn chút, nhỏ hơn chút hay lớn hơn, thì thứ ta quan tâm không phải là chính xác những điểm ảnh nào sáng.
But the pixels are something we could use. We can look at other kinds of patterns. We could look at how many connected components of ink there are. What's the aspect ratio?
Nhưng điểm ảnh vẫn là thứ ta có thể dùng. Ta có thể xem các loại mẫu khác. Ta có thể xem có bao nhiêu thành phần liên thông của nét mực trong hình. Tỉ lệ khung hình là bao nhiêu?
How many loops are there?
Có bao nhiêu vòng?
It's increasingly the case, especially for problems like this, that we feed in low-level features like pixels, and higher level features like edges, tend to get induced increasingly more as our machine learning methods get better at doing that.
Ngày càng phổ biến, nhất là với những bài như thế này, là ta đưa vào các đặc trưng mức thấp như điểm ảnh, còn các đặc trưng mức cao hơn như cạnh ngày càng được tự suy ra nhiều hơn khi các phương pháp học máy làm việc đó tốt hơn.
We'll talk about that in a couple weeks when we talk about narrow nets. All right. There's tons of classification tasks. It's probably the most widely-used application of machine learning.
Ta sẽ nói về chuyện này trong vài tuần nữa khi bàn về mạng nơ-ron. Được rồi. Có vô số bài toán phân loại. Có lẽ đây là ứng dụng được dùng rộng rãi nhất của học máy.
There's also a lot of applications of other things like clustering. Classification, you're given inputs, you predict labels, or classes, y.
Cũng có nhiều ứng dụng của những thứ khác như phân cụm. Với phân loại, bạn được cho đầu vào và dự đoán nhãn, hay lớp, y.
Inputs are called x, outputs are called y, and there's tons of examples of this. Medical diagnosis could be classifications. The input is the system, the output is the diseases.
Đầu vào gọi là x, đầu ra gọi là y, và có vô số ví dụ về việc này. Chẩn đoán y khoa có thể là phân loại. Đầu vào là các triệu chứng, đầu ra là các bệnh.
Fraud detection could be, think about your credit card company. There's some account activity and you want to red flag accounts that are suspicious.
Phát hiện gian lận cũng vậy, hãy nghĩ đến công ty thẻ tín dụng. Có hoạt động của tài khoản và bạn muốn đánh dấu các tài khoản đáng ngờ.
Think about all the different kinds of features you could put in, in order to make those kinds of decisions, both at the individual transaction level and also at the network level.
Hãy nghĩ xem có bao nhiêu loại đặc trưng bạn có thể đưa vào để đưa ra những quyết định như vậy, cả ở mức từng giao dịch riêng lẻ lẫn ở mức mạng lưới.
Automatic essay grading, auto grading, this can be a machine learning problem. Customer service email routing. You have a whole of customer service agents that do all different kinds of things.
Chấm bài luận tự động cũng có thể là một bài toán học máy. Chấm điểm tự động. Định tuyến email chăm sóc khách hàng. Bạn có cả đội ngũ nhân viên chăm sóc khách hàng làm đủ loại việc khác nhau.
Emails are flying into the system. You'd like to automate the routing of that. Review sentiment. Here's a bunch of reviews of my product.
Email đổ vào hệ thống liên tục. Bạn muốn tự động hóa việc định tuyến đó. Phân tích cảm xúc của đánh giá. Đây là một loạt đánh giá về sản phẩm của tôi.
Which ones are good? Which ones are bad? Have they gotten better in the past 10 days since the new announcement? And so on.
Cái nào tốt? Cái nào tệ? Chúng có khá hơn trong 10 ngày qua không, kể từ sau thông báo mới? Và vân vân.
You can do that with classification. Language identification. Here's this document. What language is this, anyway?
Bạn có thể làm những việc đó bằng phân loại. Nhận dạng ngôn ngữ. Đây là một tài liệu. Nó viết bằng ngôn ngữ nào vậy?
You gotta do that before you can do things like translation.
Bạn phải làm bước này trước khi làm những việc như dịch thuật.
Of course, when you do translation, that's not a classification task anymore, that's a much more structured natural language processing task where you actually need to generate new language that means the same thing in a different language.
Tất nhiên, khi dịch thuật, đó không còn là bài toán phân loại nữa, mà là một bài toán xử lý ngôn ngữ tự nhiên có cấu trúc hơn nhiều, trong đó bạn thực sự cần tạo ra ngôn ngữ mới mang cùng ý nghĩa trong một ngôn ngữ khác.
So classification is important. At the end of the lecture today, you will have enough information to go and build a basic classifier. But there's a whole bunch of detail behind all this.
Vậy nên phân loại rất quan trọng. Đến cuối buổi học hôm nay, các bạn sẽ có đủ kiến thức để tự xây dựng một bộ phân loại cơ bản. Nhưng đằng sau tất cả những điều này còn rất nhiều chi tiết.
First thing we're going to do is talk about model-based classification. Remember we were talking about reinforcement learning? We talked about model-based reinforcement learning and model-free reinforcement learning.
Trước hết, chúng ta sẽ nói về phân loại dựa trên mô hình. Nhớ lại chúng ta đã nói về học tăng cường chứ? Chúng ta đã nói về học tăng cường dựa trên mô hình và học tăng cường không dựa trên mô hình.
There's a very similar distinction in the world of classification as well.
Cũng có một sự phân biệt rất tương tự trong thế giới phân loại.
In model-based classification, rather than directly learning from errors that you make in the world from experience, think like reinforcement learning model-free, instead we're going to learn by building a model from our data, and then doing inference in that model to make predictions in the world.
Trong phân loại dựa trên mô hình, thay vì học trực tiếp từ các lỗi mà bạn mắc phải trong thực tế, từ kinh nghiệm, hãy nghĩ như học tăng cường không dựa trên mô hình, ở đây ta sẽ học bằng cách xây dựng một mô hình từ dữ liệu, rồi thực hiện suy luận trong mô hình đó để đưa ra dự đoán.
After today we'll look at the model-free methods. So the model-based approach, you're going to build some model.
Sau hôm nay, ta sẽ xem các phương pháp không dựa trên mô hình. Với cách tiếp cận dựa trên mô hình, bạn sẽ xây dựng một mô hình nào đó.
In this case, we're going to build a Bayes net, and it's going to be a super simple Bayes net called a Naive Bayes model.
Ở đây, ta sẽ xây dựng một mạng Bayes, và nó là một mạng Bayes cực kỳ đơn giản gọi là mô hình naive Bayes.
You build a model where the output label and the input features are random variables.
Bạn xây dựng mô hình trong đó nhãn đầu ra và các đặc trưng đầu vào là các biến ngẫu nhiên.
There's going to be some connections between them, and maybe some other variables too that might help you build a better model, either in terms of statistical efficiency of having sort of the representations be more compact, or because that's data that's easier for you to elicit.
Sẽ có một số kết nối giữa chúng, và có thể có thêm vài biến khác giúp bạn xây dựng mô hình tốt hơn, hoặc về hiệu quả thống kê, tức là biểu diễn gọn hơn, hoặc vì đó là dữ liệu bạn dễ thu thập hơn.
Now you've built this model in which you've Bayes net and down here somewhere are going to be your features, and up here is going to be your class.
Giờ bạn đã xây dựng mô hình này, một mạng Bayes, và ở dưới đây là các đặc trưng của bạn, còn ở trên đây là lớp của bạn.
And on the basis of the features, x, that you observe, you're going to predict the class y. We can do that with probabilistic inference, variable illumination, for example.
Dựa trên các đặc trưng x mà bạn quan sát được, bạn sẽ dự đoán lớp y. Ta có thể làm điều đó bằng suy luận xác suất, ví dụ khử biến.
So you're going to instantiate your observed features, you're going to query for the distribution of the label you care about, the output, condition on this feature, and you'll get a probability out.
Bạn sẽ gán giá trị cho các đặc trưng quan sát được, rồi truy vấn phân phối của nhãn mà bạn quan tâm, tức đầu ra, có điều kiện theo các đặc trưng này, và bạn sẽ nhận được một xác suất.
Now you can ask questions, like, how often does my model get the right answer? That's accuracy.
Giờ bạn có thể hỏi, chẳng hạn, mô hình của tôi đưa ra đáp án đúng bao nhiêu lần? Đó là độ chính xác.
You can also ask questions like, do these probabilities that are falling out of my model, are they even right? Some kinds of classifiers don't even give you probabilities.
Bạn cũng có thể hỏi những câu như, các xác suất mà mô hình đưa ra có thực sự đúng không? Một số loại bộ phân loại thậm chí không cho bạn xác suất.
They just give you a prediction. So what are the challenges? What structure should the Bayes net have?
Chúng chỉ cho bạn một dự đoán. Vậy thách thức là gì? Mạng Bayes nên có cấu trúc như thế nào?
Today, we're going to give it the simplest structure that could possibly work, and it turns out it often does.
Hôm nay, ta sẽ cho nó cấu trúc đơn giản nhất có thể hoạt động được, và hóa ra nó thường hoạt động tốt.
And then, the thing we're going to mostly talk about today is how should we learn the parameters of a model from data once we've decided it's structure?
Và điều chính ta sẽ bàn hôm nay là làm sao học các tham số của mô hình từ dữ liệu một khi đã chọn xong cấu trúc?
So here's what a Naive Bayes model would look like for digits. It's in fact super-simple as Bayes nets go.
Đây là hình dạng của một mô hình naive Bayes cho chữ số. Thực ra nó rất đơn giản so với các mạng Bayes.
So what we will do is we will assume that there is one special node, it's going to be the label.
Ta sẽ giả sử có một nút đặc biệt, đó là nhãn.
Here, that's written out as Y, and that label's domain will be the various digits, 0 through 9. Then there are going to be a bunch of features. What are the features?
Ở đây, nó được viết là Y, và miền giá trị của nhãn là các chữ số từ 0 đến 9. Sau đó sẽ có một loạt đặc trưng. Các đặc trưng là gì?
Well, you might have a feature for every pixel in the grid that's binary valued, that's either on or off, based on whether it's above or below a certain threshold.
Bạn có thể có một đặc trưng cho mỗi điểm ảnh trong lưới, mang giá trị nhị phân, bật hoặc tắt, tùy theo nó nằm trên hay dưới một ngưỡng nào đó.
So the model itself might look something like this, where the class is the cause, and it independently causes each of those features.
Vậy mô hình sẽ trông giống như thế này, trong đó lớp là nguyên nhân, và nó gây ra từng đặc trưng một cách độc lập.
Now if you look at that you might think, that doesn't sound quite right to me, because there are correlations between the features that are present even when you know the class.
Nhìn vào đó, bạn có thể nghĩ, nghe có vẻ không đúng lắm, vì giữa các đặc trưng vẫn có tương quan ngay cả khi đã biết lớp.
And in this Naive Bayes model, the conditional independence assumption say that conditioned on the class, the features are independent.
Trong mô hình naive Bayes, giả định độc lập có điều kiện nói rằng khi đã biết lớp, các đặc trưng độc lập với nhau.
And maybe that doesn't feel right, because if I know it's spam, or if I know it's ham for sure, are the first two words independent? Well, no, they're not.
Và có thể bạn thấy điều đó không đúng, vì nếu tôi biết chắc đó là spam, hay chắc chắn là ham, thì hai từ đầu tiên có độc lập không? Không, chúng không độc lập.
So the Naive Bayes assumption is an extremely radical assumption as far as probabilistic models go, but for classification, it turns out to be really effective and it goes something like this.
Vậy giả định naive Bayes là một giả định cực kỳ mạnh đối với các mô hình xác suất, nhưng với phân loại thì hóa ra nó lại rất hiệu quả, và nó diễn ra đại khái như thế này.
So if we have a single digit recognition version of this, we might have a feature for each position of the grid. They'll all be binary valued.
Nếu ta có phiên bản nhận dạng một chữ số, ta có thể có một đặc trưng cho mỗi vị trí trong lưới. Tất cả đều nhận giá trị nhị phân.
That means this number one here maps to this feature, so it'll be a big vector of zeros and ones, which is really just the image.
Nghĩa là số một này ánh xạ thành đặc trưng này, nên nó sẽ là một vectơ lớn gồm các số không và một, thực chất chính là hình ảnh.
But if my features were instead, how much ink because they're on the left side? How many loops are there?
Nhưng nếu đặc trưng của tôi là, chẳng hạn, có bao nhiêu mực ở bên trái? ở phía bên trái? Có bao nhiêu vòng tròn?
Then there would be zeros and ones as well, but they would no longer correspond to the raw image. There's a lot of features.
Thì cũng sẽ có các số không và một, nhưng chúng không còn tương ứng với ảnh gốc nữa. Có rất nhiều đặc trưng.
Each one here's binary-valued, and the Naive Bayes model is just what's drawn here.
Mỗi đặc trưng ở đây có giá trị nhị phân, và mô hình naive Bayes chính là những gì được vẽ ở đây.
We say that the probability distribution over y, the class, and all the features which collectively basically are your input x, is the prior probability of the class — that's what lives at the node Y — times the product for all of the other variables of the probability of that variable given its parent, which is the probability
Ta nói phân phối xác suất trên y, tức lớp, và tất cả các đặc trưng, mà gộp lại về cơ bản chính là đầu vào x của bạn, bằng xác suất tiên nghiệm của lớp — cái nằm ở nút Y — nhân với tích, trên tất cả các biến còn lại, của xác suất của biến đó cho trước nút cha của nó, tức là xác suất
of the feature given the class.
của đặc trưng cho trước lớp.
And that means when you go to make a prediction, it decomposes into a product of a bunch of different feature conditional probabilities, and we'll see examples of that and unpack the inference for that.
Và điều đó có nghĩa là khi bạn đi dự đoán, nó phân rã thành tích của rất nhiều xác suất có điều kiện của từng đặc trưng, và ta sẽ xem các ví dụ và triển khai chi tiết phần suy luận đó.
OK, so what do you need in general, because that was one example? What do you need in general?
OK, vậy nói chung ta cần gì, vì đó mới chỉ là một ví dụ? Nói chung ta cần gì?
A general Naive Bayes model places a joint distribution over the following variables, y, which is your class, and some number of features, which you get to define.
Một mô hình Naive Bayes tổng quát đặt một phân phối đồng thời lên các biến sau: y, là lớp của bạn, và một số đặc trưng nào đó, do bạn tự định nghĩa.
You're going to have to write code which extracts them from your input. So if your spam feature is, have more than 10 people received this email in the past hour?
Bạn sẽ phải viết code để trích xuất chúng từ đầu vào. Ví dụ đặc trưng spam của bạn là: có hơn 10 người nhận email này trong một giờ qua không?
You have to write code which extracts the value of that feature, but the machine learning will do the work to connect the probability of that taking on a certain value up to the class.
Bạn phải viết code để trích xuất giá trị của đặc trưng đó, còn học máy sẽ lo việc liên kết xác suất để nó nhận một giá trị nào đó với lớp.
In addition, the way this joint probability is going to work, is you're going to have a prior probability of the class, and then a bunch of little conditional probabilities which directly connect each feature up independently to the class.
Ngoài ra, xác suất đồng thời này hoạt động như sau: bạn có một xác suất tiên nghiệm của lớp, rồi một loạt xác suất có điều kiện nhỏ nối trực tiếp từng đặc trưng độc lập với lớp.
So this whole network, this whole joint distribution that we're describing, is enormous, right? It's going to be exponential in number of features. But the thing we actually build is quite compact.
Vậy toàn bộ mạng này, toàn bộ phân phối đồng thời mà ta đang mô tả, là rất khổng lồ, đúng không? Nó sẽ tăng theo hàm mũ theo số đặc trưng. Nhưng thứ ta thực sự xây dựng thì khá gọn.
All we have to have is y parameters, one for each class value, and then, for each feature, we need to have a little description of how likely that feature is for each class.
Ta chỉ cần y tham số, mỗi giá trị lớp một tham số, rồi với mỗi đặc trưng, ta cần một mô tả nhỏ về khả năng xuất hiện của đặc trưng đó ứng với mỗi lớp.
And that's it. So the Naive Bayes model will be linear in the number of features, whereas the joint probability distribution that you're implicitly describing is exponential in the number of features.
Chỉ vậy thôi. Nên mô hình Naive Bayes sẽ tuyến tính theo số đặc trưng, trong khi phân phối xác suất đồng thời mà ta đang mô tả ngầm thì tăng theo hàm mũ theo số đặc trưng.
So basically, the thing we have to specify is how each feature depends on the class, and we're going to get that from data. All right.
Vậy về cơ bản, thứ ta phải xác định là mỗi đặc trưng phụ thuộc vào lớp như thế nào, và ta sẽ lấy điều đó từ dữ liệu. Được rồi.
Couple things to get out of the way before we look at the actual data stuff. One is, it's a model. So in order to do predictions, you have to do inference.
Có vài điều cần giải quyết trước khi xem phần làm việc với dữ liệu. Thứ nhất, nó là một mô hình. Nên để dự đoán, bạn phải thực hiện suy luận.
Turns out you already know this. There's nothing new here. In fact, it's a simple case of inference by enumeration.
Hóa ra bạn đã biết điều này rồi. Không có gì mới ở đây. Thật ra đây là trường hợp đơn giản của suy luận bằng liệt kê.
So if I would like to compute, the thing I actually want to compute is the probability of y, that is the distribution over all the different class labels, given my features.
Nếu tôi muốn tính, thứ tôi thực sự muốn tính là xác suất của y, tức phân phối trên tất cả các nhãn lớp, cho trước các đặc trưng.
That's what I actually want to compute. But I know that I can just compute the joint version of that, Y comma the features. What is that?
Đó là thứ tôi thực sự muốn tính. Nhưng tôi biết có thể tính phiên bản đồng thời của nó, Y phẩy các đặc trưng. Nó là gì?
Well if that were a lower case y, it would be a scalar. It would be an entry of the joint probability table. Since it's a capital Y, it's a vector, right?
Nếu là y viết thường thì nó là một số vô hướng. Nó sẽ là một mục của bảng xác suất đồng thời. Vì là Y viết hoa nên nó là một vectơ, đúng không?
So it's a one-dimensional vector here that has an entry for each value of y. So there's P of y1 in the features, P of y2 in the features, P of y3, and so on.
Ở đây là một vectơ một chiều có một mục cho mỗi giá trị của y. Tức là có P của y1 và các đặc trưng, P của y2 và các đặc trưng, P của y3, v.v.
If I had all of these probabilities and I normalized, I would have the conditional probability of the class, given the features. All right, so this is what I'm looking for.
Nếu có tất cả các xác suất này và chuẩn hóa, ta sẽ có xác suất có điều kiện của lớp, cho trước các đặc trưng. Được rồi, đây là thứ tôi cần tìm.
I'm looking for this vector of probabilities of feature and class. How do I get them?
Tôi cần tìm vectơ xác suất này của đặc trưng và lớp. Làm sao có được chúng?
Well, for each one of these entries of the joint distribution here, I can rewrite it according to my Bayes net, which is going to be a product of all these little local probabilities.
Với mỗi mục này của phân phối đồng thời, tôi có thể viết lại theo mạng Bayes, nó sẽ là tích của các xác suất cục bộ nhỏ này. xác suất.
It's the product.
Đó là một tích.
Each one is the product of a prior probability of the class, which says whether or not before you see the evidence, this is a class that's common or not, and then a product of a bunch of feature probabilities, which is how likely is this feature for this class.
Mỗi mục là tích của xác suất tiên nghiệm của lớp, cho biết trước khi thấy bằng chứng, lớp này có phổ biến hay không, rồi nhân với một loạt xác suất đặc trưng, tức là đặc trưng này có khả năng xuất hiện thế nào với lớp này.
How likely is this feature for that class, and so on? All right, so you compute all those products. You normalize them. You're done, OK?
Còn đặc trưng này với lớp kia thì sao, v.v.? Được rồi, bạn tính tất cả các tích đó. Rồi chuẩn hóa. Xong, OK?
That's it. It's just variable elimination.
Chỉ vậy thôi. Nó chính là khử biến.
OK, so what do we need? We need an inference method. We've just seen this. We have a Bayes net.
OK, vậy ta cần gì? Ta cần một phương pháp suy luận. Ta vừa thấy rồi. Ta có một mạng Bayes.
In this case, it's super-simple. It's one that assumes all the features are conditionally independent, given the label. We need all of the component probabilities, nothing new.
Trường hợp này cực kỳ đơn giản. Nó giả định tất cả đặc trưng độc lập có điều kiện cho trước nhãn. Ta cần tất cả các xác suất thành phần, không có gì mới.
What's new is, now we also, in order to make this work, we need to know what those probabilities are. How likely is it to have the word free in spam?
Điều mới là, để nó hoạt động, ta còn cần biết các xác suất đó là bao nhiêu. Từ free xuất hiện trong spam với khả năng bao nhiêu?
How likely is it that the center pixel will be on for the number seven? These questions can only be answered by going to data. All right.
Khả năng điểm ảnh ở giữa được bật là bao nhiêu với chữ số bảy? Những câu hỏi này chỉ trả lời được bằng cách dùng dữ liệu. Được rồi.
So the things we're going to need to do, is we're going to need to figure out the prior probability over labels, and for each feature — which is each kind of evidence — we're going to need to compute a bunch of conditional probabilities for each class.
Vậy những việc ta cần làm là phải xác định xác suất tiên nghiệm trên các nhãn, và với mỗi đặc trưng — tức mỗi loại bằng chứng — ta sẽ cần tính một loạt xác suất có điều kiện cho mỗi lớp.
These things collectively, all these probabilities that we use to plug and chug and get our numbers out, are called the parameters of the model. Formally, they're usually denoted by theta.
Tất cả những xác suất này gộp lại, thứ ta dùng để thế số tính ra kết quả, để ta thay số vào và tính ra kết quả, được gọi là các tham số của mô hình. Về mặt hình thức, chúng thường được ký hiệu là theta.
And as I change the parameters of the model, it's still, say, a Naive Bayes model over spam versus ham.
Và khi tôi thay đổi các tham số của mô hình, nó vẫn là, chẳng hạn, một mô hình Naive Bayes phân loại spam và ham.
But as I change the probability, different things are going to blink in and out as I think this is spam now. I think this is ham now.
Nhưng khi tôi đổi xác suất, những thứ khác nhau sẽ bật tắt liên tục, kiểu như bây giờ tôi nghĩ đây là spam. Còn giờ tôi nghĩ đây là ham.
So those numbers, collectively, are going to determine which predictions it makes. So it has to come from data, which parameters we want.
Vậy những con số này, gộp lại, sẽ quyết định mô hình đưa ra dự đoán nào. Nên các tham số mình muốn phải đến từ dữ liệu.
All right, let's see some examples of what these conditional probabilities in a Naive Bayes model would look like. So here's an image. This is the number three.
Được rồi, hãy xem vài ví dụ về các xác suất có điều kiện trong một mô hình Naive Bayes trông như thế nào. Đây là một bức ảnh. Đây là chữ số ba.
The first thing we need in order to apply Naive Bayes to this, is we need a prior probability over the class.
Điều đầu tiên cần có để áp dụng Naive Bayes ở đây là xác suất tiên nghiệm trên các lớp.
And so in this particular vector, in these parameters, each class 1 to 0 is equally likely. What do you think it is in real, if I went to like a real collection of data?
Trong vectơ này, trong các tham số này, mỗi lớp từ 1 đến 0 có khả năng như nhau. Theo bạn thực tế thì sao, nếu tôi đi lấy một bộ dữ liệu thật?
Well, I could get 1,000 examples of the number three, and 1,000 examples of the number four, and 1,000 examples of the number five.
Tôi có thể lấy 1.000 ví dụ của số ba, 1.000 ví dụ của số bốn, và 1.000 ví dụ của số năm.
Probably, I should just get like a million, or, as many as I can get of each number.
Có lẽ tôi nên lấy một triệu, hoặc càng nhiều càng tốt cho mỗi chữ số.
If I constructed the data set in that way, well, then all these prior probabilities would be equal, because in my data, 10% of the examples are 1 and 10% of the examples are two.
Nếu xây dựng tập dữ liệu theo cách đó, thì tất cả các xác suất tiên nghiệm này sẽ bằng nhau, vì trong dữ liệu 10% ví dụ là số 1 và 10% ví dụ là số hai.
What do you think's real? Which number do you think is most common in real data? Or are they all equally common?
Còn thực tế thì sao? Theo bạn chữ số nào phổ biến nhất trong dữ liệu thực? Hay tất cả đều phổ biến như nhau?
So 0 might be common. It depends on the kind of data you're looking at. If you're looking at zip codes in California, what's the most common thing? Nine.
Số 0 có thể phổ biến. Còn tùy loại dữ liệu bạn đang xem. Nếu xem mã bưu chính ở California, số nào phổ biến nhất? Số chín.
If you're looking at lots of round numbers, maybe it's 0. If you're looking at sort of general numbers, it turns out one is particularly common. You can think about why that might be.
Nếu xem nhiều số tròn, có thể là 0. Nếu xem các số nói chung, thì số một đặc biệt phổ biến. Bạn có thể nghĩ xem vì sao.
So these come from data.
Vậy những thứ này đến từ dữ liệu.
And this actually underscores the point that depending on how you collect the data, it can actually shape the distributions that you are imagining are going to exist at test time.
Điều này nhấn mạnh một điểm: cách bạn thu thập dữ liệu có thể định hình các phân phối mà bạn tưởng tượng sẽ có lúc kiểm tra.
We'll come back to that as well when we talk about risk minimization. All right.
Chúng ta sẽ quay lại điều này khi nói về cực tiểu hóa rủi ro. Được rồi.
In addition to the prior probability of each label — which is already maybe a little tricky to get right — in our data, we can compute things like, what is the probability that pixel 3 comma 1 is on, given each class?
Ngoài xác suất tiên nghiệm của mỗi nhãn, vốn đã hơi khó để làm đúng, từ dữ liệu ta có thể tính những thứ như: xác suất điểm ảnh (3, 1) sáng là bao nhiêu, với mỗi lớp?
This isn't a distribution over on or off. These are just the probabilities — what I'm showing here — just the probability of that pixel for each class. And it's going to be some number.
Đây không phải phân phối trên bật hay tắt. Đây chỉ là các xác suất, những gì tôi đang chiếu, chỉ là xác suất của điểm ảnh đó với mỗi lớp. Và nó sẽ là một con số nào đó.
So for example, the pixel in that position might be pretty likely for the number six, but pretty rare for the number one. And these probabilities will encode that.
Ví dụ, điểm ảnh ở vị trí đó có thể khá thường gặp với số sáu, nhưng hiếm với số một. cho số một. Và các xác suất này mã hóa điều đó.
OK? And you'll have that for each of the different pixels. So this is what the conditional probability is in a Naive Bayes model look like. Where did they come from?
OK? Và bạn sẽ có như vậy cho từng điểm ảnh khác nhau. Đó là hình dạng của các xác suất có điều kiện trong một mô hình Naive Bayes. mô hình trông như thế nào. Chúng đến từ đâu?
Well, this number came from saying, all right. In all of my examples of numbers that are the number five, how often was pixel 3,1 on? OK, 80% of them.
Con số này đến từ việc ta nói: được rồi. Trong tất cả các ví dụ là số năm, điểm ảnh (3, 1) sáng bao nhiêu lần? OK, 80% số đó.
Done. That comes from the data.
Xong. Nó đến từ dữ liệu.
It works a little bit differently in practice when people look at models for text.
Trong thực tế, cách làm hơi khác khi người ta xét các mô hình cho văn bản.
So when you look at models of something like an image — where you have a bunch of these pixels — but, you know, a pixel here and a pixel there mean very different things.
Với mô hình của thứ như hình ảnh, nơi bạn có nhiều điểm ảnh, thì một điểm ảnh ở đây và một điểm ảnh ở kia có ý nghĩa rất khác nhau.
The standard model for text is to say that the features are the words and that the random variables are the words at each position.
Mô hình chuẩn cho văn bản coi các đặc trưng là các từ và các biến ngẫu nhiên là các từ tại mỗi vị trí.
So you would say something like, well, I have a joint probability over the class — which could be spam or ham or document classes, or positive or negative sentiment, or whatever — along with the rest of the document, the words.
Vậy bạn sẽ nói, tôi có một xác suất đồng thời trên lớp, có thể là spam hay ham, hoặc các lớp tài liệu, hoặc cảm xúc tích cực hay tiêu cực, v.v. cùng với phần còn lại của tài liệu, tức các từ.
The standard way to write that there in a Naive Bayes model is to say that's the prior probability of the class.
Cách viết chuẩn trong mô hình Naive Bayes là xác suất tiên nghiệm của lớp.
And then the product of — across each position in the document, the probability of the word at that position given the class.
Rồi nhân với tích, qua từng vị trí trong tài liệu, của xác suất của từ tại vị trí đó cho trước lớp.
And so again, this is a naive Bayes model, and — but the random variables now are not something like we're — they're not — the presence or absence of individual words, they're the product across each position of the document of what word is at that position.
Vậy đây vẫn là một mô hình naive Bayes, nhưng các biến ngẫu nhiên bây giờ không phải sự có mặt hay vắng mặt của từng từ, mà là tích qua từng vị trí của tài liệu về việc từ nào nằm ở vị trí đó.
So this is actually interesting, because I have — in the image case, I had lots and lots of features, because it's a big grid. But each one was either on or off, right?
Điều này khá thú vị, vì với ảnh, tôi có rất nhiều đặc trưng, vì đó là một lưới lớn. Nhưng mỗi đặc trưng chỉ bật hoặc tắt, đúng không?
With a document, one, they can be of any length. And two, each position has a large event space. There's a whole bunch of words that can be at position 23 in the document.
Với tài liệu, thứ nhất, nó có thể dài bất kỳ. Thứ hai, mỗi vị trí có không gian biến cố lớn. Có cả đống từ có thể nằm ở vị trí 23 trong tài liệu.
But for the purposes of detecting spam versus ham, it doesn't really matter whether a word occurs at position 23 or 24, right?
Nhưng để phát hiện spam hay ham, một từ xuất hiện ở vị trí 23 hay 24 thật ra không quan trọng.
When you see print cartridge, I guess two words, at a certain position, it probably doesn't matter what position it's in. And so for these people, look at models which have an even stronger assumption.
Khi bạn thấy print cartridge, tôi đoán là hai từ, ở một vị trí nào đó, có lẽ vị trí đó không quan trọng. Vì vậy người ta xét các mô hình có giả định còn mạnh hơn.
They assume not only are the features conditionally independent of each other given the class, they also assume that they're identically distributed.
Họ giả định không chỉ các đặc trưng độc lập có điều kiện với nhau cho trước lớp, mà chúng còn có cùng phân phối.
And that means the probability distribution over the words at position 23 and the probability distribution over the words at position 54 are the same single probability distribution.
Nghĩa là phân phối xác suất trên các từ ở vị trí 23 và phân phối xác suất trên các từ ở vị trí 54 là cùng một phân phối xác suất duy nhất.
And that means for a Naive Bayes model for text, the only thing you actually have to learn is for each class, what is the histogram of words?
Nghĩa là với mô hình Naive Bayes cho văn bản, thứ duy nhất bạn thực sự phải học là với mỗi lớp, histogram của các từ trông thế nào?
What is the probability distribution over words in that class? These are tied distributions.
Phân phối xác suất nào trên các từ trong lớp đó? Đây là các phân phối được ràng buộc dùng chung.
This is called a bag of words model, and this is different than the standard case because in the standard case, each feature gets its own distribution.
Đây gọi là mô hình bag of words, và nó khác với trường hợp chuẩn vì trong trường hợp chuẩn, mỗi đặc trưng có phân phối riêng của nó.
Here, we assume the features are all identically distributed, but there are multiple copies of that feature for the different positions.
Ở đây, ta giả sử các đặc trưng đều có cùng phân phối, nhưng có nhiều bản sao của đặc trưng đó cho các vị trí khác nhau.
And this is nice, because when the document is longer or shorter, you don't really need to change your model.
Điều này tiện, vì khi tài liệu dài hơn hay ngắn hơn, bạn thật sự không cần đổi mô hình.
Or, it is the first time you've had a document that is, you know, one word longer than the longest thing you've ever seen, you're like, oh man, what does that last word mean?
Hoặc, lần đầu bạn gặp một tài liệu mà dài hơn một từ so với tài liệu dài nhất bạn từng thấy, bạn sẽ nghĩ, trời, từ cuối này nghĩa là gì?
Right? It's the same as it means in any other position. OK. Let's do an example of spam filtering here.
Đúng không? Nó có nghĩa giống như ở mọi vị trí khác. OK. Ta làm một ví dụ lọc thư rác ở đây.
In this bag of words model for text, which means the probability over the class in the words is the product of the probability of the class times the probability of each word independently, given the class.
Trong mô hình bag of words cho văn bản này, xác suất của lớp cùng các từ là tích của xác suất lớp nhân với xác suất của từng từ một cách độc lập, cho trước lớp.
And remember, the words are identically distributed. So I just go through, and each word that comes in is going to get a probability for each class.
Và nhớ rằng các từ có cùng phân phối. Nên tôi cứ đi qua, và mỗi từ đến sẽ cho một xác suất với mỗi lớp.
And there's going to be a race to see which class wins in terms of probability. So what am I going to do?
Và sẽ có một cuộc đua xem lớp nào thắng về xác suất. Vậy tôi sẽ làm gì?
I'm going to have to see the words that come in, but I'm going to, in the end, compute two things.
Tôi phải thấy các từ đến, nhưng cuối cùng tôi sẽ tính hai thứ.
I'm going to compute the probability of spam along with all of the words, and I'm going to compute the probability of ham along with all the words. And then, those will be numbers.
Tôi sẽ tính xác suất của spam cùng với tất cả các từ, và tôi sẽ tính xác suất của ham cùng với tất cả các từ. Và đó sẽ chỉ là những con số.
They won't sum to one. In fact, they're going to be really, really small numbers.
Chúng không có tổng bằng một. Thực ra, chúng sẽ là những số rất, rất nhỏ.
You multiply 100 probabilities together, you get a small number, small enough that you would have to worry about underflow in practice. So we're going to compute these probabilities.
Nhân 100 xác suất với nhau, bạn được một số nhỏ, đủ nhỏ để trong thực tế bạn phải lo về underflow. Vậy ta sẽ tính các xác suất này.
Whichever one is bigger, that's going to be my prediction. If I want to know the probability that I assign, I would have to re-normalize.
Số nào lớn hơn, đó sẽ là dự đoán của tôi. Nếu muốn biết xác suất mà tôi gán, tôi phải chuẩn hóa lại.
I have to take these two numbers and divide them by their sum. So let's do it. Let's see. We're going to compute incrementally, as the words come in, position by position.
Tôi phải lấy hai số này chia cho tổng của chúng. Ta làm thôi. Xem nào. Ta sẽ tính dần dần, khi các từ đến, từng vị trí một.
We're going to compute probability of spam and the words, probability of ham and the words. So here we go.
Ta sẽ tính xác suất của spam và các từ, xác suất của ham và các từ. Bắt đầu nào.
Let's look at the tables first. I will give you this one, actually. Maybe I should have hidden it.
Trước hết xem các bảng. Thực ra tôi sẽ cho các bạn bảng này. Có lẽ lẽ ra tôi nên giấu nó đi.
It turns out, in this corpus, 2/3 of the emails are ham, and 1/3 of them are spam. How would you say this relates to the emails you get?
Hóa ra trong corpus này, 2/3 số email là ham, và 1/3 là spam. Các bạn thấy điều này so với email của mình thế nào?
You get more spam than this, or less? Probably a lot more. So spam has gotten worse since this corpus was collected.
Các bạn nhận nhiều spam hơn thế này hay ít hơn? Chắc chắn nhiều hơn nhiều. Vậy spam đã tệ hơn từ khi corpus này được thu thập.
And again, this underscores that just because there's some distribution that your data reflects, and then there's the real world. And you want those to be as close as possible.
Và điều này nhấn mạnh lần nữa rằng có một phân phối mà dữ liệu của bạn phản ánh, và rồi có thế giới thực. Và bạn muốn hai thứ đó gần nhau nhất có thể.
And if there's major, major systematic ways in which your data and the distribution it was drawn from in its construction do not match the distribution in the real world that you're going to field your classifier against, you're going to have issues.
Và nếu có những khác biệt mang tính hệ thống lớn khiến dữ liệu của bạn và phân phối mà nó được lấy ra khi xây dựng không khớp với phân phối trong thế giới thực nơi bạn sẽ triển khai bộ phân loại, bạn sẽ gặp vấn đề.
One major issue you can have is reduced accuracy.
Một vấn đề lớn có thể gặp là độ chính xác giảm.
All right, so for these others, if I'm going to build an Naive Bayes model for spam filtering, I need to collect the prior, which is going to turn out to be less important than the other components.
Được rồi, vậy với các phần còn lại, nếu tôi xây mô hình Naive Bayes để lọc spam, tôi cần thu thập xác suất tiên nghiệm, thứ hóa ra ít quan trọng hơn các thành phần khác.
And then I need to compute for spam, what is the histogram of words, and for ham, what is the histogram of words? So let's look at the spam one first.
Rồi tôi cần tính, với spam, histogram của các từ là gì, và với ham, histogram của các từ là gì? Ta xem bảng spam trước.
What do you think is the most frequent word in spam? I heard free. What else? Any other guesses?
Các bạn nghĩ từ nào xuất hiện nhiều nhất trong spam? Tôi nghe thấy free. Còn gì nữa? Có đoán nào khác không?
I heard the. You laugh, but here's the answer. What's going on here? I thought free meant spam.
Tôi nghe thấy the. Các bạn cười, nhưng đây là đáp án. Chuyện gì đang xảy ra vậy? Tôi tưởng free nghĩa là spam.
This is not an odds ratio. This is not words that are much more likely in spam than ham. This is simply, in this model, the probability of word given class.
Đây không phải là tỷ lệ odds. Đây không phải các từ có khả năng xuất hiện trong spam cao hơn hẳn ham. Đây đơn giản, trong mô hình này, là xác suất của từ cho trước lớp.
And in spam, the most likely word is the. Somewhere far down that list is the word free. How about for ham? What do you think's the most likely word?
Và trong spam, từ có khả năng nhất là the. Từ free nằm đâu đó rất xa trong danh sách đó. Còn với ham thì sao? Các bạn nghĩ từ nào có khả năng nhất?
Yeah, it's the too. So these, it turns out that if you just look, with a couple of weird exceptions like 2002, any guesses when this corpus was collected?
Đúng, cũng là the. Vậy hóa ra nếu bạn chỉ nhìn, trừ vài ngoại lệ lạ như 2002, đoán xem corpus này được thu thập khi nào? Các bạn có đoán được không?
If you just look at the most common words, this is not where the information is.
Nếu chỉ nhìn các từ phổ biến nhất, thông tin không nằm ở đó.
In fact, the information or model like this is in the relative probabilities, because they're going to be this race that I talked about here, that we're going to be accumulating two probabilities.
Thực ra, thông tin của một mô hình như thế này nằm ở các xác suất tương đối, vì sẽ có cuộc đua mà tôi đã nói ở đây, trong đó ta tích lũy hai xác suất.
And as we go, the joint probability is going to drop. Because this particular message is not particularly likely under the document for either class.
Và khi đi tiếp, xác suất đồng thời sẽ giảm xuống. Vì thông điệp cụ thể này không đặc biệt có khả năng xảy ra dưới tài liệu của cả hai lớp.
But for one of the classes, it's going to be, relatively speaking, meaning the ratio, is going to be much more likely.
Nhưng với một trong hai lớp, nó sẽ tương đối, nghĩa là xét về tỷ lệ, có khả năng cao hơn nhiều.
And so what matters is actually the relative — the ratio of these frequencies. So somewhere down there is the word free, which is presumably much more likely in the spam.
Và vì vậy điều quan trọng thực ra là tỷ lệ của các tần suất này. Đâu đó phía dưới kia là từ free, mà chắc chắn có khả năng xuất hiện trong spam cao hơn nhiều.
All right, so where do these tables come from? They come from data. Let's do that example I promised you. So we're sitting here.
Được rồi, vậy các bảng này từ đâu ra? Chúng đến từ dữ liệu. Giờ làm ví dụ mà tôi đã hứa với các em. Giả sử chúng ta đang ngồi đây.
We're the spam classifier. We're a Naive Bayes classifier, and we're going to produce a joint probability by multiplying in evidence terms as the words come in.
Chúng ta là bộ phân loại spam. Chúng ta là bộ phân loại Naive Bayes, và chúng ta sẽ tạo ra một xác suất đồng thời bằng cách nhân thêm các số hạng bằng chứng khi từng từ xuất hiện.
Right now, no words have come in, which means we only have one term product, which is the prior probability of each class.
Hiện giờ chưa có từ nào xuất hiện, nghĩa là ta chỉ có một thừa số, đó là xác suất tiên nghiệm của mỗi lớp.
So right now, our running total here would be 0.33 for spam, and 0.66 for ham, which means if you asked me now, I would say, that's ham.
Vậy hiện giờ tổng đang chạy của ta là 0.33 cho spam và 0.66 cho ham, nghĩa là nếu các em hỏi tôi lúc này, tôi sẽ nói đó là ham.
And if you asked me how confident I was, I would say I predict 2/3 chance of ham. All right.
Và nếu hỏi tôi tự tin đến mức nào, tôi sẽ nói tôi dự đoán 2/3 khả năng là ham. Được rồi.
The terms that are going to show up on the left here are going to be the evidence terms for each word as it comes in.
Các số hạng xuất hiện ở bên trái sẽ là các số hạng bằng chứng cho từng từ khi nó xuất hiện.
The thing on the right here is the product of all of these terms.
Còn thứ bên phải là tích của tất cả các số hạng này.
What, minus 1.1. It's not just going to be the product, because that product is going to get very small very quickly. It is going to be the log of the product, OK?
Là, trừ 1.1. Nó không chỉ đơn giản là tích, vì tích đó sẽ nhỏ đi rất nhanh. Nó sẽ là log của tích, nhé?
So, so far, we think it's ham because the log of that product is higher. All right, next word comes in. Gary. Remember, Gary is not particularly likely under either distribution.
Vậy cho đến giờ ta nghĩ là ham vì log của tích đó cao hơn. Được rồi, từ tiếp theo xuất hiện. Gary. Nhớ rằng Gary không đặc biệt có khả năng xảy ra trong cả hai phân phối.
This is a generative model, and that means that we're going to have the probability of the features given the evidence, and Gary is not particularly likely for either ham or spam.
Đây là mô hình sinh, và điều đó nghĩa là ta có xác suất của các đặc trưng cho trước lớp, và Gary không đặc biệt có khả năng xảy ra ở ham hay spam.
But what is it more likely for? It's much more likely in ham, right? Direct address, actually knowing who you're writing to, that's much more likely in ham. But it's not particularly likely there.
Nhưng nó có khả năng hơn ở đâu? Ở ham nhiều hơn hẳn, đúng không? Gọi thẳng tên, thực sự biết mình đang viết cho ai, điều đó có khả năng ở ham cao hơn nhiều. Nhưng ở đó nó cũng không đặc biệt cao.
Why? Most people aren't named Gary. All right. But if you look, suddenly now, if you stopped me and you said, OK right now.
Tại sao? Phần lớn mọi người không tên là Gary. Được rồi. Nhưng giờ nếu các em dừng tôi lại và nói, được rồi, ngay bây giờ.
It's time to make a prediction. Ham or spam? What would I pick? I would pick ham, because there's a bigger number, right?
Đến lúc phải dự đoán. Ham hay spam? Tôi sẽ chọn gì? Tôi sẽ chọn ham, vì số đó lớn hơn, đúng không?
They're negative, because they're logs of probabilities. And if you asked me how confident I was, I would say I'm much more confident.
Chúng âm, vì là log của các xác suất. Và nếu các em hỏi tôi tự tin đến mức nào, tôi sẽ nói là tự tin hơn nhiều.
I'm 10 times more confident than I was before, because I've seen this word Gary. All right. Gary, would.
Tự tin gấp 10 lần so với trước, vì tôi đã thấy từ Gary này. Được rồi. Gary, would.
This is one of those words that's actually quite common, but it's not, you know, that asymmetric. It doesn't change my beliefs that much. You can think about these as belief updates.
Đây là một từ khá phổ biến, nhưng không bất đối xứng lắm. Nó không làm thay đổi niềm tin của tôi nhiều. Các em có thể xem đây là các cập nhật niềm tin.
Think back to the HMM. Evidence is coming in, my beliefs update as I multiply in terms of probability.
Hãy nhớ lại HMM. Bằng chứng đến, niềm tin của tôi được cập nhật khi tôi nhân thêm các số hạng xác suất.
Maybe makes me think a little more ham, because would is one of those nice, harmless, common words that occurs in natural text. Gary, would, you, you is a mildly suspicious word.
Có thể khiến tôi nghiêng về ham hơn chút, vì would là một từ lành tính, phổ biến xuất hiện trong văn bản tự nhiên. Gary, would, you, you là một từ hơi đáng ngờ.
It's super-common, but it turns out it's a little bit more common in spam.
Nó cực kỳ phổ biến, nhưng hóa ra nó phổ biến hơn một chút trong spam.
But you can see how, like, it's not like I'm going to delete every email that has the word you in it. So we get little bits of weak evidence that need to get aggregated.
Nhưng các em thấy đó, đâu phải tôi sẽ xóa mọi email có chứa từ you. Vậy ta có những mẩu bằng chứng yếu cần được tổng hợp lại.
In this model, the way they're aggregated is multiplying their conditional probabilities. Gary, would you like to lose weight while you sleep?
Trong mô hình này, cách tổng hợp là nhân các xác suất có điều kiện của chúng. Gary, would you like to lose weight while you sleep?
And then once you've seen the whole email, and you look at the end, you'll notice two things. One, the total probability is very small, because I multiplied a bunch of probabilities.
Và khi đã thấy toàn bộ email, nhìn vào cuối cùng, các em sẽ nhận ra hai điều. Một, tổng xác suất rất nhỏ, vì tôi đã nhân cả loạt xác suất.
That's fine. That's always true, in Bayes net inference. I have to divide both of these very small numbers by their sum to get the conditional posterior that I want.
Không sao. Điều đó luôn đúng trong suy luận mạng Bayes. Tôi phải chia cả hai số rất nhỏ này cho tổng của chúng để có xác suất hậu nghiệm có điều kiện mà tôi muốn.
And if you look at this now, it thinks it's spam. Somewhere in there, somewhere around lose weight it changed its mind. You can see, weight is a pretty strong indicator.
Và nhìn vào đây, giờ nó cho là spam. Đâu đó trong đó, khoảng chỗ lose weight nó đã đổi ý. Các em thấy weight là một chỉ báo khá mạnh.
Apparently so is sleep. OK. So this is what it's like to be a Naive Bayes model. Features come in, you aggregate all of the weak evidence, and then you output.
Hình như sleep cũng vậy. OK. Vậy làm một mô hình Naive Bayes là như thế này. Đặc trưng đến, bạn tổng hợp tất cả bằng chứng yếu, rồi đưa ra kết quả.
Another nice thing, even though it's sort of — you've got to take a step back to see it, is that there is actually conflicting evidence on this example.
Một điều hay nữa, dù phải lùi lại một bước mới thấy, là trong ví dụ này thực ra có bằng chứng mâu thuẫn.
There was some evidence that it was ham, and there is some evidence it was spam. There's a bunch of examples of both.
Có bằng chứng cho thấy đó là ham, và cũng có bằng chứng cho thấy là spam. Có cả loạt ví dụ của cả hai.
And this all needed to be weighed, and that's what's going on here in the conditional model. All right. Probability of spam, 98.9.
Tất cả cần được cân nhắc, và đó là điều đang diễn ra ở đây trong mô hình có điều kiện. Được rồi. Xác suất spam, 98.9. Gary khởi đầu tốt, nhưng sau đó đi xuống.
Gary was off to a good start, but went downhill from there. Any questions? Yep.
Có câu hỏi nào không? Vâng. Vâng.
STUDENT
[INAUDIBLE] PROFESSOR: The question is, can you use the log for the final? It's actually very common when you're multiplying probabilities to just add log probabilities instead.
[KHÔNG NGHE RÕ] GIÁO SƯ: Câu hỏi là có thể dùng log cho kết quả cuối không? Khi nhân các xác suất, rất phổ biến là thay vào đó cộng các log xác suất.
In the end, when you want to turn it into probabilities, you do need to sum them. And summing the logs won't do that.
Cuối cùng, khi muốn chuyển về xác suất, bạn vẫn cần lấy tổng chúng. Và cộng các log sẽ không làm được điều đó. Và cộng các log sẽ không làm được điều đó.
You need to do a sort of log sum, which one way to do that is to convert them back to probabilities by taking exponentials. That's actually not the way you would do it.
Bạn cần làm một kiểu log sum, mà một cách là chuyển chúng về lại xác suất bằng cách lấy hàm mũ. Nhưng thực ra người ta không làm như vậy.
You would sort of shift them by their minimum or their maximum as appropriate so that you don't get underflow. So when you actually do these things, you gotta worry about that.
Bạn sẽ dịch chúng đi theo giá trị nhỏ nhất hoặc lớn nhất tùy trường hợp, để không bị underflow. Nên khi thực sự cài đặt những thứ này, bạn phải lưu ý điều đó.
But conceptually, you multiply all the probabilities. You get a small number, and then you re-normalize. Yep?
Nhưng về mặt khái niệm, bạn nhân tất cả các xác suất. Bạn được một số rất nhỏ, rồi bạn chuẩn hóa lại. Vâng?
STUDENT
[INAUDIBLE] PROFESSOR: Yep. That's a great question.
[KHÔNG NGHE RÕ] GIÁO SƯ: Vâng. Câu hỏi rất hay.
Here's another model. Here's y, your class. Here's word one, word two, word three, word four, and so on. I can assume that each word depends on the class and also the previous word.
Đây là một mô hình khác. Đây là y, lớp của bạn. Đây là từ một, từ hai, từ ba, từ bốn, và cứ thế. Tôi có thể giả sử mỗi từ phụ thuộc vào lớp và cả từ đứng trước nó.
What am I — can probabilities look like?
Xác suất sẽ trông thế nào?
Well, except for the beginning — and I can get rid of that by having a start symbol — sort of the workhorse term for this model is what is the probability of our word k, given word k minus 1 and the class.
Ngoại trừ phần đầu, mà tôi có thể loại bỏ bằng cách dùng một ký hiệu bắt đầu, thì số hạng chủ lực của mô hình này là xác suất của từ k, cho trước từ k trừ 1 và lớp.
OK? This part without the class is what's called a bigram model. You're predicting words based on the previous word, so you're looking at by two words at a time.
Được chứ? Phần này khi bỏ lớp đi gọi là mô hình bigram. Bạn dự đoán từ dựa trên từ đứng trước, tức là xét hai từ một lúc.
And now we've made it conditional on a class. This Is a better model of language.
Và giờ ta cho nó có điều kiện theo lớp. Đây là mô hình ngôn ngữ tốt hơn.
If you started, if you did prediction in this, and you started with the class and you cranked out a pretend document, it would look significantly more like a real email than if you just did a bag of words where it would just be a bunch of, like, English-looking words in some random order.
Nếu bạn dự đoán với mô hình này, bắt đầu từ lớp rồi sinh ra một tài liệu giả, nó trông giống email thật hơn nhiều so với bag of words, vốn chỉ là một đống từ trông như tiếng Anh theo thứ tự ngẫu nhiên.
However, will it be more accurate for classification? It really depends. In general, it will be a little more accurate, but at a cost of having significantly more complicated conditional probabilities to estimate.
Tuy nhiên, nó có chính xác hơn khi phân loại không? Còn tùy. Nói chung nó sẽ chính xác hơn một chút, nhưng đổi lại phải ước lượng các xác suất có điều kiện phức tạp hơn rất nhiều.
How much more accurate will depend on to what degree the bag of words assumption is dangerous.
Chính xác hơn bao nhiêu tùy vào mức độ nguy hiểm của giả định bag of words.
So if I take a spam document, and I permute all the words randomly, Ive definitely, like it is no longer syntactically-valid English. But it's probably still spam, right?
Nếu tôi lấy một tài liệu spam và hoán vị tất cả các từ ngẫu nhiên, chắc chắn nó không còn là tiếng Anh đúng cú pháp. Nhưng nhiều khả năng nó vẫn là spam, đúng không?
In the same way, like, I take a document that's a sports document, and I've been doing sports versus politics. And I permute the words, and now it's like this whole mess of words.
Tương tự, tôi lấy một tài liệu về thể thao, và tôi đang phân loại thể thao với chính trị. Tôi hoán vị các từ, và giờ nó là một mớ từ lộn xộn.
And I can't read it, but it's like, you know, it's like goal, team, win, right? It still hasn't changed.
Tôi không đọc được, nhưng nó vẫn kiểu bàn thắng, đội, thắng, đúng không? Nó vẫn không đổi.
And so if you're looking for a class which is not kind of strongly connected to the actual ordering, Naive Bayes is really good. Otherwise, you add other correlations like this to fix it.
Nên nếu bạn cần phân loại một lớp không gắn chặt với thứ tự thực tế của từ, thì Naive Bayes rất tốt. Nếu không, bạn thêm các tương quan khác như thế này để khắc phục.
OK? Other questions? Good questions. All right.
Được chứ? Còn câu hỏi nào khác không? Các câu hỏi hay. Được rồi.
A couple more general slides, and then, we'll take a break. So, actually, I changed my mind. Let's take a break now.
Còn vài slide tổng quát nữa, rồi ta nghỉ giải lao. À, thực ra tôi đổi ý rồi. Ta nghỉ giải lao ngay bây giờ.
We are now into the machine learning section which means we are done with the spooky Halloween time ghost-busting section. But I have candy.
Giờ ta bước vào phần học máy, nghĩa là ta xong phần săn ma rùng rợn dịp Halloween. Nhưng tôi có kẹo.
So during the break, everybody get up and come grab candy if you would like.
Nên trong giờ nghỉ, mọi người đứng dậy lên lấy kẹo nếu muốn.
This gets applause? All right. Come up and grab some, please. I'm not allowed to take it home.
Cái này mà cũng được vỗ tay à? Được rồi. Lên lấy một ít đi. Tôi không được mang nó về nhà.
[NO SPEECH] All right, we're going to get started again.
[KHÔNG CÓ LỜI] Được rồi, ta bắt đầu lại.
Let me say, your candy consuming I would rate as middle of the road. You can come back up to the — at the end of the class if you would like to grab more.
Tôi phải nói là khả năng ăn kẹo của các bạn chỉ ở mức trung bình. Cuối buổi học bạn có thể lên lấy thêm nếu muốn.
All right, so let's talk about training and testing.
Được rồi, giờ ta nói về huấn luyện và kiểm tra.
So we talked a little bit about we want to build classifiers.
Ta đã nói sơ qua rằng ta muốn xây dựng các bộ phân loại.
We're going to do it on the basis of data, because how the hell — how the heck am I supposed to know what pixel 7 comma 3 is for the number eight?
Ta sẽ làm điều đó dựa trên dữ liệu, vì làm sao tôi biết được pixel (7, 3) của chữ số tám là gì?
I've got to get that from the data. How am I supposed to know what is the probability of, you know, a certain word for a certain class?
Tôi phải lấy nó từ dữ liệu. Làm sao tôi biết được xác suất của một từ nào đó đối với một lớp nào đó?
You go to a collection of data, and you find it there. But, there's sort of something missing there, which is why are we doing that?
Bạn tìm đến một tập dữ liệu và tìm ra nó ở đó. Nhưng ở đây còn thiếu một thứ, đó là tại sao ta làm vậy?
We're sort of doing that because we want to do well on the final exam. What's the final exam?
Ta làm vậy vì ta muốn làm tốt bài thi cuối kỳ. Bài thi cuối kỳ là gì?
The final exam is, this classifier is released into your inbox and it actually manages to find all of the spam with high accuracy.
Là khi bộ phân loại này được đưa vào hộp thư của bạn và nó thực sự tìm ra toàn bộ thư rác với độ chính xác cao.
So there's got to be some connection between what's going on in your data — which is what you have — and this future used to which you're going to put the classifier to.
Vậy phải có mối liên hệ nào đó giữa những gì có trong dữ liệu của bạn, thứ bạn đang có, và việc sử dụng trong tương lai mà bạn sẽ đưa bộ phân loại vào.
And a lot of machine learning theory is really based on trying to say something precise about the connection between those two things.
Và rất nhiều lý thuyết học máy dựa trên việc cố gắng nói điều gì đó chính xác về mối liên hệ giữa hai thứ này.
So what we're going talk about now is a couple things relating to training, the mechanics of how you do parameter estimation in this particular model.
Vậy điều ta sắp nói bây giờ là vài vấn đề liên quan đến huấn luyện, cơ chế ước lượng tham số trong mô hình cụ thể này.
But really, the reason we're doing this is not just for Naive Bayes, or probabilistic model estimation in general, but to see examples of more general phenomena and tradeoffs and concerns that occur in machine learning more broadly.
Nhưng thực ra lý do ta làm việc này không chỉ cho Naive Bayes, hay ước lượng mô hình xác suất nói chung, mà để thấy các ví dụ về những hiện tượng tổng quát hơn, những đánh đổi và mối bận tâm xuất hiện trong học máy học máy nói chung.
So remember, the general setup is going to be, we're going to have a training set. We're going to build a classifier, and we're going to unleash it on the world.
Hãy nhớ thiết lập chung là thế này, chúng ta có một tập huấn luyện. Chúng ta xây dựng một bộ phân loại, rồi thả nó ra ngoài thế giới thực.
So the basic principle of machine learning is something called empirical risk minimization, and we'll get into this in a great amount of detail in the next few slides, and then particularly, in the next couple of lectures after this one.
Nguyên lý cơ bản của học máy gọi là cực tiểu hóa rủi ro thực nghiệm (empirical risk minimization), và ta sẽ đi vào rất chi tiết phần này trong vài slide tới, và đặc biệt là trong vài bài giảng sau bài này.
The principle of empirical risk minimization goes something like this.
Nguyên lý cực tiểu hóa rủi ro thực nghiệm đại khái như sau.
We would like to find the model, classifier, whatever, that does the best — whatever the best means — on our true test distribution.
Ta muốn tìm mô hình, bộ phân loại, gì cũng được, mà hoạt động tốt nhất, "tốt nhất" hiểu theo nghĩa nào cũng được, trên phân phối kiểm tra thực sự của ta.
So maybe we would like to find somehow, get the Naive Bayes spam classifier, which is most accurate at finding spam in real people's inboxes today.
Ví dụ, ta muốn tìm bộ phân loại thư rác Naive Bayes chính xác nhất trong việc phát hiện thư rác trong hộp thư của người dùng thật hiện nay.
We don't actually know that true distribution.
Nhưng ta không thực sự biết phân phối thật đó.
Like, we don't actually know what it's going to see at test time, in the same way that when you go to your final exam, you don't actually know what questions you're going to get.
Tức là ta không biết nó sẽ gặp gì lúc kiểm tra, cũng như khi các em đi thi cuối kỳ, các em không biết mình sẽ gặp câu hỏi nào.
You don't know what distribution they're going to be drawn from. So how do you make progress? Well, what you do know is you have a training set.
Các em không biết chúng được rút ra từ phân phối nào. Vậy làm sao tiến triển được? Điều ta biết là ta có một tập huấn luyện.
And you can't pick the parameters which are going to do best for your true test distribution, so instead, we try to pick the best model on our training set and hope there's a connection between those two.
Ta không thể chọn tham số tốt nhất cho phân phối kiểm tra thật, nên ta chọn mô hình tốt nhất trên tập huấn luyện và hy vọng hai thứ này có liên hệ với nhau.
Finding the best model on your training set is usually phrased, at some level, as an optimization problem.
Tìm mô hình tốt nhất trên tập huấn luyện thường được phát biểu, ở mức nào đó, như một bài toán tối ưu.
Today, we're going to appeal more to just directly estimation of probabilities, but by the time we get to optimization-based methods over the next couple of lectures, you'll see this more generally.
Hôm nay ta thiên về ước lượng trực tiếp các xác suất, nhưng đến khi học các phương pháp dựa trên tối ưu trong vài bài tới, các em sẽ thấy điều này tổng quát hơn.
It's usually an optimization problem. Optimize some quantity on my training set in the hopes that that quantity will remain optimized on the test set, or at least nearly so.
Thường đó là một bài toán tối ưu. Tối ưu một đại lượng trên tập huấn luyện với hy vọng đại lượng đó vẫn tối ưu trên tập kiểm tra, hoặc ít nhất là gần như vậy.
So what can go wrong here? The main worry, and this will be a little abstract now. We'll see some concrete examples coming up. The main worry is that you over-fit.
Vậy điều gì có thể sai? Mối lo chính, và giờ nghe còn hơi trừu tượng. Sau này ta sẽ có ví dụ cụ thể. Mối lo chính là quá khớp (overfitting).
The main worry is that in picking the parameters of your model — for example, the probabilities of various words — on the basis of your training data, you do a really good job of capturing that training data, but it doesn't generalize.
Mối lo chính là khi chọn tham số của mô hình, ví dụ xác suất của các từ khác nhau, dựa trên dữ liệu huấn luyện, mô hình nắm bắt dữ liệu huấn luyện rất tốt, nhưng lại không khái quát hóa được.
This is like you download all the exams from past years, and you optimize. You learn all those answers.
Giống như em tải hết đề thi các năm trước về, rồi tối ưu. Em học thuộc hết các đáp án đó.
And then you go to the final exam, and it's totally, totally different questions that look nothing like those. That's going to be a problem. So you worry about over-fitting.
Rồi em vào phòng thi cuối kỳ, và các câu hỏi hoàn toàn khác, chẳng giống gì những đề kia. Thế là có vấn đề. Nên ta lo về quá khớp.
Now, there's ways you can — first of all, there's a couple of different things that can go wrong here.
Có nhiều cách để... trước hết, có vài thứ khác nhau có thể sai ở đây.
One thing that can go wrong when you deploy a classifier is the training distribution does actually represent the test distribution, right?
Một thứ có thể sai khi triển khai bộ phân loại là phân phối huấn luyện không thực sự đại diện cho phân phối kiểm tra, đúng không?
So those practice exams were written by the same people for the same course or whatever, as the test exam, but you didn't actually have enough.
Các đề luyện tập đó do cùng những người ra, cho cùng môn học, như đề thi thật, nhưng em lại không có đủ.
You just had a couple samples here, and those samples sort of didn't really shine light over the whole space of things that you might encounter. That's a problem of not enough training data.
Em chỉ có vài mẫu, và các mẫu đó không thực sự chiếu sáng toàn bộ không gian những thứ mà em có thể gặp. Đó là vấn đề thiếu dữ liệu huấn luyện.
So we try to get as much training day as we can. What else could go wrong? You could have a ton of practice exams, but you could over-fit as a learner.
Nên ta cố có càng nhiều dữ liệu huấn luyện càng tốt. Còn gì có thể sai nữa? Em có thể có cả đống đề luyện tập, nhưng người học lại bị quá khớp.
You could just rote memorize those examples, those test questions. You get to your final exam and you're like, wait. It's not one of the ones I memorized. OK?
Em chỉ học vẹt các ví dụ đó, các câu hỏi kiểm tra đó. Đến kỳ thi cuối, em kiểu: khoan. Đây không phải câu mình đã học thuộc. Được chứ?
There, the problem might not be with the training set, though. The problem is that the learning over-fit to the training set. How do we limit that? Mechanically, we limit that in a couple ways.
Lúc này vấn đề có thể không nằm ở tập huấn luyện. Vấn đề là quá trình học đã quá khớp với tập huấn luyện. Làm sao hạn chế điều đó? Về mặt kỹ thuật, ta hạn chế theo vài cách.
We limit the complexity of your hypothesis. We have to say precisely what that means later.
Ta hạn chế độ phức tạp của giả thuyết. Sau này ta sẽ nói chính xác ý đó là gì.
We penalize sort of overly-specific models in various kinds of ways, and we'll see some examples of that even today. And then, there are other ways this can go wrong.
Ta phạt các mô hình quá cụ thể theo nhiều cách, và ta sẽ thấy vài ví dụ ngay hôm nay. Và còn những cách khác để nó đi sai.
So one way, so how can you do badly on the final exam? You can have not enough training data, and there's just no way to have sort of seen the whole space.
Vậy làm sao thi cuối kỳ dở được? Có thể do không đủ dữ liệu huấn luyện, và không cách nào thấy hết toàn bộ không gian.
You can have plenty of training data, but you can sort of learn in a way that fails to generalize. And then, you can have tons of data drawn from the wrong distribution.
Có thể có nhiều dữ liệu huấn luyện, nhưng học theo cách không khái quát hóa được. Và còn có thể có rất nhiều dữ liệu được rút từ sai phân phối.
What would this mean? This would be like you study, and study, and study, and study all these practice exams.
Điều này nghĩa là gì? Giống như em học, học, học mãi tất cả các đề luyện tập đó.
You spend weeks doing practice exams for CS189, and then you walk into the CS188 final. You're like, something's wrong here. I learned really well. I understand the concepts, but it's just not lining up.
Em dành nhiều tuần làm đề luyện tập môn CS189, rồi bước vào kỳ thi cuối CS188. Em thấy: có gì đó sai sai. Mình đã học rất kỹ. Mình hiểu khái niệm, nhưng sao không khớp.
OK, that's a drift in distribution. That's where your training examples were plentiful, but they were drawn from a distribution which does not match the one that you're going to see at test time.
Đó là sự trôi lệch phân phối (drift). Ở đó ví dụ huấn luyện rất dồi dào, nhưng được rút từ một phân phối không khớp với phân phối mà ta sẽ gặp lúc kiểm tra.
Machine learning theory has the most to say about the first few things, right? How — what's the danger in having a small amount of training data, which means high sampling variance?
Lý thuyết học máy nói nhiều nhất về vài vấn đề đầu tiên, đúng không? Nguy cơ của việc có ít dữ liệu huấn luyện là gì, tức là phương sai lấy mẫu cao?
What's the danger in having hypothesis spaces that are either so big that they can over-fit, or so small they can't capture what's going in the data? So things like that.
Nguy cơ của việc có những không gian giả thuyết quá lớn đến mức bị quá khớp (over-fit), hoặc quá nhỏ đến mức không nắm bắt được những gì đang diễn ra trong dữ liệu? Đại loại là như vậy.
This idea of the test distribution sort of being not stationary against the training distribution is something that's really important in the real world, and it's much harder to say precise things about.
Ý tưởng rằng phân phối kiểm tra không ổn định so với phân phối huấn luyện là điều rất quan trọng trong thực tế, và khó hơn nhiều để nói được điều gì chính xác về nó.
OK, let's see some important concepts, and then let's estimate some parameters. So, one important concept is data. These are labeled instances for like emails that are marked spam, or ham.
Được rồi, ta xem vài khái niệm quan trọng, rồi sau đó ước lượng một số tham số. Khái niệm quan trọng đầu tiên là dữ liệu. Đây là các mẫu đã gán nhãn, ví dụ các email được đánh dấu là spam hoặc ham.
In general, when somebody gives you a big vat of data, you're going to split it into pieces. You take one piece and you say, this is my training set.
Thông thường, khi ai đó đưa bạn một khối dữ liệu lớn, bạn sẽ chia nó thành nhiều phần. Bạn lấy một phần và nói: đây là tập huấn luyện của tôi.
Right? Someday it'll all be your training set if you want it to be, but when you're doing experiments, you're going to try a bunch of different things. You want to see what works best.
Đúng không? Một ngày nào đó tất cả sẽ là tập huấn luyện của bạn nếu bạn muốn, nhưng khi làm thí nghiệm, bạn sẽ thử nhiều thứ khác nhau. Bạn muốn xem cái nào hiệu quả nhất.
Does this Naive Bayes thing work? Maybe a neural net.
Naive Bayes có hiệu quả không? Hay là mạng nơ-ron?
So, you're going to take a piece of your training set — most of it, usually — and you're going to take a piece of your data and make it your training set.
Vậy bạn sẽ lấy một phần dữ liệu của mình, thường là phần lớn, rồi lấy một phần dữ liệu làm tập huấn luyện.
Then, you're going to have to have a test set, which is not the real future test use that it's going to be put once it's deployed, but you need something that is not in your training data to check.
Sau đó bạn cần có một tập kiểm tra, không phải dữ liệu kiểm tra thật trong tương lai khi mô hình đã được triển khai, mà là thứ không nằm trong dữ liệu huấn luyện để kiểm tra.
This is why you might, when you're studying, take some of those practice exams and not look at them until right before the exam, because you need to check your understanding.
Giống như khi ôn thi, bạn có thể để dành vài đề thi thử và chỉ xem ngay trước kỳ thi, vì bạn cần kiểm tra mức độ hiểu bài của mình.
And so we take our data and we break into training, where we learn our parameters, and tests, where we check our accuracy.
Vậy ta chia dữ liệu thành tập huấn luyện, nơi học các tham số, và tập kiểm tra, nơi kiểm tra độ chính xác.
If we check our accuracy on the training data, we will find out it's very, very high. But that won't be true for tests.
Nếu kiểm tra độ chính xác trên dữ liệu huấn luyện, ta sẽ thấy nó rất, rất cao. Nhưng trên tập kiểm tra thì không như vậy.
And in practice, there's usually other little shards of the data that you're going to want to have. So, for example, one common one is held-out data.
Và trong thực tế, thường còn những phần dữ liệu nhỏ khác mà bạn sẽ muốn có. Ví dụ, một loại phổ biến là dữ liệu held-out.
We'll see today and in future lectures what that's for. So you're going to take your big vat of undifferentiated training data and break it into pieces.
Hôm nay và các bài sau ta sẽ thấy nó dùng để làm gì. Vậy bạn lấy khối dữ liệu huấn luyện chưa phân chia và chia nó thành các phần.
You're going to have features, which are these attribute value pairs, which characterize the inputs.
Bạn sẽ có các đặc trưng (feature), là các cặp thuộc tính - giá trị mô tả đầu vào.
Classically, these are like little pieces of code you write to detect how many times the word free occurs and whether or not this email contact is in your send email senders in your contact list, and so on.
Theo kiểu cổ điển, đó là những đoạn mã nhỏ bạn viết để phát hiện từ free xuất hiện bao nhiêu lần và liệu người gửi email này có trong danh bạ của bạn không, v.v.
You go through an experimentation cycle, it looks something like this.
Bạn đi qua một chu trình thử nghiệm, đại khái như thế này.
Get your model and learning already, and then you're going to learn the parameters — like model probabilities in your training set, which involves scrolling through the training set, counting things up, sometimes making predictions, sometimes taking derivatives and taking gradient steps, whatever it is — you're going to learn the parameters of your model which starts off having no idea between spam and ham.
Chuẩn bị mô hình và phương pháp học, rồi học các tham số, như xác suất của mô hình, trên tập huấn luyện, nghĩa là duyệt qua tập huấn luyện, đếm các thứ, đôi khi đưa ra dự đoán, đôi khi lấy đạo hàm và thực hiện các bước gradient, dù là gì đi nữa, bạn sẽ học các tham số của mô hình, mô hình lúc đầu chưa biết gì để phân biệt spam và ham.
You're going to go through your training data, and after one or more passes through, you're going to know your parameters.
Bạn sẽ duyệt qua dữ liệu huấn luyện, và sau một hoặc vài lượt, bạn sẽ biết các tham số.
You're going to need — you're going to have some other things which aren't parameters. Parameters are things like what's the probability of pixel 73 for the number eight?
Bạn cũng sẽ cần một số thứ khác không phải là tham số. Tham số là những thứ như xác suất của điểm ảnh 73 với chữ số tám là bao nhiêu?
Then there's hyper-parameters, like, do I want to have features for the lowercased version of the words in case I've seen the word, but never uppercased? Right?
Còn siêu tham số (hyper-parameter) thì như: tôi có muốn dùng đặc trưng cho dạng chữ thường của các từ phòng khi tôi đã thấy từ đó nhưng chưa từng thấy dạng viết hoa không? Đúng không?
These are questions about, is this or this or this going to work better? Another kind, where more formally hyper-parameters are things like the amount of smoothing. We're going to see that today.
Đó là những câu hỏi kiểu: cách này, cách này hay cách này sẽ hiệu quả hơn? Một loại khác, chính thức hơn, siêu tham số là những thứ như mức độ làm trơn (smoothing). Ta sẽ thấy điều đó hôm nay.
And then you'll — and you usually select those on the basis of some held-out data.
Và bạn thường chọn chúng dựa trên dữ liệu held-out.
And then finally, once you're ready to see how your experiment turned out, you take that model and you test it on the test data.
Cuối cùng, khi bạn sẵn sàng xem thí nghiệm cho kết quả ra sao, bạn lấy mô hình đó và kiểm tra trên dữ liệu kiểm tra.
You don't want to test your classifiers on the data that was used to train them, because they will do surprisingly well.
Bạn không muốn kiểm tra bộ phân loại trên dữ liệu đã dùng để huấn luyện nó, vì chúng sẽ cho kết quả tốt đến bất ngờ.
It's like if you go back through, and you try those same practice exams, you're like, wow. I really know this stuff now. It's like, no. This was your training data.
Giống như bạn quay lại làm đúng những đề thi thử đó và nghĩ: wow, giờ mình nắm bài thật rồi. Không phải vậy đâu. Đó là dữ liệu huấn luyện của bạn.
You always know you're training data. The question is, do you generalize?
Bạn luôn biết dữ liệu huấn luyện của mình. Câu hỏi là bạn có khái quát hóa được không?
This can happen to your classifier too, so you always want to test your performance on data that was not used to train it.
Điều này cũng xảy ra với bộ phân loại, nên bạn luôn muốn kiểm tra hiệu năng trên dữ liệu không dùng để huấn luyện nó.
However, you as a researcher, are going to be tempted to grab that test data and look at it in great detail and be like, ah, I see. I got this one wrong.
Tuy nhiên, là nhà nghiên cứu, bạn sẽ bị cám dỗ lấy dữ liệu kiểm tra đó ra xem thật kỹ và nghĩ: à, tôi hiểu rồi. Tôi làm sai câu này.
And there can be a slow leak of your test data into your training data if you're not careful.
Và dữ liệu kiểm tra có thể bị rò rỉ dần vào dữ liệu huấn luyện nếu bạn không cẩn thận.
So you try not to peek at the test set, and that's another reason why we have held-out data, which gives you something you can peek at. You want to evaluate.
Vì vậy bạn cố không nhìn trộm tập kiểm tra, và đó là lý do nữa để có dữ liệu held-out, nó cho bạn thứ có thể xem thoải mái. Bạn muốn đánh giá.
I ran 20 experiments. How did they go? Am I doing well? Is this thing good enough to release?
Tôi đã chạy 20 thí nghiệm. Chúng ra sao? Tôi làm có tốt không? Thứ này đã đủ tốt để phát hành chưa?
You need to have some metric, and there's a lot of possible metrics. An easy one is accuracy. For how many of these emails did I make the correct decision?
Bạn cần có một thước đo, và có rất nhiều thước đo khả dĩ. Một thước đo dễ là độ chính xác (accuracy). Trong bao nhiêu email này tôi quyết định đúng?
Fraction of instances predicted correctly, but actually, that's actually not a great — the accuracy is not a great metric for spam detection. Any ideas why? What's wrong with accuracy?
Tỷ lệ mẫu được dự đoán đúng, nhưng thực ra đó không phải là một thước đo tốt cho việc phát hiện spam. Có ai đoán được tại sao không? Độ chính xác có vấn đề gì?
STUDENT
[INAUDIBLE] PROFESSOR: OK, so the answer was the classes aren't balanced.
[KHÔNG NGHE RÕ] GIÁO SƯ: Đúng rồi, câu trả lời là các lớp không cân bằng.
This could manifest itself either as your training set might not match your test set, or somehow, they're not going to be equal at test time, and maybe you don't want to think about the link.
Điều này có thể biểu hiện ở chỗ tập huấn luyện có thể không khớp với tập kiểm tra, hoặc lúc kiểm tra, các lớp sẽ không còn bằng nhau, và có thể bạn không muốn bận tâm đến đường link.
Was there another comment? So how bad is it if that offer free print cartridges sneaks into your inbox? What are you going to do? You're going to not read it.
Còn ý kiến nào khác không? Vậy tệ đến mức nào nếu email quảng cáo tặng hộp mực in miễn phí lọt vào hộp thư đến của bạn? Bạn sẽ làm gì? Bạn sẽ không đọc nó.
It's OK. How bad is it if that email from your boss makes it into your spam folder? It's pretty bad.
Không sao cả. Còn tệ đến mức nào nếu email của sếp bạn bị đưa vào thư mục spam? Khá tệ đấy.
And so, the actual loss — or cost — of different kinds of mistakes may not be the same. It may not be symmetric. And so accuracy isn't always what you want.
Vì vậy, tổn thất thực sự, hay chi phí, của các loại lỗi khác nhau có thể không giống nhau. Nó có thể không đối xứng. Và do đó độ chính xác không phải lúc nào cũng là thứ bạn cần.
What you really want, is you want a utility here. You want to know what was my utility, and you should have different costs for these things. And so sometimes people do that.
Thứ bạn thực sự muốn ở đây là một độ hữu dụng. Bạn muốn biết độ hữu dụng của mình là bao nhiêu, và bạn nên đặt chi phí khác nhau cho những thứ này. Và đôi khi người ta làm như vậy.
There are also cases like machine translation, where you're always going to be a little bit off, a little word here or there, but there's a difference between being completely off and a tiny bit off.
Cũng có những trường hợp như dịch máy, nơi bạn luôn sai lệch một chút, một từ nhỏ chỗ này chỗ kia, nhưng có sự khác biệt giữa sai hoàn toàn và sai một chút xíu.
And so there are a lot of different metrics people have for different kinds of tasks. OK. And again, we're going talk a lot today and next time about over-fitting and generalization.
Và vì vậy có rất nhiều thước đo khác nhau cho các loại tác vụ khác nhau. OK. Và một lần nữa, hôm nay và buổi sau chúng ta sẽ nói nhiều về quá khớp và khả năng tổng quát hóa.
We want a classifier which does well on the test data.
Ta muốn một bộ phân loại hoạt động tốt trên dữ liệu kiểm tra.
We don't have the test data, or we don't have the true test data, so instead, we build a classifier that does well on the training data.
Ta không có dữ liệu kiểm tra, hay không có dữ liệu kiểm tra thật, nên thay vào đó, ta xây dựng bộ phân loại hoạt động tốt trên dữ liệu huấn luyện.
And then we try to come up with methods where the training accuracy is going to mean something about the test accuracy. Over-fitting means fitting the training data very closely, but not generalizing well.
Rồi ta tìm các phương pháp để độ chính xác trên tập huấn luyện có ý nghĩa đối với độ chính xác trên tập kiểm tra. Quá khớp nghĩa là khớp rất sát dữ liệu huấn luyện, nhưng tổng quát hóa không tốt.
There's also the opposite, which is under-fitting, where you're just like, I don't know what's going on. I'm just guessing randomly everywhere. That's not over-fit. It's not going to work very well.
Cũng có trường hợp ngược lại, là under-fitting, khi bạn kiểu như: mình chẳng hiểu chuyện gì đang xảy ra. Mình chỉ đoán ngẫu nhiên khắp nơi. Đó không phải là quá khớp. Nó sẽ không hoạt động tốt lắm.
The problem here is not that you're test accuracy is low, but your training accuracy was also low because you didn't learn anything. We'll investigate these things formally in a few lectures.
Vấn đề ở đây không chỉ là độ chính xác trên tập kiểm tra thấp, mà độ chính xác trên tập huấn luyện cũng thấp vì bạn chưa học được gì cả. Chúng ta sẽ tìm hiểu những điều này một cách chính thức trong vài bài giảng tới.
I had a really good question during the break, which I want to answer for everybody, which is, couldn't you just defeat this Naive Bayes spam classifier by pasting the word Gary 100 times to the end of your offer to lose weight while you sleep?
Trong giờ giải lao, em có hỏi một câu rất hay, tôi muốn trả lời cho mọi người, đó là: chẳng lẽ ta không thể đánh bại bộ phân loại spam naive Bayes này bằng cách dán từ Gary 100 lần vào cuối lời mời giảm cân trong khi ngủ sao?
The answer is yes, you could.
Câu trả lời là có, được chứ.
And I don't know whether folks here remember, but, you know, 10 years ago, there was a period of time where all the spam I would get would have like chapters of Pride and Prejudice appended to the end.
Và tôi không biết mọi người ở đây có nhớ không, nhưng 10 năm trước, có một thời gian mà tất cả spam tôi nhận được đều có các chương của Pride and Prejudice gắn vào cuối.
And the classifiers would be like, oh, this is looking about oh, look, Pride and Prejudice and then it would get through.
Và bộ phân loại kiểu như: ồ, nhìn này, Pride and Prejudice, rồi email lọt qua.
So spam detection is, in some ways, a very poor example of a canonical classification problem.
Vì vậy, xét theo một nghĩa nào đó, phát hiện spam là một ví dụ rất kém cho bài toán phân loại điển hình. vấn đề.
Because, if you're trying to build a classifier to detect — if you're building a classifier to detect the number 7, the number 7 is not like trying to squirm its way out from those pixels to avoid detection, right?
Bởi vì nếu bạn xây dựng bộ phân loại để phát hiện chữ số 7, chữ số 7 đâu có tìm cách luồn lách khỏi các điểm ảnh để tránh bị phát hiện, đúng không? từ những pixel đó để tránh bị phát hiện, đúng không?
You can just get better at the task. And if you get perfect at the task, great. Spam is being generated by people who are trying to defeat spam filters.
Bạn chỉ cần làm tác vụ đó tốt hơn. Và nếu làm hoàn hảo thì tuyệt. Spam được tạo ra bởi những người đang cố đánh bại bộ lọc spam.
So whatever technique you use, whatever features you use, you're going to capture those kinds of spam emails. Others are going to make it through, and spammers are going to double down on what's working.
Vì vậy dù bạn dùng kỹ thuật nào, đặc trưng nào, bạn cũng sẽ bắt được những loại email spam đó. Những email khác sẽ lọt qua, và kẻ gửi spam sẽ tập trung vào cái đang hiệu quả.
And so you get Pride and Prejudice at the end when you're looking for language, but then suddenly, you start using methods like primarily looking at sender information.
Thế là bạn thấy Pride and Prejudice ở cuối khi bạn xét ngôn ngữ, nhưng rồi bỗng nhiên bạn chuyển sang các phương pháp chủ yếu xem thông tin người gửi.
And now you have spammers who want to buy contact information or whatever it is so that they can spoof that.
Và giờ kẻ gửi spam muốn mua thông tin liên lạc hay gì đó để giả mạo nó.
And so if you have features that are like, did the same email get sent to a lot of different people? What do spammers do?
Và nếu bạn có các đặc trưng như cùng một email có được gửi cho rất nhiều người khác nhau không? Kẻ gửi spam sẽ làm gì?
They're going to start modifying that email in some templated way. Now you have some feature that detects templates. Now there's sort of an arms race here.
Họ sẽ bắt đầu sửa email đó theo một kiểu mẫu có sẵn. Giờ bạn có đặc trưng phát hiện mẫu. Giờ đây là một cuộc chạy đua vũ trang.
And so in that sense, over time, spam classification doesn't actually look like a standard classification problem because it's adversarial. OK. Any questions before we talk about generalization and over-fitting.
Và theo nghĩa đó, theo thời gian, phân loại spam thật ra không giống một bài toán phân loại chuẩn vì nó mang tính đối kháng. OK. Có câu hỏi nào trước khi ta nói về tổng quát hóa và quá khớp không?
OK, so in these images, you want to fit the hat right. You don't want it to be too small, because if you over-fit, you're not going to be able to generalize.
OK, trong những hình này, bạn muốn chiếc mũ vừa vặn. Bạn không muốn nó quá nhỏ, vì nếu quá khớp, bạn sẽ không thể tổng quát hóa.
But you don't want to under-fit either, because then you're going to fail to learn the information that's actually in your training data. Here's an example of this tradeoff.
Nhưng bạn cũng không muốn under-fit, vì khi đó bạn sẽ không học được thông tin thực sự có trong dữ liệu huấn luyện. Đây là một ví dụ về sự đánh đổi này.
In general, we're going to do discrete classification. But for this example, let's imagine the thing we're trying to do is to fit a curve to this data. So I can pick a model.
Nhìn chung, ta sẽ làm phân loại rời rạc. Nhưng với ví dụ này, hãy tưởng tượng việc ta cần làm là khớp một đường cong với dữ liệu này. Vậy tôi có thể chọn một mô hình.
You've probably done this in other classes. I could decide to fit a line. I could fit a curve. I can fit different kinds of models.
Có lẽ các bạn đã làm việc này ở các lớp khác. Tôi có thể chọn khớp một đường thẳng. Tôi có thể khớp một đường cong. Tôi có thể khớp nhiều loại mô hình khác nhau.
So one thing I could do is, I could fit a constant function. What constant function should I fit if I want to optimize the fit? So you say, what is the fit?
Một việc tôi có thể làm là khớp một hàm hằng. Tôi nên khớp hàm hằng nào nếu muốn tối ưu độ khớp? Bạn sẽ hỏi: độ khớp là gì?
Is the fit getting as close as possible to the last dot? Let's say the fit is the sum across all the data points of the squared distance or something.
Có phải là tiến gần nhất có thể đến chấm cuối cùng không? Giả sử độ khớp là tổng trên toàn bộ dữ liệu điểm dữ liệu của bình phương khoảng cách, đại loại vậy.
So what is my constant approximation to this? Does anybody want to hazard a guess? Let's call it five. Imagine that was a straight line, well, imagine that was a slope zero line.
Vậy xấp xỉ hằng số của tôi cho dữ liệu này là gì? Có ai muốn đoán thử không? Cứ cho là năm. Hãy tưởng tượng đó là một đường thẳng, à, tưởng tượng đó là đường thẳng có độ dốc bằng không.
OK, did I fit something about this data? Yeah, I felt something about the data. I fit basically it's mean. Did I capture the major trends?
Được rồi, tôi có khớp được điều gì về dữ liệu này không? Có, tôi nắm được đôi chút về dữ liệu. Về cơ bản tôi khớp được giá trị trung bình của nó. Tôi có nắm được các xu hướng chính không?
No. I would call this under-fitting. All right, let's try again. Let's fit a linear function.
Không. Tôi gọi đây là under-fitting. Được rồi, thử lại nào. Ta khớp một hàm tuyến tính.
OK. It's close, right? It's a better fit than the constant function. Notice that when I went to linear function, the space of hypotheses grew.
Được. Gần hơn rồi, đúng không? Khớp tốt hơn hàm hằng số. Chú ý rằng khi chuyển sang hàm tuyến tính, không gian giả thuyết đã lớn hơn.
Instead of just lines, now it's like lines with slopes and intercepts. OK, so as my spacing hypotheses grow, in general, when there's more hypotheses, I can fit my data more closely.
Thay vì chỉ có các đường thẳng nằm ngang, giờ là các đường thẳng có cả độ dốc và hệ số chặn. Vậy khi không gian giả thuyết lớn lên, nhìn chung, càng nhiều giả thuyết thì tôi càng khớp dữ liệu sát hơn.
All right. I missed something about it. There is this sort of like dip. So maybe I could go to a second order function, a quadratic, if I can draw this.
Được rồi. Tôi vẫn bỏ sót một điều. Có một chỗ trũng xuống. Nên có lẽ tôi có thể dùng hàm bậc hai, một parabol, nếu tôi vẽ được.
OK, quadratic. I'm starting to fit my data better. Could I fit it even more closely? Yeah, I could.
Được, hàm bậc hai. Tôi bắt đầu khớp dữ liệu tốt hơn. Tôi có thể khớp sát hơn nữa không? Có, được chứ.
How about this? Degree 15 polynomial, way better fit than the quadratic. So it's not just about fitting your data. It's about — you can always fit your data more.
Còn cái này thì sao? Đa thức bậc 15, khớp tốt hơn hẳn hàm bậc hai. Vậy vấn đề không chỉ là khớp dữ liệu. Bạn lúc nào cũng có thể khớp dữ liệu hơn nữa.
It's about fitting your data to the point where the patterns that you are capturing are ones which generalize to test, and that's a tricky balance. This is definitely over-fitting.
Vấn đề là khớp đến mức mà các quy luật bạn nắm được vẫn khái quát hóa được sang tập kiểm tra, và đó là một sự cân bằng khó. Đây chắc chắn là quá khớp.
And so, you can't basically just judge by your training accuracy, which you can drive higher and higher and higher how well you're doing.
Vì vậy, về cơ bản bạn không thể chỉ đánh giá bằng độ chính xác trên tập huấn luyện, thứ mà bạn có thể đẩy cao mãi, cao mãi.
You need some measure of whether you've gone too far in the fitting process. And in this case, we talked about hyperparameters.
Bạn cần một thước đo cho biết liệu mình đã đi quá xa trong quá trình khớp hay chưa. Và ở đây, ta đã nói về các siêu tham số.
A hyperparameter could be something like, what's the maximum degree of polynomial I'm allowed? Right? And I could detect on held-out data as I'm adding more and more terms to the polynomial.
Một siêu tham số có thể là bậc tối đa của đa thức mà tôi được phép dùng. Đúng không? Và tôi có thể phát hiện trên dữ liệu held-out khi tôi thêm ngày càng nhiều số hạng vào đa thức.
My training accuracy or my training error, the residuals here, they're getting smaller and smaller and smaller. But I can detect that on some held-out data, suddenly it's gone crazy.
Độ chính xác hay sai số trên tập huấn luyện, tức các phần dư ở đây, ngày càng nhỏ đi, nhỏ dần, nhỏ dần. Nhưng trên dữ liệu held-out, tôi có thể thấy đột nhiên nó loạn hẳn lên.
Because there's this point here in the held-out set and you're like, you're nowhere near it. OK? That's the general idea here. But over-fitting shows up not just on these continuous functions.
Vì có một điểm ở đây trong tập held-out mà đường của bạn thì chẳng gần nó chút nào. Được chứ? Ý tưởng chung là vậy. Nhưng quá khớp không chỉ xuất hiện ở các hàm liên tục này.
It also shows up on discrete functions. It also shows up, for example, let's imagine in a hypothetical digit classification, we might say, here is an image I've never seen before.
Nó cũng xuất hiện ở các hàm rời rạc. Chẳng hạn, hãy tưởng tượng bài phân loại chữ số giả định, ta nói rằng đây là một ảnh tôi chưa từng thấy.
Let's use Naive Bayes to classify it. So what would we do? We'd do our running total. We'd say, all right.
Ta dùng naive Bayes để phân loại nó. Vậy ta sẽ làm gì? Ta sẽ tính tích lũy dần. Ta nói, được rồi.
Well, before I look at any features, the numbers are the numbers two and three, let's say, are equally likely. So let's multiply in evidence terms.
Trước khi xét bất kỳ đặc trưng nào, giả sử các chữ số hai và ba có khả năng như nhau. Rồi ta nhân thêm các số hạng bằng chứng.
Well, for each pixel, for example, this pixel, maybe this pixel is equally likely for a three as a two. OK, so they're still tied.
Với mỗi điểm ảnh, ví dụ điểm ảnh này, có thể nó có khả năng xuất hiện ở số ba ngang với số hai. Vậy là vẫn hòa.
This pixel is much more likely for a 3 than a 2, let's imagine.
Điểm ảnh này thì khả năng ở số 3 cao hơn nhiều so với số 2, giả sử vậy.
So now at this point, I'm thinking this is looking like a three, and I would have a bunch of these terms, one for each feature, in this case, maybe one for each pixel.
Đến đây, tôi bắt đầu nghĩ nó giống số ba, và tôi sẽ có hàng loạt số hạng như vậy, mỗi đặc trưng một số hạng, ở đây có thể là mỗi điểm ảnh một số hạng.
All right, for this one, this pixel being off is much more likely for a three than a two, because a two has that diagonal line. So, so far, a three is winning.
Được rồi, với điểm ảnh này, việc nó tắt có khả năng ở số ba cao hơn nhiều so với số hai, vì số hai có nét chéo đó. Đến giờ, số ba đang thắng.
But eventually, I'm going to get to some pixel, maybe like this one here. And in my training data, this is almost never on. This is in a corner where there's no number.
Nhưng cuối cùng tôi sẽ gặp một điểm ảnh nào đó, có thể như điểm ảnh này đây. Và trong dữ liệu huấn luyện của tôi, nó hầu như không bao giờ bật. Nó nằm ở một góc không có chữ số nào.
And maybe it turns out that this number, that this pixel happened to be on once or twice in the data for the digit two, but zero times in the data for digit three.
Và có thể tình cờ là điểm ảnh này đã bật một hai lần trong dữ liệu của chữ số hai, nhưng không lần nào trong dữ liệu của chữ số ba.
So when I multiply together all these probabilities, which are all roughly reasonable, who's going to win? Two's going to win, because it didn't have that zero. Well, that's bad.
Vậy khi nhân tất cả các xác suất này lại, mà đều khá hợp lý, ai sẽ thắng? Số hai sẽ thắng, vì nó không có số 0 đó. Thế thì tệ.
This is an example of over-fitting, because this probability versus this probability, that is about the idiosyncrasies of the samples I have in my data, whereas perhaps the fact that this is 0.1 and this is 0.7, that might actually be a more enduring fact that transfers from my training to my test.
Đây là một ví dụ về quá khớp, vì xác suất này so với xác suất kia chỉ phản ánh những đặc thù ngẫu nhiên của các mẫu trong dữ liệu của tôi, trong khi việc cái này là 0.1 còn cái kia là 0.7 có thể mới là một sự thật bền vững hơn, và chuyển được từ tập huấn luyện sang tập kiểm tra.
All right, let's look at examples of over-fitting. Remember we talked about what's the most likely word, given ham? The. What's the most likely word, given spam?
Được rồi, ta xem các ví dụ về quá khớp. Nhớ lại ta đã hỏi từ nào có khả năng nhất, với điều kiện là ham? The. Từ nào có khả năng nhất, với điều kiện là spam?
The. I can instead ask, when I do these multiplications together, into that running product, which are the words which sort of swing the product most one way or the other?
The. Thay vào đó tôi có thể hỏi, khi ta nhân các số này với nhau, vào tích lũy dần đó, những từ nào làm tích số nghiêng mạnh nhất về một phía?
I can look at odds ratios, which is the ratio of the probability in the two. And if the ratio is one, it means it's equally likely.
Tôi có thể xem tỷ số odds, tức là tỷ số giữa xác suất trong hai lớp. Và nếu tỷ số bằng một, nghĩa là chúng có khả năng như nhau.
Whether it's common or uncommon, it doesn't affect the competition. It's things that are more common in one than the other that have a big impact on these odds ratios.
Dù từ đó phổ biến hay hiếm, nó thì nó không ảnh hưởng đến sự so sánh. Những từ phổ biến ở bên này hơn bên kia mới có tác động lớn đến các tỷ lệ odds này.
So let's look at words. What do you think, in my training data for ham versus spam, things with the highest odds ratio for ham would be?
Vậy hãy xem các từ. Theo các em, trong dữ liệu huấn luyện của tôi, giữa ham và spam, những từ có odds ratio cao nhất cho ham sẽ là gì?
These are things that are significantly more likely for ham than for spam. Words like Gary, except when I look at my data, it's actually a mess.
Đó là những từ có khả năng xuất hiện trong ham cao hơn hẳn so với spam. Những từ như Gary, nhưng khi nhìn vào dữ liệu, thì thực ra nó khá lộn xộn.
It turns out, there are a bunch of words in this data which occur in spam once, and it could occur in once and occur in spam zero.
Hóa ra có cả đống từ trong dữ liệu này xuất hiện một lần trong spam, và có thể xuất hiện một lần trong ham và không lần nào trong spam.
And if you just say that the probabilities in your model are the probabilities in the data, you're going to give probability zero to a lot of things through over-fitting.
Nếu em cứ cho rằng xác suất trong mô hình chính là xác suất trong dữ liệu, thì em sẽ gán xác suất bằng không cho rất nhiều thứ do quá khớp.
The probability of southwest, which occurs once in ham and zero in spam. It's not zero in spam.
Xác suất của southwest, xuất hiện một lần trong ham và không lần nào trong spam. Nó không phải bằng không trong spam.
Just like that pixel being off wasn't zero for the number three, it's just zero in my data. It's really dangerous to give things probability zero.
Giống như pixel tắt kia không bằng không đối với số ba, chỉ là bằng không trong dữ liệu của tôi. Gán xác suất bằng không cho mọi thứ là rất nguy hiểm.
That's one of many kinds of over-fitting, where the exact details of which sample points you drew when you collected your data get captured in a way that doesn't generalize.
Đó là một trong nhiều kiểu quá khớp, khi chi tiết chính xác về những điểm mẫu em lấy được lúc thu thập dữ liệu bị mô hình ghi nhận theo cách không khái quát hóa được.
Then, there's going to be things in spam which are a bunch of other things that occur once in spam but never in ham. So, something went wrong here.
Rồi cũng sẽ có những thứ trong spam là một loạt từ khác xuất hiện một lần trong spam nhưng không bao giờ trong ham. Vậy là có gì đó đã sai.
What went wrong here, is really, we should not go about giving probability zero to things that we haven't seen just because we haven't seen them yet.
Điều sai ở đây là chúng ta không nên gán xác suất bằng không cho những thứ chưa thấy chỉ vì chúng ta chưa thấy chúng.
And the exact mechanics of over-fitting are going to vary from model to model.
Cơ chế chính xác của quá khớp sẽ khác nhau tùy từng mô hình.
In Naive Bayes probabilistic models, over-fitting usually shows up as sampling variance, which usually shows up as zeros in your probability table. For other methods, it's going to show up in totally other ways.
Với các mô hình xác suất naive Bayes, quá khớp thường biểu hiện dưới dạng phương sai lấy mẫu, thường hiện ra là các số không trong bảng xác suất. Với các phương pháp khác, nó sẽ biểu hiện theo những cách hoàn toàn khác.
OK. All right, we actually talked about all of this. So to do better, we need to smooth, or regularize, our estimates.
OK. Được rồi, thực ra chúng ta đã nói về tất cả những điều này. Để làm tốt hơn, ta cần làm mượt, hay điều chuẩn (regularize), các ước lượng của mình.
So let's figure out some ways to do that, to just illustrate what it would look like to limit over-fitting. We already know one kind of limitation of over-fitting.
Hãy tìm vài cách để làm việc đó, để minh họa việc hạn chế quá khớp trông như thế nào. Ta đã biết một cách hạn chế quá khớp.
We could take that polynomial, and we could limit the degree of the polynomial. That's shrinking the hypothesis space. As you shrink a hypothesis space, you fit less.
Ta có thể lấy đa thức đó và giới hạn bậc của đa thức. Đó là thu nhỏ không gian giả thuyết. Khi thu nhỏ không gian giả thuyết, mô hình khớp ít hơn.
Using it too much, you under-fit. We can also do that with words. We could say, I'm only actually interested in the hundred most common words. That would be shrinking my hypothesis space.
Làm quá thì sẽ bị under-fit. Ta cũng có thể làm vậy với các từ. Ta có thể nói, tôi chỉ quan tâm đến một trăm từ phổ biến nhất. Đó là thu nhỏ không gian giả thuyết của tôi.
That's one way to do it.
Đó là một cách.
We can also regularize, which is, we can try to come up with estimates for our probabilities — or weights in general — which are not completely driven by the data, but are also balanced against some regularizing function or smoothing function that makes things a little flatter, selling the hedges.
Ta cũng có thể điều chuẩn, nghĩa là cố tìm các ước lượng cho xác suất, hay trọng số nói chung, mà không hoàn toàn do dữ liệu quyết định, mà còn được cân bằng với một hàm điều chuẩn hay hàm làm mượt khiến mọi thứ phẳng hơn một chút, kiểu như rào trước đón sau.
So let's take a look at the distribution of a random variable, just to sort of show why we need to do these kinds of things.
Giờ hãy xem phân phối của một biến ngẫu nhiên, để thấy vì sao ta cần làm những việc như thế này. Làm sao để biết một biến ngẫu nhiên có phân phối thế nào?
How are we going to figure out what a random variable is? We can do elicitation, right? You can ask a human. You can go to a doctor and say, hey, I'm building a classifier.
Ta có thể dùng elicitation, tức là hỏi con người. Em có thể đến gặp bác sĩ và nói, tôi đang xây dựng một bộ phân loại. Bao nhiêu phần trăm người bị viêm màng não có biểu hiện sốt?
What fraction of people with meningitis will present with a fever? And a doctor can give you a guess, right? It may be qualitative. You could also do that empirically.
Bác sĩ có thể đưa ra một ước đoán, đúng không? Có thể chỉ mang tính định tính. Em cũng có thể làm theo kinh nghiệm thực nghiệm. Em có thể dùng dữ liệu huấn luyện.
You could use training data. You could go collect a bunch of records of patient treatment or something like that. And this is basically what learning does.
Em có thể thu thập một loạt hồ sơ điều trị bệnh nhân hay đại loại thế. Về cơ bản đây là điều việc học làm.
You take your training data, you take the trends out of the training data. The simplest version of this is for each outcome to look at the empirical rate.
Em lấy dữ liệu huấn luyện, rút ra các xu hướng từ dữ liệu đó. Cách đơn giản nhất là với mỗi kết quả, hãy xem tỷ lệ thực nghiệm.
So, for example, if I am a jelly bean-counting robot, and I am trying to figure out in this vat of jelly beans, how many reds versus blues there are, and I draw three jelly beans and it's two reds and two blues, well, what can we do?
Ví dụ, nếu tôi là robot đếm kẹo jelly bean, và đang cố biết trong thùng kẹo này có bao nhiêu kẹo đỏ so với xanh, và tôi bốc ba viên kẹo được hai đỏ, một xanh, vậy ta có thể làm gì?
There's the maximum likelihood estimate — or relative frequency estimate — which says, OK, the probabilities are just the counts in the training data.
Có ước lượng maximum likelihood, hay ước lượng tần suất tương đối, nói rằng xác suất chính là số đếm trong dữ liệu huấn luyện.
That means the maximum likelihood probability of red for this data is 2/3. Is that right? Well, the more samples I draw, the more accurate that's going to be.
Nghĩa là xác suất maximum likelihood của đỏ với dữ liệu này là 2/3. Vậy có đúng không? Bốc càng nhiều mẫu thì càng chính xác.
In general, we don't have as many samples as we want, so we're going to want to do something to prevent things like zeros in these estimates. OK. Why is this called maximum likelihood?
Nói chung ta không có nhiều mẫu như mong muốn, nên ta sẽ muốn làm gì đó để tránh các số không trong những ước lượng này. OK. Vì sao gọi là maximum likelihood? Đây là tập dữ liệu của tôi.
So, here's my corpus. I'm going to call it D. There is my corpus. There are a bunch of different probabilities I could say for red. I could say they're 50-50.
Tôi gọi nó là D. Đây là tập dữ liệu. Có nhiều xác suất khác nhau tôi có thể gán cho đỏ. Tôi có thể nói 50-50. Tôi có thể nói 100% là đỏ.
I could say it's 100% red. For each probability I assign to red, and one minus that goes to blue, I can compute the probability of D. OK.
Với mỗi xác suất gán cho đỏ, và một trừ nó cho xanh, tôi có thể tính xác suất của D. OK. Em có thể thử tự viết ra.
This is something you could try writing out for yourself. Of all of those probabilities, the one that matches the frequency of the data is the one that maximizes the probability of the data.
Trong tất cả các xác suất đó, cái khớp với tần suất của dữ liệu là cái làm cực đại xác suất của dữ liệu. Vậy đó là việc em có thể làm, và hoàn toàn hợp lý.
So, that's a thing you can do, and it's totally reasonable. But in practice, you need some smoothing.
Vậy đó là một việc bạn có thể làm, và nó hoàn toàn hợp lý. Nhưng trong thực tế, bạn cần có làm trơn (smoothing).
So I guess we have some Halloween ghosts after all, even though we're now into the post-Halloween lectures. But we want no surprises to our model.
Vậy là rốt cuộc vẫn có vài con ma Halloween, dù giờ ta đã sang các bài giảng sau Halloween. Nhưng ta muốn mô hình không có bất ngờ nào.
We want our model to assign probability to events it's never seen, so that one errant pixel or word that is rare doesn't completely torpedo an otherwise very nuanced balancing of evidence.
Ta muốn mô hình gán xác suất cho những sự kiện nó chưa từng thấy, để một pixel hay một từ hiếm gặp bị lạc không phá hỏng hoàn toàn một sự cân nhắc bằng chứng vốn rất tinh tế.
All right, so what was the maximum likelihood estimate? The maximum likelihood estimate, basically, you have to work this out, right? Maybe we can just go back and do it real quick.
Được rồi, ước lượng hợp lý cực đại là gì nhỉ? Ước lượng hợp lý cực đại, về cơ bản, bạn phải tự tính ra, đúng không? Có lẽ ta có thể quay lại làm nhanh một chút.
OK. So let's say r is my probability of red, and one minus r is my probability of blue. What is the probability of this data?
OK. Giả sử r là xác suất của màu đỏ, và một trừ r là xác suất của màu xanh. Xác suất của dữ liệu này là bao nhiêu?
Well, it's basically I got an r, and then I got another r, and then I got the other thing, which is one minus r.
Thì tức là tôi được một r, rồi lại một r nữa, rồi đến cái còn lại, là một trừ r.
So as I change the probability of red, this term, which is the likelihood of the data, is going to go up and down.
Khi tôi thay đổi xác suất của màu đỏ, số hạng này, tức là hợp lý của dữ liệu, sẽ tăng giảm theo.
And the balance, the point where that's going to be maximized you can sort of, if you set it up carefully, take derivatives, find the extreme point, you'll get the relative frequency answer out.
Còn điểm cân bằng, điểm mà nó đạt cực đại, nếu bạn thiết lập cẩn thận, lấy đạo hàm, tìm điểm cực trị, bạn sẽ ra đáp án là tần suất tương đối.
So the maximum likelihood estimate says, find me the parameters, probabilities, which make the data most likely.
Vậy ước lượng hợp lý cực đại nói rằng: hãy tìm các tham số, tức các xác suất, làm cho dữ liệu có khả năng xảy ra nhất.
Well, that's fine to make the data likely, but I actually don't want that. That's not what I want.
Làm cho dữ liệu có khả năng cao thì cũng ổn, nhưng thật ra tôi không muốn thế. Đó không phải điều tôi muốn.
What I want is to consider the problem of, given my data, which parameters are most likely? Sounds like it's basically the same thing, and it almost is, except for one term.
Điều tôi muốn là xét bài toán: với dữ liệu đã có, tham số nào có khả năng nhất? Nghe có vẻ về cơ bản giống nhau, và gần như đúng vậy, trừ một số hạng.
So what I really want is something like a posterior estimate, a maximum-based posterior estimate which says, I would like the theta which is most likely, given my data.
Vậy điều tôi thực sự muốn là một ước lượng hậu nghiệm, ước lượng hậu nghiệm cực đại, tức là: tôi muốn theta có khả năng nhất, với dữ liệu đã cho.
What's that mean? Well, we can use a Bayes rule to write that. That means, find me the parameters which maximize the product of this, which is what we were doing before.
Điều đó nghĩa là gì? Ta có thể dùng quy tắc Bayes để viết nó ra. Nghĩa là, hãy tìm các tham số làm cực đại tích này, chính là thứ ta làm lúc trước.
This denominator here doesn't matter. It's just some constant. It doesn't change as I change theta. But there's this extra term, p of theta.
Mẫu số ở đây không quan trọng. Nó chỉ là một hằng số. Nó không đổi khi tôi thay đổi theta. Nhưng có thêm số hạng này, p của theta.
And so what this says, is it says, if I want to know what parameter or what probability is most likely, I need to weigh the likelihood of the data against how likely I think that parameter is in the first place.
Và điều này nói rằng, nếu tôi muốn biết tham số hay xác suất nào có khả năng nhất, tôi cần cân nhắc khả năng của dữ liệu so với việc ban đầu tôi cho tham số đó có khả năng đến mức nào.
And if I think zeros aren't very likely, then there's going to have to be some balance that is struck. OK, so this doesn't have a closed-form solution without giving you more information.
Và nếu tôi nghĩ số không không mấy khả dĩ, thì sẽ phải có một sự cân bằng nào đó. OK, cái này không có nghiệm dạng đóng nếu không có thêm thông tin. Các bạn hãy học CS281A để biết thêm nhiều về chuyện này.
I'll look at CS281A to learn a lot more about that. But here's a basic idea of how you might approach it.
Nhưng đây là ý tưởng cơ bản để tiếp cận.
This is actually, due to Laplace, hundreds of years ago now, who's a philosopher who kind of worried about things like, well, how do I estimate the probability?
Cái này là của Laplace, cách đây hàng trăm năm, một triết gia từng bận tâm về những câu hỏi như: làm sao ước lượng xác suất? Ví dụ, xác suất mặt trời mọc vào buổi sáng là bao nhiêu?
Like, what is the probability the sun will rise in the morning? Every morning so far it's risen, so probability one.
Sáng nào cũng mọc từ trước đến giờ, nên xác suất là một. Nhưng tôi biết thế không thể đúng, vì đến một lúc nào đó, có thể rất xa, mặt trời sẽ có lần không mọc.
But I know that can't be right, because at some point, perhaps quite far out, the sun will once not rise.
So I know that this estimate is wrong, and I need some way of mechanically incorporating the fact that there are events which I haven't seen, but which I know to be possible, or at least that I'd like to model as being possible.
Nên tôi biết ước lượng này sai, và tôi cần một cách máy móc để đưa vào việc có những sự kiện tôi chưa từng thấy, nhưng tôi biết là có thể xảy ra, hoặc ít nhất tôi muốn mô hình hóa chúng là có thể xảy ra. Tại sao ta muốn làm vậy?
Why do we want to do this?
Well we'd rather not have our robots just like totally freak out at unseen events, though, I suppose actually if the sun doesn't show up, that's probably grounds for freaking out.
Ta không muốn robot của mình hoảng loạn hoàn toàn trước các sự kiện chưa từng thấy, mà thật ra nếu mặt trời không mọc, thì hoảng loạn cũng có lý. Đây là ước lượng theo thủ tục của Laplace.
But here's Laplace's procedural estimate.
Laplace said, well, basically, it's a pretty good idea to take into account the probabilities in your observation, but you should hold out an extra observation for everything you didn't see to reflect it potentially happening at some point in the future.
Laplace nói rằng, nên tính đến các xác suất trong quan sát của bạn, nhưng bạn nên dành thêm một quan sát cho mọi thứ bạn chưa thấy, để phản ánh khả năng nó xảy ra vào một lúc nào đó trong tương lai. Nói đơn giản là cộng một vào mọi số đếm, kể cả những số đếm bằng không.
So basically, add one to all your counts, including the ones that are zero. So the maximum likelihood estimate for red, red, blue, if I say, what's the probability of red, comma, probability of blue?
Vậy ước lượng hợp lý cực đại cho đỏ, đỏ, xanh, nếu hỏi xác suất đỏ, xác suất xanh là bao nhiêu? 2/3, 1/3. Laplace cộng một sẽ nói: thay vì bảo có hai cái này và một cái kia, chuẩn hóa thành 2/3, 1/3, hãy cộng một vào mỗi loại.
2/3, 1/3. Laplace plus would say, instead of saying there's two of one and one of the other, which normalizes the 2/3, 1/3, add one to each. So instead of two reds, there's three.
Vậy thay vì hai đỏ thì có ba. Gồm những cái đó, cộng với một đỏ giả định. Và thay vì một xanh thì có hai, vì tôi có một xanh giả định.
There's those ones, plus my pretend red. And instead of one blue, there's two, because I have my pretend blue. Now what do I get? I get 3/5 and 2/5.
Giờ tôi được gì? Tôi được 3/5 và 2/5. Đỏ vẫn thắng, nhưng phân phối này đã phẳng hơn.
Red is still winning, but this distribution has gotten flatter. And if there had been zero blues it would no longer be given probability zero. So pretty reasonable.
Và nếu có không lần xanh nào thì nó cũng không còn bị gán xác suất không nữa. Khá hợp lý. Ta có thể làm tốt hơn. Ta có thể tưởng tượng mỗi kết quả được thấy k lần, thay vì một lần, vì có thể một lần là quá nhiều, hoặc quá ít.
We can do better. We can say we imagine you see each outcome k times, instead of one time, because maybe one time is too many, or maybe it's too few.
Nếu suy ra một cách hình thức, điều chỉnh này đến từ việc điều chỉnh độ mạnh của tiên nghiệm.
We can adjust formally, if you derive this, this comes from adjusting the strength of the prior. And you can imagine wanting to do more or less than adding one.
Và bạn có thể muốn cộng nhiều hơn hoặc ít hơn một. Nếu tôi dùng phương pháp mở rộng của Laplace và cộng không, thì tôi chỉ có lại ước lượng 2/3, 1/3 từ đỏ, đỏ, xanh.
And so if I add zero, if I take Laplace's extended method and I add zero, then I just get my 2/3, 1/3 estimate from red, red, blue.
Ta biết nếu cộng một và giả định có một r ảo và một xanh ảo, ta được 3/5.
We know if we add a count of one and we pretend, well, there's one phantom r and one phantom blue, we'll get 3/5.
Nhưng nếu tôi cộng 100, giờ sẽ có 100 cái r như thế, và cũng có cả đống xanh nữa.
But if I add 100, there is now 100 of these, there's 100 of those r's, and there's a whole bunch of blues, too. And there's 100 blues. Now how many reds do I have?
Nhưng nếu tôi cộng 100, giờ sẽ có 100 cái r như thế, và cũng có cả đống xanh nữa. Và có 100 cái màu xanh. Vậy bây giờ tôi có bao nhiêu cái màu đỏ?
Well, I do my computations as if I had 102 reds and 101 blues. And suddenly, even though there are still more reds than blues, in my posterior estimate here, it's pretty close to 50-50.
Tôi tính toán như thể có 102 đỏ và 101 xanh. Và đột nhiên, dù thực tế vẫn có nhiều đỏ hơn xanh, ước lượng hậu nghiệm của tôi ở đây lại khá gần 50-50.
So as I crank up k, I have a stronger prior, and I fit less.
Vậy khi tăng k, tiên nghiệm của tôi mạnh hơn và tôi khớp dữ liệu ít hơn.
If I crank down k, I fit more, and so I now I have a dial which can trade off the amount of fitting against generalization.
Nếu giảm k, tôi khớp nhiều hơn, và như vậy tôi có một núm xoay để đánh đổi mức độ khớp dữ liệu với khả năng khái quát hóa.
It is certainly not the case that this is the only way to estimate probabilities or that estimating probabilities the only kind of machine learning.
Dĩ nhiên đây không phải là cách duy nhất để ước lượng xác suất, và ước lượng xác suất cũng không phải là loại học máy duy nhất.
We will see a whole bunch of other things in the next few lectures.
Chúng ta sẽ thấy rất nhiều thứ khác trong vài bài giảng tới.
But what is important is that in general, there will be knobs you can turn, which cause you to do more generalization or less generalization, and that can control fitting.
Nhưng điều quan trọng là nhìn chung sẽ có những núm xoay mà bạn có thể vặn, để khái quát hóa nhiều hơn hoặc ít hơn, và qua đó kiểm soát mức độ khớp.
I'm not going to talk about the conditionals. I think I'm going to skip this, too. All right, so let's go to real Naive Bayes.
Tôi sẽ không nói về các xác suất có điều kiện. Tôi nghĩ tôi cũng sẽ bỏ qua phần này. Được rồi, giờ ta sang naive Bayes thực tế.
So in a real classification problem, you have to smooth if you're going to use Naive Bayes, and so, for example, I can go into my spam, and instead of computing odds ratios on the maximum likelihood — or empirical relative frequency estimates — I can instead do some smoothing and see after that smoothing, what has the biggest odds ratio?
Trong một bài toán phân loại thực tế, nếu dùng naive Bayes thì bạn phải làm trơn, ví dụ, tôi có thể xét bộ lọc spam của mình, và thay vì tính tỷ lệ odds dựa trên ước lượng khả năng cực đại, tức tần suất tương đối thực nghiệm, tôi làm trơn rồi xem sau khi làm trơn thì từ nào có tỷ lệ odds lớn nhất?
And suddenly things that only occurred once, they don't percolate to the top, because they haven't occurred enough to overwhelm that flat prior that I'm associating them with.
Và đột nhiên những thứ chỉ xuất hiện một lần không còn nổi lên hàng đầu, vì chúng chưa xuất hiện đủ nhiều để lấn át tiên nghiệm phẳng mà tôi gán cho chúng. vào.
So this is the top of the odds ratios for ham on the left, and favoring spam on the right. Some of these maybe make sense.
Đây là các tỷ lệ odds cao nhất: bên trái nghiêng về ham, bên phải nghiêng về spam. Một số có lẽ hợp lý.
Like, there it is. Money. Free is probably in there somewhere. If you see money, that's a good sign that it's spam.
Ví dụ, đây rồi. Money. Free chắc cũng nằm đâu đó trong đó. Thấy money là dấu hiệu tốt cho thấy đó là spam.
Or capital order, or credit, presumably credit card, I don't know. There are some things that indicate ham. This looks like general English text.
Hoặc capital order, hay credit, có lẽ là credit card, tôi không biết. Cũng có một số thứ chỉ báo ham. Cái này trông như văn bản tiếng Anh thông thường.
What is going on there? Helvetica vs. Verdana. Spammers use Verdana. What is this?
Chuyện gì đang xảy ra ở đây? Helvetica so với Verdana. Kẻ gửi spam dùng Verdana. Cái này là gì?
This reflects the default fonts that were in use at this time across different platforms.
Nó phản ánh các phông chữ mặc định được dùng thời đó trên các nền tảng khác nhau.
And so one of the things you find in machine learning is, you know what you think the features are going to be, or rather, which features are going to be useful.
Và một điều bạn sẽ thấy trong học máy là bạn tưởng mình biết đặc trưng sẽ là gì, hay đúng hơn, đặc trưng nào sẽ hữu ích.
But you might be wrong. Sometimes things surprise you, and that's why it's always good to like actually look into your model and see what has been learned here?
Nhưng bạn có thể sai. Đôi khi có những điều bất ngờ, và đó là lý do luôn nên xem xét kỹ mô hình của mình để xem nó đã học được gì.
Is there something that I can learn about this problem from what the machine has learned about the problem? All right. Let's see.
Tôi có học được điều gì về bài toán này từ những gì máy đã học về nó không? Được rồi. Để xem nào.
We talked about tuning. So let's say I build my Naive Bayes model for spam, for digits, whatever. I've got my features.
Ta đã nói về việc tinh chỉnh. Giả sử tôi xây mô hình naive Bayes cho spam, cho chữ số, hay gì cũng được. Tôi đã có các đặc trưng.
Let's say they're mostly words and pixels, though on your projects, you'll see you can do better. And I have some tuning to do. Like, again, this is for Naive Bayes.
Giả sử chủ yếu là từ và pixel, dù trong các project, bạn sẽ thấy có thể làm tốt hơn. Và tôi có việc tinh chỉnh cần làm. Ví dụ, đây là cho naive Bayes.
Every method is going to have a different incarnation of this. But I can change the strength of my priors.
Mỗi phương pháp sẽ có một dạng khác của việc này. Nhưng tôi có thể thay đổi độ mạnh của tiên nghiệm.
If I crank k to zero, I'm not going to smooth at all, and I'm going to fit my data very well.
Nếu đặt k bằng 0, tôi hoàn toàn không làm trơn, và tôi sẽ khớp dữ liệu rất tốt.
If I crank k to a million, I'm definitely not going over-fit, but I'm also not going to learn anything. So somewhere in between is the right amount.
Nếu đặt k bằng một triệu, chắc chắn tôi không bị quá khớp, nhưng tôi cũng chẳng học được gì. Nên mức đúng nằm đâu đó ở giữa.
How do I figure out the right amount? Well, I can look at my training data and see where am I more accurate?
Làm sao tìm ra mức đúng? Tôi có thể nhìn vào dữ liệu huấn luyện xem ở đâu tôi chính xác hơn.
But the k that's going to be most accurate on my training data is zero, because that's what actually fits the training data best. That's the maximum likelihood estimate.
Nhưng k chính xác nhất trên dữ liệu huấn luyện là 0, vì đó là giá trị khớp dữ liệu huấn luyện tốt nhất. Đó là ước lượng khả năng cực đại.
And so what you need to have, is in addition to your parameters — which are these kind of basic counts and things like that — that you're going to set on your training data, you need to have some held-out data that you can do things like, all right, given these counts, how much smoothing am I going to do?
Vì vậy, ngoài các tham số của bạn, vào các tham số của bạn — tức là các số đếm cơ bản và những thứ tương tự, được đặt trên dữ liệu huấn luyện, bạn cần có thêm dữ liệu held-out để làm những việc như được rồi, với các số đếm này, tôi sẽ làm trơn bao nhiêu?
What's that right balance between fitting enough, but not too much? So we learn our parameters from the training data, and what is actually the parameters is going to spend on the model.
Đâu là sự cân bằng đúng giữa khớp đủ mà không quá nhiều? Vậy ta học các tham số từ dữ liệu huấn luyện, còn chính xác tham số là gì thì tùy vào mô hình.
We tune them on some different data, like some held-out data, because otherwise, you'll get crazy results.
Ta tinh chỉnh chúng trên dữ liệu khác, như dữ liệu held-out, vì nếu không bạn sẽ nhận được kết quả rất kỳ quặc.
And then eventually, you're going to take the best value, do some final tests, test run.
Và cuối cùng, bạn lấy giá trị tốt nhất, làm vài bài kiểm tra cuối, chạy thử nghiệm.
I'm going to say a very little bit about features, because I think it's important for when we start to get to neural nets, where the story here is going to change.
Tôi sẽ nói rất ít về đặc trưng, vì tôi nghĩ nó quan trọng khi ta bắt đầu đến mạng nơ-ron, nơi câu chuyện sẽ thay đổi.
So in general, your model is going to make errors. We're talking a bit more about this starting next lecture, but your models going to make errors.
Nhìn chung, mô hình của bạn sẽ mắc lỗi. Ta sẽ nói kỹ hơn về điều này từ bài sau, nhưng mô hình của bạn sẽ mắc lỗi.
Here's some examples of errors that the quick Naive Bayes system I whipped up makes on this training set. Here's one example. You're a Globalscape customer. We've partnered with Scan Soft to offer you something.
Đây là vài ví dụ về lỗi của hệ thống naive Bayes nhanh mà tôi làm vội, trên tập huấn luyện này. Đây là một ví dụ. Bạn là khách hàng của Globalscape. Chúng tôi hợp tác với Scan Soft để mang đến cho bạn một thứ.
And then there's this other one that's also an error, which is, to receive your $30 Amazon promotional certificate, click on this.
Và còn một cái khác cũng là lỗi: để nhận chứng nhận khuyến mãi Amazon 30 đô la của bạn, hãy nhấp vào đây.
OK, one was spam that should have been ham, one was ham that should've been spam. These are tricky cases, and it's actually very hard to tell from the words which one's which.
Được rồi, một cái là spam lẽ ra phải là ham, một cái là ham lẽ ra phải là spam. Đây là những trường hợp khó, và thật sự rất khó để biết từ các từ ngữ cái nào là cái nào.
And in fact, in this case, it might actually just be noise in the data. So what are you going to do when you make errors?
Thực ra trong trường hợp này, có thể chỉ là nhiễu trong dữ liệu. Vậy bạn sẽ làm gì khi mắc lỗi?
Well, one thing is, in general, you're going to need more features.
Thì một điều là, nhìn chung, bạn sẽ cần thêm đặc trưng.
So in spam classification, we found out that it wasn't enough to just look at words, you've got to look at other sort of metadata from the ecosystem.
Với phân loại thư rác, ta đã thấy chỉ nhìn vào các từ là không đủ, bạn phải xem cả những siêu dữ liệu khác từ hệ sinh thái.
For digit recognition, you do sort of more advanced things than just looking at pixels, where you look at things like edges and loops and things like that.
Với nhận dạng chữ số, bạn làm những việc nâng cao hơn so với chỉ nhìn các điểm ảnh, trong đó bạn xét những thứ như cạnh, vòng khép kín và những thứ tương tự.
Try to do things that are invariant to rotation and scale and all of that the vision folks think about.
Cố làm những thứ bất biến với phép xoay và tỉ lệ và mọi thứ mà các nhà nghiên cứu thị giác máy tính vẫn nghĩ tới.
You can add these as sources of information by just adding variables into your Naive Bayes model, but we'll also talk in the next few classes about ways to add these more flexibly, and also ways to induce these.
Bạn có thể thêm chúng làm nguồn thông tin bằng cách thêm biến vào mô hình naive Bayes, nhưng vài buổi tới ta cũng sẽ bàn về các cách để thêm chúng linh hoạt hơn, và cả các cách để tự sinh ra chúng.
All right, I'm going to stop there for today, and as you go, please come up and grab some more candy. Thank you.
Được rồi, hôm nay tôi dừng ở đây, và khi ra về, mời các bạn lên lấy thêm kẹo. Cảm ơn các bạn.
Đăng nhập để đánh giá học liệu này.
Đăng nhập để bình luận — chưa ai bình luận về học liệu này.
Không có khóa học liên quan.