Video
Đăng bởi Ban biên tập OpenER ·
Tác giả giữ toàn bộ bản quyền (All Rights Reserved) — không phải giấy phép mở. Bạn vẫn xem và học miễn phí trên OpenER; muốn tái sử dụng cần xin phép tác giả.
Okay, well, good morning, everyone. Welcome to EECS 151/251A, Introduction to Digital Design and Integrated Circuits.
Được rồi, chào buổi sáng mọi người. Chào mừng các bạn đến với EECS 151/251A, Nhập môn Thiết kế số và Mạch tích hợp.
We get to almost, almost, this is the end of our second module. We're going to wrap up our discussion on energy.
Chúng ta sắp, gần như là sắp kết thúc mô-đun thứ hai. Chúng ta sẽ kết thúc phần thảo luận về năng lượng.
Right, we spent a lot of time talking about power as our performance, but we are going to transition to energy. It's going to be a pretty brief overview of different components.
Đúng vậy, chúng ta đã dành nhiều thời gian nói về công suất như một thước đo hiệu năng, nhưng bây giờ chúng ta sẽ chuyển sang năng lượng. Đây sẽ là một phần tổng quan khá ngắn về các thành phần khác nhau.
As I mentioned earlier, EECS 251B will be a follow-up class for this one.
Như tôi đã nói trước đó, EECS 251B sẽ là môn học tiếp nối môn này.
We'll actually go a lot deeper into different energy optimization, so for the folks who are interested, definitely sign up for 251B. That would also be a fun class.
Ở đó chúng ta sẽ đi sâu hơn nhiều vào các cách tối ưu năng lượng khác nhau, nên những bạn quan tâm thì nhất định hãy đăng ký 251B. Đó cũng sẽ là một môn học thú vị.
And we're also going to start our third module of this class.
Và chúng ta cũng sẽ bắt đầu mô-đun thứ ba của môn học này.
So we started with Verilog and microarchitecture, right, how we can get our designs started, and then we get to our CMOS module, right.
Chúng ta đã bắt đầu với Verilog và vi kiến trúc, tức là cách bắt đầu xây dựng các thiết kế của mình, rồi đến mô-đun CMOS.
We talked about how the CMOS transistor works, again at a pretty high level, but how we actually construct complex logic, how we actually understand the delay and also the energy profile of different CMOS logic.
Chúng ta đã nói về cách transistor CMOS hoạt động, vẫn ở mức khá khái quát, nhưng cũng về cách xây dựng các mạch logic phức tạp, cách hiểu về độ trễ và cả đặc tính năng lượng của các mạch logic CMOS khác nhau.
Next we're going to get to our logic module. We're going to talk about both combinational and sequential logic elements, right, how we actually build different adders, different combinational logic like adders, multipliers.
Tiếp theo chúng ta sẽ sang mô-đun logic. Chúng ta sẽ nói về cả các phần tử logic tổ hợp và logic tuần tự, tức là cách xây dựng các bộ cộng khác nhau, các mạch logic tổ hợp khác nhau như bộ cộng, bộ nhân.
We'll also cover sequential elements. We have been talking about flip-flops, right, and SRAMs. We always just have a big box there, right, but how do we actually build flip-flops?
Chúng ta cũng sẽ học về các phần tử tuần tự. Chúng ta đã nói về flip-flop và SRAM. Lúc nào chúng ta cũng chỉ vẽ một cái hộp lớn ở đó, nhưng thực sự xây dựng flip-flop như thế nào?
How are today's SRAMs actually implemented? Right now, with the CMOS background, we can actually see how those are actually designed in today's technology. So we're transitioning from the second module.
Các SRAM ngày nay thực sự được hiện thực ra sao? Giờ đây, với nền tảng về CMOS, chúng ta có thể thấy chúng thực sự được thiết kế như thế nào trong công nghệ hiện nay. Vậy là chúng ta đang chuyển từ mô-đun thứ hai sang.
We'll do the energy discussion today, and then we'll also start our third module, in really thinking about circuit topology, how we actually build different elements.
Hôm nay chúng ta sẽ thảo luận về năng lượng, rồi cũng sẽ bắt đầu mô-đun thứ ba, suy nghĩ thực sự về cấu trúc mạch, cách xây dựng các phần tử khác nhau.
So since we're going to talk about adders, right, and you will see either in this lecture or next week. I think the second, will probably, won't get to the second half of either today.
Vì chúng ta sẽ nói về bộ cộng, và các bạn sẽ thấy điều đó trong bài giảng này hoặc tuần sau. Tôi nghĩ phần thứ hai thì có lẽ hôm nay chúng ta sẽ không kịp đến.
We will actually see either design is actually a pretty interesting optimization problem. This will be a lot clearer after today's lecture or next week's lecture.
Chúng ta sẽ thấy rằng việc thiết kế một trong hai loại thực sự là một bài toán tối ưu khá thú vị. Điều này sẽ rõ hơn nhiều sau bài giảng hôm nay hoặc bài giảng tuần sau.
You will see a lot of other optimization is actually a tree optimization, so we are actually experimenting different tree structures to figure out a good design.
Các bạn sẽ thấy nhiều bài toán tối ưu khác thực chất là tối ưu cây, tức là chúng ta thử nghiệm các cấu trúc cây khác nhau để tìm ra một thiết kế tốt.
So, I guess 30, 40 years ago, different tree implementation, how we actually come up with different tree structures are very important topic in digital design, hardware design.
Khoảng 30, 40 năm trước, các cách hiện thực cây khác nhau, cách chúng ta nghĩ ra các cấu trúc cây khác nhau là một chủ đề rất quan trọng trong thiết kế số, thiết kế phần cứng.
A lot of papers are written. You will actually sample a couple of them today or the other lecture.
Rất nhiều bài báo đã được viết. Các bạn sẽ được xem qua vài bài trong số đó hôm nay hoặc ở bài giảng khác.
You will see those are typically named by whoever actually invented that adder, that different tree structure to do addition.
Các bộ cộng đó thường được đặt tên theo người đã phát minh ra chúng, các cấu trúc cây khác nhau để thực hiện phép cộng.
And the more recently, this, of course, always growing importance of machine learning, especially deep learning, right?
Và gần đây hơn, dĩ nhiên là tầm quan trọng của học máy ngày càng tăng, đặc biệt là học sâu, đúng không?
So instead of manually coming up with different adder structure, this can also be used, actually also use deep learning to design different advanced adder structure. So this is one of the NVIDIA's work.
Vì vậy, thay vì tự tay nghĩ ra các cấu trúc bộ cộng khác nhau, người ta cũng có thể dùng cách này, tức là dùng học sâu để thiết kế các cấu trúc bộ cộng tiên tiến khác nhau. Đây là một công trình của NVIDIA.
They are actually using reinforcement learning to actually figure out, you see the gift there, they are basically different tree structure, and different structures have different topologies, have different delay and energy profile.
Họ dùng học tăng cường để tìm ra, các bạn thấy ảnh động ở đó, về cơ bản chúng là các cấu trúc cây khác nhau, và các cấu trúc khác nhau có tô-pô khác nhau, có độ trễ và đặc tính năng lượng khác nhau.
So instead of manually actually figuring out a so-called optimal structure, optimal tree layout for adders, we are actually also using machine learning these days to design those efficient circuit.
Vì vậy, thay vì tự tay tìm ra cái gọi là cấu trúc tối ưu, bố cục cây tối ưu cho bộ cộng, ngày nay chúng ta còn dùng học máy để thiết kế các mạch hiệu quả đó.
So this, I guess the optimized circuit, optimized adder design, come up from this reinforcement learning algorithm, is actually used in NVIDIA's architecture, right, so their latest GPU architecture.
Mạch được tối ưu, thiết kế bộ cộng được tối ưu này, sinh ra từ thuật toán học tăng cường này, thực sự được dùng trong kiến trúc của NVIDIA, đúng rồi, là kiến trúc GPU mới nhất của họ.
So we see there's interesting intersections, both really thinking about hardware for machine learning but also how machine learning actually transforms hardware design, similar to protein folding.
Như vậy ta thấy có những giao thoa thú vị, vừa là nghĩ về phần cứng cho học máy, vừa là việc học máy làm thay đổi thiết kế phần cứng như thế nào, tương tự như bài toán gập protein.
This kind of more learning-based algorithm actually convert a lot of traditionally more manual and based on heuristic figuring out the structure, and now we can actually do a pretty big search space.
Loại thuật toán dựa trên học này đã chuyển rất nhiều việc vốn trước đây làm thủ công hơn và dựa trên heuristic để tìm cấu trúc, và giờ ta có thể tìm kiếm trong một không gian khá lớn.
And figure out a potential structure to be basically doing this. Prefix adder, we'll actually see, also see that when we get to adder design. So some interesting way of designing circuit topology.
Và tìm ra một cấu trúc tiềm năng để làm việc này. Bộ cộng tiền tố (prefix adder), chúng ta cũng sẽ gặp lại khi học đến thiết kế bộ cộng. Đó là một cách thú vị để thiết kế tô-pô mạch.
Okay, so with that, let's transition to the topic today. So, so far we have been mostly talking about the delay, right?
Được rồi, vậy chuyển sang chủ đề hôm nay. Cho đến giờ chúng ta chủ yếu nói về độ trễ, đúng không?
Last lecture we started also talking about not only the gate component actually contribute to the delay, but the wires, right? The gate component, the wire actually connecting different components together.
Bài giảng trước chúng ta bắt đầu nói rằng không chỉ các cổng đóng góp vào độ trễ, mà cả các dây dẫn nữa, đúng không? Thành phần cổng, và dây dẫn nối các thành phần với nhau.
That all can also significantly contribute to the delay, especially with more, with advanced technology, or the chip is bigger, right?
Tất cả đều có thể đóng góp đáng kể vào độ trễ, nhất là với công nghệ tiên tiến hơn, hoặc khi chip lớn hơn, đúng không?
The scalability is really the key, and things are further away from each other, then the wire delays are also more significant.
Khả năng mở rộng mới là điều then chốt, và khi các thành phần ở xa nhau hơn, thì độ trễ dây dẫn cũng đáng kể hơn.
And we use our RC model, we talked about Elmore delay, to actually quantitatively capture the delay components for the wires. Next we're going to transition to our energy discussion.
Và ta dùng mô hình RC, ta đã nói về độ trễ Elmore, để biểu diễn định lượng các thành phần độ trễ của dây dẫn. Tiếp theo chúng ta sẽ chuyển sang phần thảo luận về năng lượng.
We so far, for the majority, our CMOS logic, we focus on the delay part, right?
Cho đến giờ, với phần lớn logic CMOS, chúng ta tập trung vào độ trễ, đúng không?
We started off with the inverter, the chain of inverters, and the logical effort, we get to generalize to any kind of gates, then we talk about the parasitic delay, right?
Chúng ta bắt đầu với bộ đảo, chuỗi các bộ đảo, và logical effort, ta khái quát hóa cho mọi loại cổng, rồi ta nói về độ trễ ký sinh, đúng không?
Then in addition to gates we also talk about wires. So far it's going to be largely focusing on the delay, the performance side.
Sau đó ngoài các cổng, chúng ta cũng nói về dây dẫn. Cho đến giờ chúng ta chủ yếu tập trung vào độ trễ, tức là khía cạnh hiệu năng.
But more recently, especially the past two decades, I will say after 2000, energy actually became a very important, I would say even more important component, right?
Nhưng gần đây hơn, đặc biệt là hai thập kỷ qua, tôi có thể nói là sau năm 2000, năng lượng thực sự đã trở thành một yếu tố rất quan trọng, thậm chí tôi có thể nói là còn quan trọng hơn, đúng không?
So now it's not only just optimizing for delay, but optimizing for both performance and energy.
Vì vậy bây giờ không chỉ là tối ưu độ trễ, mà là tối ưu đồng thời cả hiệu năng và năng lượng.
So talk a little bit more about energy, and in particular, also talk about different components of energy, in particular dynamic and static, right?
Nên ta sẽ nói thêm một chút về năng lượng, và đặc biệt là cũng nói về các thành phần khác nhau của năng lượng, cụ thể là động và tĩnh, đúng không?
When people talk about energy consumption, power consumption, what do they actually mean? Just a quick warm up, right?
Khi người ta nói về mức tiêu thụ năng lượng, mức tiêu thụ công suất, thì thực sự họ muốn nói đến điều gì? Chỉ là một phần khởi động nhanh thôi, nhé?
We have seen this multiple times throughout the class, that's really showing the history of the semiconductor industry, right?
Chúng ta đã thấy điều này nhiều lần trong suốt môn học, nó cho thấy lịch sử của ngành công nghiệp bán dẫn, đúng không?
So far we're mostly thinking about what really contributes for the frequency, right, argument, right, how We actually measure the delay: what's a critical path, what kind of components affect a critical path.
Cho đến giờ chúng ta chủ yếu nghĩ về những yếu tố thực sự quyết định tần số, tức là chúng ta thực sự đo độ trễ như thế nào, đường tới hạn là gì, những thành phần nào ảnh hưởng đến đường tới hạn.
Now we are also going to talk about the power and energy components, right?
Bây giờ chúng ta cũng sẽ nói về các thành phần công suất và năng lượng, nhé?
So, especially, I mentioned in after 2000, right, in the past two decades, right, a lot of design, instead of performance limited, hardware is actually very energy limited.
Đặc biệt, như tôi đã nhắc, sau năm 2000, tức là trong hai thập kỷ qua, rất nhiều thiết kế, thay vì bị giới hạn về hiệu năng, thì phần cứng lại thực sự bị giới hạn về năng lượng.
That literally actually impacted the introduction of multi core architecture, and everyone is forced to do multi threaded programming, right, because we cannot get better single thread performance out of our processor, right?
Điều đó thực sự đã dẫn đến sự ra đời của kiến trúc đa lõi, và mọi người buộc phải lập trình đa luồng, vì chúng ta không thể có được hiệu năng đơn luồng tốt hơn từ bộ xử lý nữa, đúng không?
So the power and energy really has a huge impact, especially more than processor architecture.
Vì vậy công suất và năng lượng thực sự có tác động rất lớn, đặc biệt là đối với kiến trúc bộ xử lý.
So when we talk about energy, right, what do we mean, and especially as a circuit and transistor level, right, what kind of components actually contribute to energy, right?
Vậy khi nói về năng lượng, chúng ta muốn nói đến điều gì, và đặc biệt ở mức mạch và transistor, những thành phần nào thực sự đóng góp vào năng lượng?
Again, just a quick recap, right. Many of you probably already seen this, just like making sure we are on the same page, we all have the right tools to navigate different energy profile.
Một lần nữa, chỉ là nhắc lại nhanh thôi. Nhiều bạn có lẽ đã thấy điều này rồi, chỉ để đảm bảo chúng ta hiểu giống nhau, và ai cũng có đủ công cụ để phân tích các đặc trưng năng lượng khác nhau.
We'll get to CMOS design, right? So yeah, I talk about a lot of circuit, I would see a capacitor, right, the energy is basically energy cost of charging and discharging the capacitor.
Chúng ta sẽ đi đến thiết kế CMOS. Vâng, tôi nói nhiều về mạch, ta sẽ thấy một tụ điện, năng lượng về cơ bản chính là năng lượng tiêu tốn để nạp và xả tụ điện.
So energy is basically like the current over time to actually charge and discharge the capacitors, and then the total energy for charging can be stored on capacitors, basically half of CV square, right, linear with the capacitance, and also quadratic with the voltage across our capacitors, right.
Vậy năng lượng về cơ bản là dòng điện theo thời gian để nạp và xả các tụ điện, và tổng năng lượng nạp có thể được lưu trên tụ điện, về cơ bản là một nửa CV bình phương, tuyến tính theo điện dung, và bậc hai theo điện áp trên tụ điện.
And power, the difference between energy and power, right, energy is the total energy we spend or we actually stored in our capacitors in this case, but power is really energy over time, right?
Còn công suất, sự khác nhau giữa năng lượng và công suất, năng lượng là tổng năng lượng chúng ta tiêu tốn hoặc thực sự lưu trên tụ điện trong trường hợp này, còn công suất thực chất là năng lượng theo thời gian, đúng không?
We're talking about per unit, right, how much energy we actually spend.
Ta đang nói trên mỗi đơn vị thời gian, chúng ta thực sự tiêu tốn bao nhiêu năng lượng.
So power is, we in our, I guess, first or second lecture talked about power is really transient, right, especially dynamic power is actually really transient, as it's really how much energy we spend per unit, right, And then we can basically, instead of just the CV square, there's also frequency, right?
Vậy công suất, tôi nghĩ là trong bài giảng đầu hoặc thứ hai, ta đã nói công suất thực sự mang tính tức thời, đặc biệt là công suất động thực sự mang tính tức thời. vì nó thực sự là lượng năng lượng chúng ta tiêu tốn trên mỗi đơn vị, đúng không? Và sau đó về cơ bản chúng ta có thể thấy, ngoài CV² ra thì còn có cả tần số nữa, đúng không?
So frequency is also a very important factor when we think about the power, right? Because depends on how fast the circuit needs is running, that also contribute to the power of the total consumption.
Vì vậy tần số cũng là một yếu tố rất quan trọng khi chúng ta nghĩ về công suất, đúng không? Bởi vì tùy vào việc mạch cần chạy nhanh đến mức nào, điều đó cũng đóng góp vào tổng công suất tiêu thụ.
Okay, so those are just the basic background. We talked about power and energy. Now let's go to our CMOS logic, right? Where does our power actually go? We think about CMOS circuit, right?
Được rồi, đó chỉ là phần kiến thức nền cơ bản. Chúng ta đã nói về công suất và năng lượng. Giờ hãy chuyển sang logic CMOS, đúng không? Công suất của chúng ta thực sự đi đâu? Khi nghĩ về mạch CMOS, đúng không?
Generally, people talk about two, two types of power consumption. One is what people call dynamic, and the one is what people call static.
Nói chung, người ta nói đến hai loại tiêu thụ công suất. Một loại gọi là động, và một loại gọi là tĩnh.
Suppose to both the first two categories are actually dynamic. We'll talk about details, what they have, what are the different contributors of the different categories, and the last category is static.
Hai loại đầu tiên thực ra đều là công suất động. Chúng ta sẽ nói chi tiết xem chúng gồm những gì, những thành phần đóng góp khác nhau của từng loại là gì, và loại cuối cùng là công suất tĩnh.
Well, as the name suggests, right, dynamic power means that the power is affected by activity, right, by switching, whether our circuit is switching, whether our hardware is actually toggling, running something, while static power is basically static, right?
Như tên gọi gợi ý, công suất động nghĩa là công suất bị ảnh hưởng bởi hoạt động, tức là bởi sự chuyển mạch, việc mạch của chúng ta có đang chuyển mạch hay không, phần cứng có đang đảo trạng thái, đang chạy một việc gì đó hay không, còn công suất tĩnh thì về cơ bản là tĩnh, đúng không?
No matter what we do, it's always consume the power, right? So that's a key difference. Dynamic power is dependent on the activity, dependent on the toggling.
Dù chúng ta làm gì, nó luôn tiêu thụ công suất, đúng không? Đó là điểm khác biệt chính. Công suất động phụ thuộc vào hoạt động, phụ thuộc vào việc đảo trạng thái.
We'll talk about differences between short circuit power and the general dynamic power, but both are dependent on activity.
Chúng ta sẽ nói về sự khác nhau giữa công suất ngắn mạch và công suất động nói chung, nhưng cả hai đều phụ thuộc vào hoạt động.
But leakage or static power is not dependent on activity, no matter whether we're switching or not. We always spend power on that. So, we'll see two different dynamic power.
Còn công suất rò hay công suất tĩnh thì không phụ thuộc vào hoạt động, dù chúng ta có chuyển mạch hay không. Chúng ta luôn tốn công suất cho phần đó. Vậy chúng ta sẽ thấy hai loại công suất động khác nhau.
One is a lot more important, the dynamic power consumption is a lot more important than short circuit. We'll see why that's the case, especially for more, more recent technology.
Một loại quan trọng hơn nhiều, mức tiêu thụ công suất động quan trọng hơn nhiều so với ngắn mạch. Chúng ta sẽ thấy vì sao lại như vậy, đặc biệt với các công nghệ gần đây hơn.
So we're going to go through each individual. Okay, so first is dynamic power consumption, right? So this is really the switching activity, right?
Vậy chúng ta sẽ đi qua từng loại một. Được rồi, đầu tiên là mức tiêu thụ công suất động, đúng không? Đây thực chất là hoạt động chuyển mạch, đúng không?
Whenever we're toggling, let's say in our input, our inverters, right, whenever the input changes, output changes, Whenever we're changing our output, right, we need to charge or discharge our capacitors, and whenever we're charging and discharging our capacitors, it actually consumes energy.
Mỗi khi chúng ta đảo trạng thái, giả sử ở đầu vào, các cổng đảo của chúng ta, mỗi khi đầu vào thay đổi thì đầu ra thay đổi, Mỗi khi chúng ta thay đổi đầu ra, đúng không? chúng ta cần nạp hoặc xả các tụ điện, và mỗi khi chúng ta nạp và xả các tụ điện, điều đó thực sự tiêu tốn năng lượng.
Right. As we mentioned before, right, power is basically C V squared, right?
Đúng vậy. Như đã nói trước đây, công suất về cơ bản là C V², đúng không?
C is a capacitance, right, how big a capacitance we have here, and then there's really, basically, the voltage, right, how big a voltage we have.
C là điện dung, tức là ở đây chúng ta có điện dung lớn đến mức nào, và sau đó là điện áp, tức là chúng ta có điện áp lớn đến mức nào.
That also affects how much charge is actually stored or spent during the charging and discharging activities. And finally, frequency, right, how fast we're doing the switching.
Điều đó cũng ảnh hưởng đến lượng điện tích thực sự được lưu trữ hoặc tiêu tốn trong quá trình nạp và xả. Và cuối cùng là tần số, tức là chúng ta chuyển mạch nhanh đến mức nào.
That also affects the total power of the dynamic power calculation, right? So that's the capacitors, right, how big our capacitance is; voltage, right, what's the voltage that we're using.
Điều đó cũng ảnh hưởng đến tổng công suất trong phép tính công suất động, đúng không? Đó là tụ điện, tức là điện dung của chúng ta lớn đến đâu; rồi điện áp, tức là điện áp mà chúng ta sử dụng là bao nhiêu.
Right, we're talking about voltage scaling. We'll see a little bit more about voltage scaling. That also changes the total power consumption.
Chúng ta đang nói về việc thay đổi tỉ lệ điện áp (voltage scaling). Chúng ta sẽ tìm hiểu thêm một chút về voltage scaling. Điều đó cũng làm thay đổi tổng công suất tiêu thụ.
And frequency, right, how fast we're switching, all of those contribute to how much power would be spent. Finally, there is this activity factor, right?
Và tần số, tức là chúng ta chuyển mạch nhanh đến mức nào, tất cả những yếu tố đó đều góp phần quyết định lượng công suất bị tiêu tốn. Cuối cùng là hệ số hoạt động (activity factor), đúng không?
So we mentioned this is when the circuit is switching, right, we're toggling.
Như đã nói, đây là khi mạch đang chuyển mạch, tức là chúng ta đang đảo trạng thái.
Whenever we have this kind of switching, either zero to one, zero to one will be a charging activity, one to zero will be a discharging activity, right?
Mỗi khi có chuyển mạch như vậy, dù là từ không lên một, từ 0 lên 1 sẽ là hoạt động nạp, từ 1 xuống 0 sẽ là hoạt động xả, đúng không?
Whenever we're switching, we trigger this dynamic power consumption.
Mỗi khi chuyển mạch, chúng ta kích hoạt mức tiêu thụ công suất động này.
So activity factor is really quantifying the activities or toggling rate, the toggle rate of our current circuit with the current stimulus, right, with the current inputs that change.
Vì vậy hệ số hoạt động thực chất là định lượng mức độ hoạt động hay tốc độ đảo trạng thái, tức là tốc độ đảo trạng thái của mạch hiện tại với kích thích hiện tại, tức là với các đầu vào hiện tại đang thay đổi.
How much switching do we do in our circuit? That also affects the energy and power consumption that we have in our circuit, right? So it's really those four factors.
Mạch của chúng ta chuyển mạch nhiều đến mức nào? Điều đó cũng ảnh hưởng đến năng lượng và công suất tiêu thụ trong mạch của chúng ta, đúng không? Vậy thực chất là bốn yếu tố này.
We always use alpha to represent the switching activity or the activity factor. Right. So different signals will have different activity factors, right. For example, clock, clock is always toggling, right?
Chúng ta luôn dùng alpha để biểu diễn hoạt động chuyển mạch hay hệ số hoạt động. Đúng vậy. Các tín hiệu khác nhau sẽ có hệ số hoạt động khác nhau. Ví dụ, xung clock, clock luôn đảo trạng thái, đúng không?
Clock is basically always toggling, so it has the highest activity factor, 100%. It's always toggling, right? And other, other signals, Whether they're toggling or not really depends on the data patterns.
Về cơ bản clock luôn đảo trạng thái, nên nó có hệ số hoạt động cao nhất, 100%. Nó luôn đảo trạng thái, đúng không? Còn các tín hiệu khác, việc chúng có đảo trạng thái hay không thực sự phụ thuộc vào mẫu dữ liệu.
What kind of a case: a NAND gate and a NOR gate will have different toggling behavior even if the inputs are the same. And then different inputs, right, what are your stimulus?
Chẳng hạn: một cổng NAND và một cổng NOR sẽ có hành vi đảo trạng thái khác nhau dù đầu vào giống nhau. Và với các đầu vào khác nhau, tức là kích thích của bạn là gì?
You were doing, let's say, designing your ALU, right? Designing an adder, right?
Giả sử bạn đang thiết kế ALU của mình, đúng không? Thiết kế một bộ cộng, đúng không?
Different A and B inputs could actually generate different toggling rates for our circuit, so this is very stimulus dependent and also very hardware dependent, right?
Các đầu vào A và B khác nhau thực tế có thể tạo ra các tốc độ đảo trạng thái khác nhau cho mạch của chúng ta, nên điều này phụ thuộc rất nhiều vào kích thích và cả vào phần cứng, đúng không?
Clock always has the highest activity, but for different circuits you may have different activities. And part of when you actually do power simulation, basic lab, you folks also do power simulation, right?
Clock luôn có hoạt động cao nhất, nhưng với các mạch khác nhau thì hoạt động có thể khác nhau. Và khi các bạn thực hiện mô phỏng công suất, trong bài lab cơ bản, các bạn cũng làm mô phỏng công suất, đúng không?
You actually need the activity file from your RTL simulation to actually generate the power estimation, right?
Các bạn thực sự cần tệp hoạt động từ mô phỏng RTL để tạo ra ước lượng công suất, đúng không?
So this stimulus is always very important because we need that to actually quantify the activity going on in our circuit.
Vì vậy kích thích này luôn rất quan trọng, vì chúng ta cần nó để định lượng hoạt động diễn ra trong mạch của chúng ta.
So that's basically our different factors that affect dynamic power consumption, and this is really the dominating factor generally, and this is why, this is actually doing useful work, right?
Đó là các yếu tố khác nhau ảnh hưởng đến công suất tiêu thụ động, và nhìn chung đây là yếu tố chiếm ưu thế, và đó là lý do, vì đây thực sự là phần làm công việc có ích, đúng không?
Because we want the circuit toggling to do the computation. So this is actually doing useful work, so this is good to have it actually be more dominant.
Bởi vì chúng ta muốn mạch đảo trạng thái để thực hiện tính toán. Vậy đây thực sự là phần làm công việc có ích, nên việc nó chiếm ưu thế hơn là điều tốt.
But we also want to have different ways to control, at least improve, the efficiency of our system by managing or modulating the dynamic power consumption. So what are the different mechanisms?
Nhưng chúng ta cũng muốn có nhiều cách khác nhau để kiểm soát, ít nhất là cải thiện, hiệu suất của hệ thống bằng cách quản lý hoặc điều chỉnh công suất tiêu thụ động. Vậy có những cơ chế nào?
Some mechanisms you probably heard already, probably heard those terminologies. Now we know what dynamic power consumption really is. Let's see how the different mechanisms actually control or modulate the dynamic power consumption.
Một số cơ chế thì có lẽ các bạn đã nghe rồi, có lẽ đã nghe qua những thuật ngữ này. Giờ chúng ta đã biết công suất tiêu thụ động thực sự là gì. Hãy xem các cơ chế khác nhau thực sự kiểm soát hay điều chỉnh công suất tiêu thụ động như thế nào.
So the first one, this is voltage and frequency scaling, right?
Cơ chế đầu tiên là điều chỉnh điện áp và tần số, đúng không?
So we talked about those are the different factors: different components, activity factor, capacitance of the circuit, voltage of our system, and frequency of our system, right?
Chúng ta đã nói về các yếu tố khác nhau: các thành phần khác nhau, hệ số hoạt động, điện dung của mạch, điện áp của hệ thống, và tần số của hệ thống, đúng không?
The first category of mechanism to actually modulate dynamic power is basically looking at the last two terms, right? So power is dependent, is related to the voltage of our system.
Nhóm cơ chế đầu tiên để điều chỉnh công suất động về cơ bản là xét hai số hạng cuối, đúng không? Công suất phụ thuộc vào, liên quan đến điện áp của hệ thống.
It's also dependent, Related to the frequency of our system. Right. So the idea here is that you will want to lower our power consumption, right? We could basically either lower our VDD, right?
Nó cũng phụ thuộc vào, liên quan đến tần số của hệ thống. Đúng vậy. Ý tưởng ở đây là chúng ta muốn giảm công suất tiêu thụ, đúng không? Về cơ bản ta có thể hạ VDD, đúng không?
Instead of running a very high VDD, we run a low VDD, and this is pretty significant because this is a quadratic relationship. Right.
Thay vì chạy ở VDD rất cao, ta chạy ở VDD thấp, và điều này khá đáng kể vì đây là quan hệ bậc hai. Đúng vậy.
We could also lower our frequency, right, because we don't need our hardware to run that fast and it's not that latency sensitive, right?
Ta cũng có thể hạ tần số, vì ta không cần phần cứng chạy nhanh đến thế và nó không quá nhạy với độ trễ, đúng không?
We can just, it's still running, it's still making progress, producing results, but let's just run it at a lower frequency so that we don't burn that much power.
Nó vẫn chạy, vẫn tiến triển, vẫn cho ra kết quả, nhưng cứ chạy ở tần số thấp hơn để không tiêu tốn nhiều công suất như vậy.
Right, so this is a pretty common technique. We expose a lot of knobs in our hardware so that the operating system can also do this dynamic voltage and frequency scaling.
Đây là một kỹ thuật khá phổ biến. Chúng ta cung cấp nhiều núm điều chỉnh trong phần cứng để hệ điều hành cũng có thể thực hiện điều chỉnh điện áp và tần số động này.
When we are not running some mission critical, latency critical workload, we can actually slow down our hardware, even lower our voltage a little bit, and that will actually reduce the power consumption.
Khi không chạy tác vụ quan trọng sống còn, nhạy với độ trễ, ta có thể làm chậm phần cứng, thậm chí hạ điện áp xuống một chút, và điều đó sẽ làm giảm công suất tiêu thụ.
So when we talk about DVFS, or dynamic voltage and frequency scaling, one thing that is very important is this is for dynamic power, right?
Khi nói về DVFS, hay điều chỉnh điện áp và tần số động, có một điều rất quan trọng là kỹ thuật này dành cho công suất động, đúng không?
We'll talk about other categories of power, they will have effects here, but especially with frequency they will actually always impact the dynamic power, so that's a mechanism that we use to modulate dynamic power consumption, because those are the key factors there.
Ta sẽ nói về các loại công suất khác, chúng cũng có ảnh hưởng ở đây, nhưng đặc biệt với tần số thì chúng luôn tác động đến công suất động, nên đó là cơ chế ta dùng để điều chỉnh công suất tiêu thụ động, vì đó là những yếu tố then chốt ở đây.
Right, so those are the first category. You folks probably have heard a lot of DVFS techniques, right, because that can actually affect the power consumption.
Đó là nhóm đầu tiên. Các bạn có lẽ đã nghe nhiều về các kỹ thuật DVFS, đúng không, vì chúng có thể ảnh hưởng đến công suất tiêu thụ.
We'll keep moving, right? What other components do we have? The next category is basically capacitance, right? How big a capacitance are we driving? Right, that also affects the power consumption of our system.
Ta tiếp tục nhé. Chúng ta còn những thành phần nào nữa? Nhóm tiếp theo về cơ bản là điện dung. Ta đang điều khiển một điện dung lớn đến mức nào? Điều đó cũng ảnh hưởng đến công suất tiêu thụ của hệ thống.
Right, so again, we talked about capacitance, right? There are gate capacitance, there's also wire capacitance, right? Both contribute to the overall capacitance of the system.
Vâng, ta đã nói về điện dung rồi, đúng không? Có điện dung cổng, cũng có điện dung dây dẫn, đúng không? Cả hai đều đóng góp vào điện dung tổng thể của hệ thống.
For the delay, right, for a lot of our discussions, right, especially to minimize delay. Generally, We want to have actually higher capacitance.
Về độ trễ, trong nhiều phần thảo luận của chúng ta, đặc biệt là để giảm thiểu độ trễ, nhìn chung chúng ta thực ra muốn điện dung cao hơn.
We talked about the ratio between, just a general rule of thumb, right? We talked about the thing, electrical effort, is a ratio between the load capacitance and the capacitance, the input capacitance, right?
Chúng ta đã nói về tỉ số, chỉ là một quy tắc kinh nghiệm chung, đúng không? Chúng ta đã nói về khái niệm electrical effort, là tỉ số giữa điện dung tải và điện dung đầu vào, đúng không?
So higher capacitance could actually make our circuit faster. Generally, just an intuition there. But higher capacitance could also increase the power of our, of our system, right?
Vì vậy điện dung cao hơn thực ra có thể làm mạch của chúng ta nhanh hơn. Nhìn chung, đó chỉ là một cách hiểu trực giác. Nhưng điện dung cao hơn cũng có thể làm tăng công suất của hệ thống, đúng không?
Because power is CV squared, right? That's also related to capacitance, right? So there is, you see the trade-off, right?
Bởi vì công suất là CV², đúng không? Điều đó cũng liên quan đến điện dung. Như vậy, bạn thấy có sự đánh đổi, đúng không?
Things that we do to optimize performance may not directly translate to optimization for power, right? So we talk about sizing, right?
Những việc chúng ta làm để tối ưu hiệu năng có thể không trực tiếp dẫn đến tối ưu về công suất, đúng không? Chúng ta đã nói về việc định cỡ (sizing), đúng không?
You will go too aggressive, size our circuit to be really very big, it may actually also hurt the performance.
Nếu làm quá mạnh tay, định cỡ mạch thật sự rất lớn, thì thực ra nó cũng có thể làm giảm hiệu năng.
I was wondering why some of my computer, you know, because the question I always have is, is my CPU always running?
Tôi đã thắc mắc tại sao một số máy tính của tôi, bạn biết đấy, vì câu hỏi tôi luôn có là: CPU của tôi có luôn chạy không?
Like if my CPU is always running, then shouldn't they use the same power? So you're saying that OS has to be packed, it's not going to work.
Nếu CPU luôn chạy thì chẳng phải chúng dùng cùng một công suất sao? Vậy bạn nói là hệ điều hành phải được đóng gói, như thế sẽ không hoạt động.
Right, so it changes. Yeah, yeah. Which one?
Đúng, nên nó thay đổi. Vâng, vâng. Cái nào?
Or actually, yeah, so we will actually also talk about power gating later. That one is actually a lot more powerful.
Hoặc thực ra, vâng, chúng ta cũng sẽ nói về power gating sau. Cái đó thực ra mạnh hơn nhiều.
They're different, you may notice they're like different C-states when the operating system is actually doing power management. Generally, changing frequency is faster, because you're not changing the voltage supply, overall voltage.
Chúng khác nhau, bạn có thể để ý thấy các C-state khác nhau khi hệ điều hành thực hiện quản lý năng lượng. Nhìn chung, thay đổi tần số thì nhanh hơn, vì bạn không thay đổi điện áp nguồn, tức điện áp tổng thể.
So, there's also faster and slower.
Vì vậy cũng có cái nhanh hơn và cái chậm hơn.
If you're going to sleep for a long while, right, that makes sense to actually change the voltage, even shut down your part of the circuit completely, there's like no activity.
Nếu bạn sắp ngủ một thời gian dài, thì hợp lý là thay đổi điện áp, thậm chí tắt hoàn toàn một phần mạch, vì không có hoạt động nào.
Right, but even if there is, like, it's very short transient, there's activity coming back, or you just want to slow down the circuit a little bit, frequency is much faster, you can just go up and down very quickly without effect, without changing voltage.
Nhưng ngay cả khi có, chẳng hạn một quá độ rất ngắn, có hoạt động quay trở lại, hoặc bạn chỉ muốn làm chậm mạch một chút, thì đổi tần số nhanh hơn nhiều, bạn có thể tăng giảm rất nhanh mà không ảnh hưởng, không cần đổi điện áp.
So there's also speed, how fast you can change. So that's basically different C-states in our system. It's pretty good. He also said, boss. Why is it not?
Vì vậy còn có tốc độ, tức là bạn thay đổi nhanh đến mức nào. Về cơ bản đó là các C-state khác nhau trong hệ thống của chúng ta. Khá hay. Anh ấy cũng nói, boss. Tại sao lại không?
If we find this one, I'm just going to be... Why does the OS...
Nếu chúng ta tìm cái này, tôi sẽ... Tại sao hệ điều hành...
Oh, when I see knobs, I basically mean the providing the opportunity for the OS to change either frequency and the voltage. That's what I mean by knobs, those are from hardware perspective.
À, khi tôi nói knobs, về cơ bản tôi muốn nói là tạo cơ hội để hệ điều hành thay đổi tần số hoặc điện áp. Đó là ý tôi khi nói knobs, những thứ đó xét từ góc độ phần cứng.
Maybe a better term like parameters, those are parameter exposed.
Có thể một thuật ngữ tốt hơn là tham số, đó là các tham số được cung cấp ra.
Yes, that's, that's knobs, knobs. Yes, yes, thank you Ben. Okay, right, so this is dynamic power consumption. First, I guess we talked about both, right?
Vâng, đúng, là knobs, knobs. Vâng, vâng, cảm ơn Ben. Được rồi, vậy đây là công suất tiêu thụ động. Trước hết, tôi nghĩ chúng ta đã nói về cả hai, đúng không?
So this is a VDD and F, and frequency. The second is capacitors, right? We also want to reduce the capacity, that could also lead to better power consumption.
Vậy đây là VDD và F, tức tần số. Thứ hai là tụ điện, đúng không? Chúng ta cũng muốn giảm điện dung, điều đó cũng có thể giúp giảm mức tiêu thụ điện năng.
And then finally is reducing the activity factor, right?
Và cuối cùng là giảm hệ số hoạt động, đúng không?
So it's just, if we're not changing the values, right, or the value actually doesn't matter, right, we also want to stop toggling there, and in particular, the activity factor, our registers, right?
Tức là nếu chúng ta không thay đổi các giá trị, đúng không, hoặc giá trị thực ra không quan trọng, thì chúng ta cũng muốn ngừng chuyển trạng thái ở đó, và cụ thể là hệ số hoạt động, các thanh ghi của chúng ta, đúng không?
We talk about our registers are triggered whenever the clock edge comes in, it loads the value of D, right? Sometimes we're actually just loading the same value where the data is actually not changing.
Chúng ta đã nói các thanh ghi được kích hoạt mỗi khi cạnh xung nhịp đến, nó nạp giá trị của D, đúng không? Đôi khi chúng ta thực ra chỉ nạp lại cùng một giá trị khi dữ liệu thực ra không thay đổi.
It's clock triggered, whenever the clock edge comes, we actually load the value here. So one of the very important techniques here, you may also have heard this terminology before, this clock gating.
Nó được kích bởi xung nhịp, mỗi khi cạnh xung nhịp đến, chúng ta lại nạp giá trị ở đây. Vì vậy một kỹ thuật rất quan trọng ở đây, có thể các bạn đã nghe thuật ngữ này rồi, đó là clock gating.
So again, this is still dynamic power. Clock gating, the goal is to reduce activity factor, reduce, lower the alpha here, right? So you were not changing.
Một lần nữa, đây vẫn là công suất động. Mục tiêu của clock gating là giảm hệ số hoạt động, giảm, hạ thấp alpha ở đây, đúng không? Tức là bạn không thay đổi.
So instead of having the clock actually go to our register directly, we add our clock gate here, right? So you wait.
Thay vì để xung nhịp đi thẳng vào thanh ghi, chúng ta thêm một clock gate ở đây, đúng không? Vậy là bạn chờ.
The values are changing, we're not doing anything interesting, or some earlier computation we can actually precompute whether the value will be changed for some later register, right?
Khi các giá trị đang thay đổi mà chúng ta không làm gì đáng kể, hoặc ở một phép tính trước đó, ta có thể tính trước xem giá trị của một thanh ghi sau đó có thay đổi hay không, đúng không?
We just get it, so that it doesn't actually burn power, we actually don't need to toggle.
Chúng ta chỉ cần lấy thông tin đó, để không tốn điện năng, vì thực sự không cần chuyển trạng thái.
So this is actually a pretty powerful technique in a range of hardware designs, whether you can actually get good efficiency, just how good we're doing as we're actually doing calculating.
Đây thực sự là một kỹ thuật khá mạnh trong nhiều thiết kế phần cứng, xem liệu bạn có thể đạt hiệu quả tốt hay không, tức là chúng ta làm tốt đến mức nào khi đang tính toán.
Even if things are not changing, right? A lot of the time we are doing computations on digital, a bunch of zeros, right? It won't actually affect the values here.
Ngay cả khi mọi thứ không thay đổi, đúng không? Rất nhiều lúc chúng ta tính toán trên dữ liệu số, toàn các số không, đúng không? Điều đó thực ra không ảnh hưởng đến các giá trị ở đây.
So clock gating is still, we're still spending dynamic power, but the goal is to actually reduce the activity factor. So those are the general techniques, people are using these days.
Vậy với clock gating, chúng ta vẫn tiêu tốn công suất động, nhưng mục tiêu là giảm hệ số hoạt động. Đó là những kỹ thuật chung mà ngày nay mọi người đang dùng.
All of them are very powerful in really thinking about how we can actually better modulate the dynamic power consumption: the voltage, thinking, again, the key, those three or four components in our equations, right?
Tất cả đều rất hiệu quả khi suy nghĩ về cách chúng ta có thể điều chỉnh tốt hơn mức tiêu thụ công suất động: điện áp, hãy nghĩ lại, ba hay bốn thành phần chính trong phương trình của chúng ta, đúng không?
Voltage and frequency, through dynamic voltage and frequency scaling; capacitance, right, we need to size our gates very carefully, so that it's not only optimized for performance but also, but also power, and also wire, right, have short, shorter wires; and finally the activity factor.
Điện áp và tần số, thông qua điều chỉnh điện áp và tần số động; điện dung, đúng không, chúng ta cần chọn kích thước các cổng rất cẩn thận, để nó được tối ưu không chỉ cho hiệu năng mà còn cho công suất, và cả dây dẫn, đúng không, dùng dây ngắn hơn; và cuối cùng là hệ số hoạt động.
Clock gating is so, instead of having the clock directly go to our registers, right, it's not, not flipping where the value actually doesn't change.
Clock gating là như vậy: thay vì để xung nhịp đi thẳng vào các thanh ghi, đúng không, nó không chuyển trạng thái khi giá trị thực ra không đổi.
We need, we do not need to actually trigger our register every time. So those are the dynamic power optimization techniques that we're using these days.
Chúng ta không cần phải kích hoạt thanh ghi mỗi lần. Đó là những kỹ thuật tối ưu công suất động mà ngày nay chúng ta đang sử dụng.
So, yeah, I can, it can kind of happen very quickly, like for example, like for example, yeah, it's really okay, it's like for example, let's say, a, you know, example, right, you know, like machine learning, an eight bit value,
Vâng, nó có thể xảy ra rất nhanh, chẳng hạn như, ví dụ như, vâng, hoàn toàn được, ví dụ như, giả sử, một, bạn biết đấy, ví dụ nhé, như học máy, một giá trị tám bit,
you know it's actually a zero when you read the value out, you know it's a zero, and I would just say, I don't need to do the multiplication, like all the registers actually storing the partial sum, storing the result will not need to be triggered.
khi đọc giá trị ra, bạn biết nó thực sự bằng không, bạn biết nó là không, thì tôi chỉ cần nói là, tôi không cần thực hiện phép nhân, như vậy tất cả các thanh ghi đang lưu tổng riêng phần, đang lưu kết quả sẽ không cần được kích hoạt.
So clock gating is actually pretty powerful. Yeah, this is very bad. This is pretty commonly used. Some of today's tools actually do automatic gating and clock gate insertion.
Vì vậy clock gating thực sự khá mạnh. Vâng, cái này rất tệ. Kỹ thuật này được dùng khá phổ biến. Một số công cụ ngày nay thực sự tự động gating và chèn clock gate.
If you know your activity is actually dependent, can be determined by some pre-computed value, just add the clock gates there. But there's also overhead.
Nếu bạn biết hoạt động của mình phụ thuộc vào, có thể được xác định bởi một giá trị tính trước, thì cứ thêm clock gate vào đó. Nhưng cũng có chi phí phát sinh.
Right now we're actually adding more logic to do it, clock gating, so there is a trade-off, or whether it's worth the benefit.
Lúc này chúng ta đang thêm logic để thực hiện clock gating, nên có sự đánh đổi, xem liệu lợi ích có xứng đáng hay không.
There's always an area penalty, you are adding more gates here, so there's a subtle trade-off. But generally from a power perspective, especially, you can actually get a lot of registers.
Luôn có thiệt hại về diện tích, bạn đang thêm các cổng ở đây, nên có một sự đánh đổi tinh tế. Nhưng nhìn chung, xét từ góc độ công suất, đặc biệt là, bạn có thể có rất nhiều thanh ghi.
We are registered to consume a lot of power. So, generally, from a power perspective, this is a very useful technique. It can happen very quickly. Okay, so that's the dynamic power consumption.
Các thanh ghi tiêu thụ rất nhiều công suất. Vì vậy, nhìn chung, xét về công suất, đây là một kỹ thuật rất hữu ích. Nó có thể xảy ra rất nhanh. Được rồi, đó là công suất tiêu thụ động.
This is the first category of dynamic power. Again, dynamic means related to toggling. The second category of power consumption is from short circuit currents.
Đây là loại đầu tiên của công suất động. Nhắc lại, động nghĩa là liên quan đến việc chuyển mức. Loại thứ hai của công suất tiêu thụ đến từ dòng ngắn mạch.
This is, this is also related, related with dynamic activity, related with toggling activities in our hardware.
Loại này cũng liên quan đến hoạt động động, liên quan đến các hoạt động chuyển mức trong phần cứng của chúng ta.
Let's take a look at what we mean by short circuit current, right, and how they actually can be affected by different generations of technology.
Hãy xem dòng ngắn mạch nghĩa là gì, và chúng bị ảnh hưởng thế nào bởi các thế hệ công nghệ khác nhau.
So this is based, as the name suggests, a short circuit. Right, again, so far we have been really thinking about this clear pull-up and pull-down network, right? Either we're charging or discharging, right?
Như tên gọi gợi ý, đây là hiện tượng ngắn mạch. Nhắc lại, cho đến giờ chúng ta vẫn nghĩ về mạng kéo lên và mạng kéo xuống một cách rạch ròi, đúng không? Hoặc là đang nạp hoặc là đang xả, đúng không?
Either the pull-up network is active or the pull-down network is active. Right. But during the transition, right, it is really continuous, right?
Hoặc mạng kéo lên hoạt động, hoặc mạng kéo xuống hoạt động. Đúng. Nhưng trong lúc chuyển tiếp, nó thực ra là liên tục, đúng không?
Transition from high to low, right, look at our input, right, it doesn't happen like just a direct step function, it happens gradually, right, which means it's possible, maybe somewhere in the middle, it's possible that both our PMOS pull-up network and the pull-down network are active.
Chuyển từ cao xuống thấp, hãy nhìn vào đầu vào của chúng ta, nó không xảy ra như một hàm bậc thang tức thì, mà diễn ra dần dần, nghĩa là có thể, ở đâu đó giữa chừng, có khả năng cả mạng kéo lên PMOS và mạng kéo xuống cùng hoạt động.
It really just adds this voltage range that we can, it's bigger than the threshold of both our PMOS and NMOS, which means that both PMOS and NMOS are active.
Đơn giản là có một khoảng điện áp mà lớn hơn ngưỡng của cả PMOS và NMOS, nghĩa là cả PMOS và NMOS đều hoạt động.
This basically forms what they call what we call a short circuit current right so before we always say issue either charge our load or discharge the discharge from our load right so those are the expected activity but now this is unexpected.
Điều này tạo nên cái mà ta gọi là dòng ngắn mạch, vì trước đây ta luôn nói là hoặc nạp cho tải hoặc xả từ tải, đúng không? Đó là những hoạt động được mong đợi, nhưng bây giờ đây là phần không mong đợi.
But still during transition during toggling so that's why this is a, this power consumption is dynamic, but it's related with transitioning is this brief period of time.
Nhưng vẫn là trong lúc chuyển trạng thái, trong lúc đảo trạng thái, nên đây là, công suất tiêu thụ này là động, nhưng nó liên quan đến việc chuyển trạng thái, trong một khoảng thời gian ngắn.
Well, when there is actually a short circuit between VDD and the ground through the P mass and pull up and pull down network, right.
Cụ thể là, khi thực sự có một đoạn mạch ngắn giữa VDD và đất, qua mạng kéo lên PMOS và mạng kéo xuống, đúng không.
This is during transition, both pull up and pull down network are active. So way that also burns power right again.
Trong lúc chuyển trạng thái, cả mạng kéo lên và mạng kéo xuống đều hoạt động. Vậy nên điều đó cũng tiêu tốn công suất, đúng không.
This is a dynamic component, because it's related to the switching activity right we're now switching no power, no short circuit current no power consumption, but you were switching there is a very brief period.
Đây là một thành phần động, vì nó liên quan đến hoạt động chuyển mạch, đúng không, nếu ta không chuyển mạch thì không có dòng ngắn mạch, không tiêu thụ công suất, nhưng khi chuyển mạch thì có một khoảng thời gian rất ngắn như vậy.
It's typically very small.
Thường thì nó rất nhỏ.
Just like less than 10 of the total power consumption, it becomes even less important in recent technology generations, right.
Chỉ chưa đến 10 tổng công suất tiêu thụ, và nó càng kém quan trọng hơn ở các thế hệ công nghệ gần đây, đúng không.
Why is that, because we mentioned a threshold voltage doesn't scale that fast right threshold voltage, more or less the same right 0 .5, 0 .4, 0 .5, 0 .6 roughly that range right, which also limits our VDD how fast our VDD can switch right the VDD this is like 0 .6, 0 .7, 0 .8, 0 .9.
Tại sao vậy? Vì như đã nói, điện áp ngưỡng không giảm nhanh như thế, điện áp ngưỡng gần như giữ nguyên, 0,5, 0,4, 0,5, 0,6, khoảng trong dải đó, điều này cũng giới hạn VDD, tức VDD có thể giảm nhanh đến đâu, VDD thì cỡ 0,6, 0,7, 0,8, 0,9.
It's not that much bigger than threshold voltage. And we mentioned that to to trigger short circuit current.
Nó không lớn hơn điện áp ngưỡng nhiều.
We basically need to the input voltage into the high enough so that both threshold voltage are met for for pull up network and pull down network, right, is a VDD is already small enough right we can just not actually even just trigger this activity, because it just either on or for people up network
Và ta đã nói rằng để kích hoạt dòng ngắn mạch, ta cần điện áp đầu vào đủ cao để cả hai điện áp ngưỡng đều được thỏa mãn đối với mạng kéo lên và mạng kéo xuống, đúng không, VDD đã đủ nhỏ nên ta có thể thậm chí không kích hoạt được hiện tượng này,
or for the pull down network right because VDD these days like 0 .9 volt right but threshold voltage this days 0 .5, 0 .6 right, It's actually smaller than the combined threshold voltage for both, compared to older days, right?
vì tại mỗi thời điểm chỉ bật một trong hai, hoặc mạng kéo lên hoặc mạng kéo xuống, đúng không, vì VDD ngày nay cỡ 0,9 volt, còn điện áp ngưỡng ngày nay 0,5, 0,6, thực ra nhỏ hơn tổng hai điện áp ngưỡng gộp lại, so với ngày xưa, đúng không?
We're talking about five volt VDD, right? And then during the transition, if we're very lucky, we have this brief period of time that we have short circuit.
Khi đó ta nói đến VDD năm volt, đúng không? Và trong lúc chuyển trạng thái, nếu ta rất may mắn, ta có một khoảng thời gian ngắn xảy ra ngắn mạch.
But this is really not very common in this space, and generally when we talk about optimization, we either focus on the dynamic, what we just discussed earlier, or we'll talk about leakage, which is also very significant.
Nhưng điều này thực sự không phổ biến trong lĩnh vực này, và nói chung khi bàn về tối ưu hóa, ta hoặc tập trung vào công suất động, như vừa thảo luận ở trên, hoặc nói về dòng rò, cũng rất đáng kể.
So we very rarely will actually talk about short circuit power, short circuit current in this space, but still good to understand what people mean.
Nên ta rất hiếm khi nói về công suất ngắn mạch, dòng ngắn mạch trong lĩnh vực này, nhưng vẫn nên hiểu mọi người muốn nói gì.
And this is only a bigger problem when we have a higher VDD. In more modern technology, VDD is actually much smaller, especially compared to threshold voltage. Okay, that's short circuit current.
Và đây chỉ là vấn đề lớn hơn khi VDD cao hơn. Trong công nghệ hiện đại hơn, VDD thực sự nhỏ hơn nhiều, đặc biệt so với điện áp ngưỡng. Được rồi, đó là dòng ngắn mạch.
The key thing here is this is a dynamic component, this is related to switching.
Điều mấu chốt ở đây là đây là một thành phần động, nó liên quan đến việc chuyển mạch.
A lot of confusion over time, like when I was an undergrad, short circuit current was still pretty important, but what I was confused about back then is, this is not static power, this is dynamic power.
Có rất nhiều nhầm lẫn theo thời gian, ví dụ như hồi tôi còn là sinh viên đại học, dòng ngắn mạch vẫn còn khá quan trọng, nhưng điều tôi từng nhầm lẫn hồi đó là, đây không phải công suất tĩnh, mà là công suất động.
It is still related to switching activities. Okay, so those are the two dynamic powers. Again, related to switching activity, right?
Nó vẫn liên quan đến hoạt động chuyển mạch. Được rồi, vậy đó là hai thành phần công suất động. Một lần nữa, chúng liên quan đến hoạt động chuyển mạch, đúng không?
It's just first the general dynamic power consumption, and then the short circuit current. Those two contribute to the dynamic power component.
Đầu tiên là công suất động tiêu thụ nói chung, và sau đó là dòng ngắn mạch. Hai thành phần này cùng tạo nên công suất động.
Finally, we get to static power, right, or a lot of the time you may also read articles that say leakage power, right? So those are the same thing here.
Cuối cùng, chúng ta đến với công suất tĩnh, đúng không, hoặc nhiều khi bạn cũng có thể đọc các bài viết gọi là công suất rò, đúng không? Hai cái này là một ở đây.
So this is very different from dynamic power. So this is independent of the switching activity, right?
Cái này rất khác với công suất động. Nó không phụ thuộc vào hoạt động chuyển mạch, đúng không?
No matter whether the chip is actually switching or not, it's always just burning some leakage power. There are different components of leakage power.
Dù con chip có đang chuyển mạch hay không, nó luôn tiêu hao một ít công suất rò. Công suất rò có nhiều thành phần khác nhau.
For folks who are taking EE 130 especially, they will cover a range of different leakage powers, but specifically one of the most important ones is basically sub-threshold leakage current, right?
Đặc biệt với những bạn đang học EE 130, các bạn sẽ học một loạt các loại công suất rò khác nhau, nhưng cụ thể một trong những loại quan trọng nhất về cơ bản là dòng rò dưới ngưỡng, đúng không?
So as the name suggests, it's basic. We have this simple switch model we had before, right? It's basically if our voltage is greater than threshold voltage, our, our transistor is off.
Như tên gọi gợi ý, nó khá cơ bản. Chúng ta có mô hình công tắc đơn giản đã học trước đó, đúng không? Về cơ bản, nếu điện áp nhỏ hơn điện áp ngưỡng, thì transistor của chúng ta tắt.
If our voltage is actually greater than threshold voltage, our transistor is on, right? But this is pretty ideal, this is literally wasting from a digital point of view.
Nếu điện áp lớn hơn điện áp ngưỡng, thì transistor của chúng ta bật, đúng không? Nhưng đây là mô hình khá lý tưởng, đây thực sự là cách nhìn đơn giản hóa theo góc độ số.
It's either zero or one, right? But in reality, right, it's not clear cut, right? Even if it's actually less than threshold voltage, there is still actually current actually flowing through the gate.
Hoặc là không hoặc là một, đúng không? Nhưng trong thực tế thì không phân minh như vậy, đúng không? Ngay cả khi điện áp nhỏ hơn điện áp ngưỡng, vẫn có dòng điện chạy qua cổng.
So that actually contributes to what we call sub threshold leakage current, right? So a more realistic view, and this is a log scale.
Điều đó tạo nên cái mà chúng ta gọi là dòng rò dưới ngưỡng, đúng không? Vậy đây là một cái nhìn thực tế hơn, và đây là thang log.
So, when the voltage is less than threshold voltage, it is not zero, there is still voltage there.
Khi điện áp nhỏ hơn điện áp ngưỡng, nó không bằng không, vẫn có dòng điện ở đó.
There is actually exponential growth, again this is a log scale, there is actually exponential growth here with the current, right?
Thực ra có sự tăng theo hàm mũ, một lần nữa đây là thang log, có sự tăng theo hàm mũ ở đây đối với dòng điện, đúng không?
When the voltage is actually small, when the gate voltage is actually less than the threshold voltage, we actually have a pretty significant current, and especially in more recent technology, leakage current has become actually a lot more significant.
Khi điện áp còn nhỏ, khi điện áp cổng nhỏ hơn điện áp ngưỡng, chúng ta vẫn có một dòng điện khá đáng kể, và đặc biệt trong công nghệ gần đây, dòng rò đã trở nên đáng kể hơn rất nhiều.
Before, it was actually much smaller, right, your threshold voltage was higher, so now we're actually pushing the threshold voltage to be really low and it's very easy to actually get to the sub threshold region, right?
Trước đây nó nhỏ hơn nhiều, vì điện áp ngưỡng cao hơn, còn bây giờ chúng ta đang đẩy điện áp ngưỡng xuống rất thấp và rất dễ đi vào vùng dưới ngưỡng, đúng không?
So this has actually become a lot more important.
Vì vậy điều này thực sự trở nên quan trọng hơn rất nhiều.
Even though we're talking about today's circuits, like 30 or even more percent of power is actually in leakage power these days, so this has become a very significant factor, right?
Ngay cả khi nói về các mạch ngày nay, như 30 hoặc thậm chí hơn phần trăm công suất hiện nay là công suất rò, nên đây đã trở thành một yếu tố rất đáng kể, đúng không?
A couple of key components that are actually related to threshold voltage, or the two components here, right? So why is it just a sub threshold voltage, right?
Có một vài thành phần then chốt liên quan đến điện áp ngưỡng, hay hai thành phần ở đây, đúng không? Vậy tại sao lại chỉ là điện áp dưới ngưỡng, đúng không?
What is our sub threshold voltage? Right, so you wait.
Điện áp dưới ngưỡng của chúng ta là gì? Đúng rồi, các em đợi nhé.
Again, this is a negative minus sign here, you will have a higher sub threshold voltage like what we used to have in older generations of technology.
Một lần nữa, ở đây là dấu trừ, nếu có điện áp ngưỡng cao hơn như những gì chúng ta từng có ở các thế hệ công nghệ cũ.
That's the leakage, leakage power is less of a concern, right, because the threshold voltage is higher, The overall current is actually lower, right?
Thì rò rỉ, công suất rò ít đáng lo hơn, đúng không, vì điện áp ngưỡng cao hơn, nên dòng điện tổng thể thấp hơn, đúng không?
So one of the mechanisms of this, in the design, is actually to have multiple different cells, different technology libraries.
Vậy một trong những cơ chế cho việc này, trong thiết kế, là dùng nhiều loại cell khác nhau, các thư viện công nghệ khác nhau.
You may also see, especially folks in the ASIC lab, right, you may see SVT, standard threshold voltage, low VT, low threshold voltage, high VT, right, high threshold voltage.
Các em, đặc biệt là những bạn trong phòng thí nghiệm ASIC, có thể thấy SVT, điện áp ngưỡng tiêu chuẩn, low VT, điện áp ngưỡng thấp, high VT, đúng không, điện áp ngưỡng cao.
So high VT, or high threshold voltage, the high VT cell is basically used to actually reduce the leakage part, right?
Vậy high VT, hay điện áp ngưỡng cao, cell high VT về cơ bản được dùng để giảm phần rò rỉ, đúng không?
So there's a less, less significant, so it's a little bit more, for more efficient implementation. But what's the downside of high VT cell? What's the downside?
Nên rò rỉ ít hơn, ít đáng kể hơn, tức là cho một cách triển khai hiệu quả hơn một chút. Nhưng nhược điểm của cell high VT là gì? Nhược điểm là gì?
Should we just use high VT cell all the time?
Có nên lúc nào cũng dùng cell high VT không?
And increase the power. How about other components? How about, that would have a power but also delay, right? If the VT is high, how would that affect the delay?
Và làm tăng công suất. Còn các thành phần khác thì sao? Cái đó sẽ ảnh hưởng đến công suất nhưng cả độ trễ nữa, đúng không? Nếu VT cao thì độ trễ bị ảnh hưởng thế nào?
It takes longer as our circuit will actually switch slower. Right.
Mất nhiều thời gian hơn vì mạch của chúng ta sẽ chuyển mạch chậm hơn. Đúng.
So when, in style, you actually see in today's designs, for performance sensitive components, your critical path, and then you can actually want to use low VT cell, right?
Vì vậy, trong các thiết kế ngày nay, các em thấy với các thành phần nhạy cảm về hiệu năng, đường tới hạn của các em, thì các em sẽ muốn dùng cell low VT, đúng không?
It's actually faster to reach threshold to actually start switching, right? But for some, like more, you actually care about energy, right?
Nó đạt ngưỡng nhanh hơn để bắt đầu chuyển mạch, đúng không? Nhưng với một số phần khác, nơi các em quan tâm đến năng lượng, đúng không?
It's not always active, you actually want to make sure they don't leak too much, even if there's nothing going on, you can actually choose high VT to actually reduce your leakage, right?
Chúng không hoạt động liên tục, các em muốn đảm bảo chúng không rò rỉ quá nhiều, ngay cả khi không có gì diễn ra, thì các em có thể chọn high VT để giảm rò rỉ, đúng không?
So that's another design choice people are using to actually manage threshold. Threshold. Leakage power. Let's see what else I want to say.
Đó là một lựa chọn thiết kế khác mà người ta dùng để quản lý điện áp ngưỡng. Ngưỡng. Công suất rò. Để xem thầy còn muốn nói gì nữa.
Okay, well, so that's just, I guess, another thing I didn't mention is temperature. Oh, Brendan.
Được rồi, vậy đó là, thầy nghĩ, một điều nữa thầy chưa đề cập là nhiệt độ. Ồ, Brendan.
Yeah, well, so generally when people talk about efficiency, and before, there's also a lot of microarchitecture, different, a lot of time, high performance cores are like superscalar, out-of-order cores, again different, different styles, but a lot of, some of the efficiency cores like simple in-order, for smaller caches, so there are like a lot of microarchitectural components.
Vâng, nói chung khi người ta nói về hiệu quả, và trước đây, còn có rất nhiều vi kiến trúc khác nhau, rất thường các lõi hiệu năng cao là superscalar, các lõi out-of-order, một lần nữa, là những kiểu khác nhau, nhưng nhiều lõi tiết kiệm năng lượng thì đơn giản, in-order, với cache nhỏ hơn, nên có rất nhiều thành phần vi kiến trúc khác nhau.
Yes, but this kind of difference, different standard cells, that can also be used if you care more about performance.
Vâng, nhưng cả sự khác biệt kiểu này nữa, các standard cell khác nhau, cũng có thể được dùng nếu bạn quan tâm hơn đến hiệu năng.
You want to use low VT cells, but especially for those energy efficient cores, they assume they're always up, right?
Bạn muốn dùng các cell low VT, nhưng đặc biệt với các lõi tiết kiệm năng lượng đó, người ta giả định chúng luôn hoạt động, đúng không?
So leakage power becomes even much a bigger concern, that you want to say, okay, I want to use high VT cells so that they actually don't burn a lot of leakage.
Vì vậy công suất rò trở thành mối lo lớn hơn nhiều, nên bạn sẽ nói: được rồi, tôi muốn dùng các cell high VT để chúng thực sự không tiêu tốn nhiều công suất rò.
Yeah, but the general, the AP core. You'll also hear people say AP core and energy efficiency core. There are also other micro architectural differences there, but this is one of those parameters.
Vâng, nhưng nói chung, lõi AP. Bạn cũng sẽ nghe người ta nói lõi AP và lõi tiết kiệm năng lượng. Ở đó còn có những khác biệt vi kiến trúc khác nữa, nhưng đây là một trong những tham số đó.
For short circuit power. The previous slide. Oh, you have. What's the question?
Về công suất ngắn mạch. Slide trước. À, bạn có câu hỏi. Câu hỏi là gì?
What do we do with a threshold voltage for the slide?
Chúng ta làm gì với điện áp ngưỡng ở slide này?
Give me the threshold voltage. So that again, I didn't get your question.
Cho tôi điện áp ngưỡng. Vậy là, tôi chưa hiểu câu hỏi của bạn.
Oh, how do we actually reduce the short circuit power? Is that the question? Okay, so generally, like a big factor, short circuit again. So first it's related to switching, right?
À, làm sao để thực sự giảm công suất ngắn mạch? Có phải câu hỏi đó không? Được rồi, nói chung, một yếu tố lớn là ngắn mạch, một lần nữa. Trước hết nó liên quan đến chuyển mạch, đúng không?
So our technique was reducing the activity, that still applies here, right? But generally we want to avoid a scenario where both PMOS and NMOS are on there.
Vậy kỹ thuật của chúng ta là giảm hoạt động chuyển mạch, điều đó vẫn áp dụng ở đây, đúng không? Nhưng nói chung chúng ta muốn tránh trường hợp cả PMOS và NMOS cùng bật.
So lower VDD is generally a very good technique to actually reduce that, because that VDD is already actually low enough, we actually wouldn't trigger this scenario.
Vì vậy hạ VDD nói chung là kỹ thuật rất tốt để giảm điều đó, bởi vì nếu VDD đã đủ thấp, thì chúng ta sẽ không kích hoạt trường hợp này.
But activity eventually is related to the activity, so reducing the activity, that could also be very important.
Nhưng rốt cuộc nó cũng liên quan đến mức độ hoạt động, nên giảm hoạt động chuyển mạch cũng có thể rất quan trọng.
Oh, you mean how we can just write short voltage? Yes, a high VT cells also avoids, like, can reduce the short circuit current.
À, ý bạn là làm sao giảm điện áp ngắn mạch? Vâng, các cell high VT cũng giúp tránh, tức là có thể giảm dòng ngắn mạch.
If the VT is higher here, the threshold is higher, it's actually harder to trigger that activity, so there's also that components there. But generally people don't really optimize the short circuit current these days.
Nếu VT ở đây cao hơn, ngưỡng cao hơn thì thực sự khó kích hoạt hơn, nên cũng có thành phần đó. Nhưng nói chung ngày nay người ta không thực sự tối ưu dòng ngắn mạch.
The leakage is so significant. So we need to significant, the next parts, this power is actually a lot more significant.
Công suất rò rất đáng kể. Vì vậy ta cần quan tâm các phần tiếp theo, công suất này thực sự đáng kể hơn nhiều.
And for this, I mentioned, for if the threshold is a VDP, so today design generally, I mentioned VDD is like point nine ish.
Và về điều này, tôi đã nói, nếu ngưỡng so với VDD, thì thiết kế ngày nay nói chung, như tôi đã nói, VDD khoảng 0,9.
Threshold depends, right, high VT or low VT is point four, point five, point six, but generally we actually don't even need to, this condition.
Ngưỡng thì tùy, đúng không, high VT hay low VT là 0,4, 0,5, 0,6, nhưng nói chung chúng ta thậm chí không cần lo điều kiện này.
Our VDD is already low enough, but our threshold is pretty high, we cannot reduce the threshold voltage. Right, so threshold voltage will also affect high threshold voltage and further reduce short circuit current.
VDD của chúng ta đã đủ thấp, nhưng ngưỡng khá cao, chúng ta không thể giảm điện áp ngưỡng. Đúng vậy, nên điện áp ngưỡng cũng sẽ ảnh hưởng, điện áp ngưỡng cao sẽ giảm thêm dòng ngắn mạch.
Yeah. Makes sense. Is that your question? Okay.
Vâng. Hợp lý chứ. Đó có phải câu hỏi của bạn không? Được rồi.
So this one. So, so sensitivity to the threshold voltage. You mean which one is more sensitive to threshold voltage?
Vậy là cái này. Vậy, còn độ nhạy đối với điện áp ngưỡng. Ý bạn là cái nào nhạy hơn với điện áp ngưỡng?
So, that's a good question. So, so. Okay, so, so generally when people think about threshold voltage, this is an exponential region, right?
Đó là một câu hỏi hay. Vậy, vậy. Được rồi, nói chung khi người ta nghĩ về điện áp ngưỡng, đây là vùng hàm mũ, đúng không?
We talked about this is roughly exponential with us, right, with a voltage, while with a voltage here.
Chúng ta đã nói là nó xấp xỉ hàm mũ theo điện áp, đúng không, theo điện áp ở đây.
And then this is more like, I guess, the transition quadratic reasons, not exponential but also not linear, right? But eventually we get to this. This is basically the linear region.
Còn đây thì giống vùng chuyển tiếp bậc hai hơn, không phải hàm mũ nhưng cũng không tuyến tính, đúng không? Nhưng cuối cùng ta đến đây. Đây về cơ bản là vùng tuyến tính.
And this is a linear region where it's generally higher. That's basically what we want, right? Higher gate voltage, higher current, right? So now we get to actually get a switching rate.
Và đây là vùng tuyến tính, nơi dòng điện nói chung cao hơn. Về cơ bản đó là điều chúng ta muốn, đúng không? Điện áp cổng cao hơn, dòng điện cao hơn, đúng không? Như vậy ta mới có được tốc độ chuyển mạch.
So that's a general different regions of the operation. Exponential is really like when threshold, we will get voltage is actually lower than threshold voltage, that's where, that's a different region here.
Đó là các vùng hoạt động khác nhau nói chung. Vùng hàm mũ thực sự là khi ngưỡng, điện áp thấp hơn điện áp ngưỡng, đó là một vùng khác ở đây.
So that's a, so sensitivity. So you mean how this is, you can actually differentiate this question, this equation, then you'll get the sensitivity of the design.
Vậy đó là độ nhạy. Ý bạn là cái này như thế nào, bạn có thể lấy vi phân câu hỏi này, phương trình này, thì sẽ có độ nhạy của thiết kế.
If you have.
Nếu bạn có.
So you have a short circuit does happen. If the short circuit does happen, so that's our CV square F is the same CV square.
Vậy là dòng ngắn mạch có xảy ra. Nếu dòng ngắn mạch có xảy ra, thì CV² F của chúng ta vẫn là CV².
Yeah, so threat. Okay, so for both. Okay, I think, where the confusion is, so threshold voltage is really whether we trigger. So for this case, whether we trigger short circuit current or not.
Vâng, vậy ngưỡng. Được rồi, cho cả hai. Được rồi, tôi nghĩ chỗ gây nhầm lẫn là, điện áp ngưỡng thực chất là việc ta có kích hoạt hay không. Trong trường hợp này, là có kích hoạt dòng ngắn mạch hay không.
For the next case is like what kind of What, what kind of behaviors of gate voltage versus current, right?
Còn trường hợp tiếp theo là loại hành vi nào của điện áp cổng so với dòng điện, đúng không?
But eventually we'll calculate power. It's always CV square F. It's really like the VDD that we have, right, the current.
Nhưng cuối cùng ta tính công suất. Luôn luôn là CV² F. Nó thực sự là VDD mà ta có, đúng không, dòng điện.
But it has different current profile based on the relationship of VDD or VGS with threshold. So threshold is more like a condition. Right, it's a condition.
Nhưng nó có dạng dòng điện khác nhau tùy theo quan hệ giữa VDD hoặc VGS với ngưỡng. Vậy ngưỡng giống một điều kiện hơn. Đúng, nó là một điều kiện.
It's a condition of whether, especially for short circuit current, whether it's on or off, or it's actually, it's a factor that really contributes to the current of the overall consumption.
Nó là điều kiện xem đặc biệt với dòng ngắn mạch, nó bật hay tắt, hoặc nó thực sự là một yếu tố đóng góp vào dòng điện của mức tiêu thụ tổng thể.
Or IV power, right? So it's voltage. This is still the VDD, but gate voltage, but it changed the current of our system.
Hay công suất IV, đúng không? Vậy là điện áp. Đây vẫn là VDD, nhưng là điện áp cổng, và nó làm thay đổi dòng điện của hệ thống.
Okay, so that's all the things about... Any other questions?
Được rồi, đó là tất cả những điều về... Còn câu hỏi nào khác không?
Yeah, you need to, you need to, you need to tell the tool to do that, and you folks in ASIC lab, you have different corners, right? Have you played with different corners? Okay.
Vâng, bạn cần phải nói cho công cụ biết để làm điều đó, và các bạn trong ASIC lab, các bạn có các corner khác nhau, đúng không? Các bạn đã thử các corner khác nhau chưa? Được rồi.
Okay, so different corners are basically actually just different threshold voltage. Yeah. So that's something you actually need to specify. You didn't?
Được rồi, các corner khác nhau về cơ bản chỉ là điện áp ngưỡng khác nhau. Vâng. Đó là thứ bạn thực sự cần chỉ định. Các bạn chưa làm à?
Okay, there are different, I think maybe setup and hold corner. You folks didn't do this? Yeah, in the report, they're like... Yeah, they're different. Those are different corners. Yeah.
Được rồi, có các corner khác nhau, tôi nghĩ có thể là corner setup và hold. Các bạn chưa làm cái này à? Ừ, trong báo cáo thì nó kiểu... Ừ, chúng khác nhau. Đó là các corner khác nhau. Đúng vậy.
Well, I read your reports. That's part of the ASIC lab there. Different cells, different VT cells.
Thầy có đọc báo cáo của các bạn. Đó là một phần của ASIC lab ở đó. Các cell khác nhau, các cell VT khác nhau.
I mentioned that SVT, HVT, LVT, or sometimes people call different corners, which technology corner you're using, even for this particular nanometer technology, which VT cell.
Thầy đã nhắc đến SVT, HVT, LVT, hoặc đôi khi người ta gọi là các corner khác nhau, tức là bạn dùng technology corner nào, ngay cả với công nghệ nanomet cụ thể này, cell VT nào.
That's basically what people say, what VT cell you're using. Yeah. So you need to design, you need to specify. It's not automatically done. There was a question there.
Về cơ bản người ta nói như vậy, là bạn đang dùng cell VT nào. Đúng vậy. Vì vậy bạn cần thiết kế, bạn cần chỉ định. Nó không được làm tự động. Ở đó có một câu hỏi.
Yeah, yeah, yeah, yeah. Yeah, exactly.
Ừ, ừ, ừ, ừ. Đúng, chính xác.
For different cells. I think it's called like setup or hold time in our report. Yeah.
Với các cell khác nhau. Thầy nghĩ trong báo cáo của chúng ta nó được gọi là setup hoặc hold time. Ừ.
So different VT, so different temperature will be different temperature conditions, but different VT, different threshold voltage, will basically be different, different cells. Yeah.
Vậy VT khác nhau, còn nhiệt độ khác nhau sẽ là các điều kiện nhiệt độ khác nhau, nhưng VT khác nhau, tức điện áp ngưỡng khác nhau, về cơ bản sẽ là các cell khác nhau. Ừ.
Well, VT is actually threshold voltage.
À, VT thực ra là điện áp ngưỡng.
I need to read. Let me double check what exactly reports you folks are generating, but for different VT cells, it's actually different threshold voltage. Yeah.
Thầy cần đọc lại. Để thầy kiểm tra lại chính xác các báo cáo mà các bạn đang tạo ra, nhưng với các cell VT khác nhau, thực ra đó là điện áp ngưỡng khác nhau. Ừ.
Yeah, so these are different corners and you will actually need to specifically trigger those corners.
Vâng, đây là các corner khác nhau và bạn sẽ thực sự cần kích hoạt riêng các corner đó.
Okay, so that's the energy consumption. That's the energy part of the design.
Được rồi, đó là phần tiêu thụ năng lượng. Đó là phần năng lượng của thiết kế.
I don't think I do want to actually, before we actually get to the editor, I've got to actually apologize. Just some quick announcements, I don't have a lot of things to say.
Thầy nghĩ là thầy muốn, trước khi chuyển sang phần editor, thầy phải xin lỗi. Vài thông báo nhanh, thầy không có nhiều điều để nói.
Just the project starts this week. So if you have, I think 80 of you folks have already finished the lab, so good job everyone.
Dự án bắt đầu từ tuần này. Thầy nghĩ có 80 bạn đã hoàn thành lab rồi, làm tốt lắm các bạn.
We haven't actually finished the lab, so time to actually start thinking about it. I haven't finished the lab, that definitely wrap up.
Chúng ta chưa hoàn thành lab, nên đã đến lúc bắt đầu nghĩ về nó. Thầy chưa xong lab, chắc chắn phải hoàn tất.
I don't think we, before checkpoint one, there's still time to catch up. After checkpoint one, you do want to allocate at least two solid weeks to the project, because checkpoint two is very substantial.
Thầy nghĩ trước checkpoint một vẫn còn thời gian để bắt kịp. Sau checkpoint một, bạn nên dành ít nhất hai tuần trọn vẹn cho dự án, vì checkpoint hai rất nặng.
So you do want to get there, but it's still useful, especially for lab five, for the FPGA lab, it's pretty useful for your project, so it's still good to get that done.
Vậy bạn nên đến đó, nhưng vẫn hữu ích, đặc biệt là lab năm, lab FPGA, nó khá hữu ích cho dự án của bạn, nên vẫn nên hoàn thành nó.
But for folks who are starting at checkpoint one, so get to get checkpoint one soon, it's not very long really. Just think about what the design is that you want to do.
Còn với những bạn đang bắt đầu ở checkpoint một, hãy sớm hoàn thành checkpoint một, thật ra nó không dài lắm. Chỉ cần nghĩ xem thiết kế bạn muốn làm là gì.
I recommend start from something simple, right? Don't do too much optimization, we do have a separate checkpoint two for actually optimization, right? But get something simple.
Thầy khuyên nên bắt đầu từ thứ đơn giản, nhé? Đừng tối ưu hóa quá nhiều, chúng ta có checkpoint hai riêng cho việc tối ưu hóa mà, đúng không? Nhưng hãy làm thứ gì đó đơn giản.
Get all your datapath elements implemented, stitch them together. Pass all the functional tests, that's really the key part of actually getting a project started. We do have a new homework.
Triển khai tất cả các phần tử datapath, rồi ghép chúng lại với nhau. Vượt qua tất cả các bài kiểm tra chức năng, đó thực sự là phần then chốt để bắt đầu dự án. Chúng ta có một bài tập về nhà mới.
We do have a new homework this week. This homework is pretty substantial, I would say. We haven't done the homework on path delay, will also cover more delay.
Tuần này chúng ta có một bài tập về nhà mới. Tôi có thể nói bài tập này khá nặng. Chúng ta chưa làm bài tập về độ trễ đường đi, bài này cũng sẽ đề cập thêm về độ trễ.
Wire delay. So definitely take a look at the homework, I think it's already posted. Reveal it, it will be a good opportunity to reveal the material that we covered in the past couple weeks.
Độ trễ dây dẫn. Vì vậy các bạn nhất định hãy xem bài tập, tôi nghĩ nó đã được đăng rồi. Ôn lại, đây sẽ là cơ hội tốt để ôn lại những kiến thức mà chúng ta đã học trong vài tuần qua.
Any questions on the logistics side? Okay, good. Great.
Có câu hỏi nào về phần thủ tục không? Được rồi, tốt. Tuyệt.
With that, we are transitioning back to our adder design. So we talked about different performance and energy profile. We are actually going to talk about different topologies in our hardware design.
Với điều đó, chúng ta quay lại với thiết kế bộ cộng. Chúng ta đã nói về các đặc tính hiệu năng và năng lượng khác nhau. Thực ra chúng ta sẽ nói về các topology khác nhau trong thiết kế phần cứng.
We'll start from adder and multiplier. Next week we'll also talk about combinational elements, or also talk about sequential elements like flip-flops and SRAMs later, right?
Chúng ta sẽ bắt đầu từ bộ cộng và bộ nhân. Tuần sau chúng ta cũng sẽ nói về các phần tử tổ hợp, và sau đó cũng nói về các phần tử tuần tự như flip-flop và SRAM, đúng không?
So that will be the last module of the class, really: how we use the MOS gates to build all the basic building blocks in our hardware. Right. So first part is adder.
Đó thực sự sẽ là mô-đun cuối cùng của môn học: cách chúng ta dùng các cổng MOS để xây dựng mọi khối cơ bản trong phần cứng. Vâng. Phần đầu tiên là bộ cộng.
Right, adder is fairly straightforward. Right, in most of our designs we really don't even look into how adder is really implemented. Right, it's really just an adder operator. Right.
Bộ cộng khá đơn giản. Trong hầu hết các thiết kế, chúng ta thậm chí không xem xét bộ cộng thực sự được hiện thực như thế nào. Nó chỉ đơn giản là một toán tử cộng.
But if you actually zoom in and really think about what's inside, there is actually a pretty interesting design space. Right.
Nhưng nếu bạn thực sự đi sâu và nghĩ xem bên trong có gì, thì có một không gian thiết kế khá thú vị. Vâng.
Of course, it's sensitive to the number of bits, right, how wide an adder we're building. We will actually see later that's also impacting the performance of our system.
Tất nhiên, nó phụ thuộc vào số bit, tức là bộ cộng chúng ta xây dựng rộng bao nhiêu bit. Sau này chúng ta sẽ thấy điều đó cũng ảnh hưởng đến hiệu năng của hệ thống.
Right, but also how much faster we actually want to do in our adders. What are the... there are also different adder designs, right? We mentioned the NVIDIA adder design, the reinforcement learning optimization, right?
Và cả việc chúng ta muốn bộ cộng nhanh hơn đến mức nào. Còn có... cũng có nhiều thiết kế bộ cộng khác nhau, đúng không? Chúng ta đã nhắc đến thiết kế bộ cộng của NVIDIA, tối ưu hóa bằng học tăng cường, đúng không?
So they are basically trying to figure out a good topology to support different adder designs. So what's really there, and how we actually navigate the design space. Right.
Về cơ bản họ đang cố tìm ra một topology tốt để hỗ trợ các thiết kế bộ cộng khác nhau. Vậy thực sự có những gì, và chúng ta khám phá không gian thiết kế như thế nào.
So first, we already talked about this, and we think about the full adder, right? So we have three inputs: A and B, and the carry in, and the sum and the carry out.
Trước hết, chúng ta đã nói về điều này, và hãy nghĩ đến bộ cộng toàn phần. Có ba đầu vào: A, B và số nhớ vào, cùng với tổng và số nhớ ra.
Right, three inputs, two outputs. Right, so that's what we mean by a single-bit full adder. Right. And then we get the truth table.
Ba đầu vào, hai đầu ra. Đó là điều chúng ta muốn nói về bộ cộng toàn phần một bit. Rồi chúng ta có bảng chân trị.
We also did that when we did the combinational logic design, We can actually write our carry out and the sum, right, using Boolean expressions.
Chúng ta cũng đã làm điều đó khi thiết kế logic tổ hợp, chúng ta có thể viết số nhớ ra và tổng bằng các biểu thức Boolean.
We also talked about the carry out, also called a majority gate: basically we have three elements, and if the majority is one, the output is one.
Chúng ta cũng đã nói số nhớ ra còn được gọi là cổng đa số: về cơ bản có ba phần tử, và nếu đa số là một thì đầu ra là một.
Right. So that's basically how we implement a full adder. Right, those are different ways of generating the sum and the carry out based on the inputs.
Vậy đó về cơ bản là cách chúng ta hiện thực bộ cộng toàn phần. Đó là các cách khác nhau để tạo ra tổng và số nhớ ra dựa trên các đầu vào.
And we can also use our Karnaugh map to do the same thing. Right. So that's how we do actually a single-bit adder.
Và chúng ta cũng có thể dùng bản đồ Karnaugh để làm điều tương tự. Vậy đó là cách chúng ta xây dựng một bộ cộng một bit.
So now, going through our CMOS design, right, we talked about, once we have the Boolean equations, right, you can actually rewrite it.
Bây giờ, đi tiếp phần thiết kế CMOS, chúng ta đã nói là, khi đã có các phương trình Boolean, thì bạn có thể viết lại chúng.
You can use DeMorgan's law for, right, carry out, and then you can replace carry out in the sum.
Bạn có thể dùng định luật DeMorgan cho carry out, rồi thay carry out vào biểu thức của tổng.
I wouldn't, I don't do that, I will not do that in lectures, but this will be a fun exercise to do, to actually see how to use different Boolean laws to actually do this simplification.
Tôi sẽ không làm việc đó trong bài giảng, nhưng đây sẽ là một bài tập thú vị, để xem cách dùng các định luật Boolean khác nhau nhằm thực hiện việc rút gọn này.
So we can actually get an expression of how we actually construct a CMOS full adder based on the Boolean equation, right.
Như vậy ta có thể thu được một biểu thức cho biết cách xây dựng bộ cộng đầy đủ CMOS dựa trên phương trình Boolean.
So here is basically we have again three inputs, A, B, and the carry, we can actually get our carry out by going through the first stage of CMOS gate, and carry out will be another input, because it's rewritten to actually produce this, right.
Ở đây ta lại có ba đầu vào là A, B và carry, ta có thể lấy carry out bằng cách cho qua tầng cổng CMOS đầu tiên, và carry out sẽ là một đầu vào khác, vì biểu thức được viết lại để tạo ra kết quả này.
This is actually after we get the inverted sum first, and then, because CMOS, right, so add an inverter here, we actually get this up.
Đây là sau khi ta có tổng đảo trước, rồi, vì là CMOS nên ta thêm một bộ đảo ở đây, và ta có được kết quả này.
So this is basically how we actually construct a CMOS adder based on the Boolean equation, and then you can see the pull-up and pull-down network.
Vậy đây là cách chúng ta xây dựng bộ cộng CMOS dựa trên phương trình Boolean, và sau đó bạn có thể thấy mạng kéo lên và mạng kéo xuống.
This will also be a fun exercise to do, just to see how we can actually turn the three-input gate design into, to represent a single-bit full adder.
Đây cũng sẽ là một bài tập thú vị, để xem cách biến thiết kế cổng ba đầu vào thành một bộ cộng đầy đủ một bit.
One thing we notice here, we mentioned we have three inputs, right, We always have carry in.
Có một điều ta để ý ở đây: ta nói là có ba đầu vào, luôn có carry in.
Actually here, you all notice any signals associated with carrying is actually closest to the output.
Thật ra ở đây, các bạn đều thấy mọi tín hiệu liên quan đến carry đều nằm gần đầu ra nhất.
And the reason that we, we have to put carry in here, like, for example, for this, any order, actually consider why, what are the implications of different orders with A, B, and the carry in in this design?
Còn lý do ta phải đặt carry in ở đây, ví dụ như ở chỗ này, thứ tự nào cũng được, hãy thử nghĩ xem vì sao, các thứ tự khác nhau của A, B và carry in trong thiết kế này có ảnh hưởng gì?
You just take a look at all the carry in, the generally pretty close to the output. Why, why is that? Why do we want to put carry in very close to output?
Bạn cứ nhìn các carry in, nhìn chung chúng khá gần đầu ra. Tại sao vậy? Vì sao ta muốn đặt carry in rất gần đầu ra?
Exactly. So, in majority of the design we mentioned carry is actually propagate, but A and B, the input, are known actually ahead of time.
Chính xác. Trong phần lớn thiết kế, như ta đã nói, carry được lan truyền, còn A và B, các đầu vào, thì được biết trước.
Whenever we have the input we know that, but we need to wait for carry, right?
Khi có đầu vào là ta biết ngay, nhưng ta phải chờ carry, đúng không?
So all the other gates are already pre-charged, because A and B are not, right, whether it's on or off, right?
Vì vậy tất cả các cổng khác đã được nạp trước, vì A và B đã xác định, dù là bật hay tắt, đúng không?
All the other gates are pre-charged, but the only thing we don't know is basically carry, right?
Tất cả các cổng khác đều đã được nạp trước, còn thứ duy nhất ta chưa biết là carry.
So generally, you want to make those like high, like very sensitive input, very close to the output so the rest of like capacitors, all the drain cap, all the parasitic capacitor, already fully charged or discharged.
Vì vậy nhìn chung bạn muốn đặt đầu vào rất nhạy đó, rất gần đầu ra để các tụ điện còn lại, toàn bộ tụ drain, toàn bộ tụ ký sinh, đã được nạp đầy hoặc xả hết.
All we need to do is just to wait until this slower path, this critical path, actually coming in to actually trigger the transition immediately, right?
Việc ta cần làm chỉ là chờ đến khi đường chậm hơn này, tức đường tới hạn, đi tới và kích hoạt chuyển trạng thái ngay lập tức.
Otherwise, if C is like a little bit further down here, when C coming in, we actually also need to charge or discharge A and B, that make the circuit run longer, right?
Ngược lại, nếu C nằm xa hơn một chút về phía dưới này, thì khi C đi vào, ta còn phải nạp hoặc xả điện cho cả A và B nữa, khiến mạch chạy lâu hơn, đúng không?
So generally if their time critical signals tend to run longer, we wanted to put it actually closer to output.
Nên nói chung, những tín hiệu tới hạn về thời gian thường chạy lâu hơn, và ta muốn đặt chúng gần ngõ ra hơn.
So that's a style that you always see in design, so different inputs have also different criticality, and that will also affect the design.
Đó là một phong cách bạn luôn thấy trong thiết kế, tức là các ngõ vào khác nhau cũng có mức độ tới hạn khác nhau, và điều đó cũng sẽ ảnh hưởng đến thiết kế.
So, so far we have been most using just A, B and the carry, right, before we talk about other design.
Vậy từ đầu đến giờ ta chủ yếu chỉ dùng A, B và carry, đúng không, trước khi nói đến các thiết kế khác.
We want to talk about another rewrite people are doing, thinking about adder generation, that will also have implications for more efficient adder design.
Giờ ta muốn nói về một cách viết lại khác mà người ta hay dùng, khi nghĩ về việc sinh carry trong bộ cộng, và nó cũng có ý nghĩa cho việc thiết kế bộ cộng hiệu quả hơn.
So instead of writing carry and sum as pure function of A and B and C, another way of expressing sum and carry is using another set of signals: propagate, generate, and kill signals here.
Thay vì viết carry và tổng như hàm thuần túy của A, B và C, một cách khác để biểu diễn tổng và carry là dùng một tập tín hiệu khác: propagate, generate, và kill ở đây.
So basically, instead of directly using the input, we can actually rewrite the carry and the sum using these three signals: generate, propagate, and kill.
Về cơ bản, thay vì dùng trực tiếp các ngõ vào, ta có thể viết lại carry và tổng bằng ba tín hiệu này: generate, propagate và kill.
Generally, we only use, most of the time we have to use, generate and propagate. Those are very related to carry.
Nói chung, phần lớn thời gian ta chỉ cần dùng generate và propagate. Chúng liên quan rất nhiều đến carry.
I already mentioned that carry is the critical path, because that actually takes longer to propagate. So generate, as the name suggests, it generates a carry, right?
Tôi đã nói carry là đường tới hạn, vì nó mất nhiều thời gian hơn để lan truyền. Generate, đúng như tên gọi, là sinh ra một carry, đúng không?
So if we have, you will actually have, let's say, both A and B on, right, no matter what C is, we always generate a carry, right, because we need to have a carry.
Giả sử cả A và B đều bật, thì dù C là gì, ta luôn sinh ra một carry, vì ta cần có một carry.
And propagate is where we propagate the current carry, right? If either A or B is one, then we always propagate the current carry, we propagate that carry as an output.
Còn propagate là khi ta truyền carry hiện tại đi tiếp, đúng không? Nếu A hoặc B bằng một, thì ta luôn truyền carry hiện tại đi tiếp, tức là truyền carry đó ra ngõ ra.
So we'll see this later, in the, when we talk about adder optimization. So this is useful in thinking about optimization.
Ta sẽ thấy điều này sau, khi nói về tối ưu bộ cộng. Vì vậy nó hữu ích khi suy nghĩ về tối ưu hóa.
Instead of associating the carry propagation with A and B, we can associate this with propagate and generate signals, and we can do some parallel processing to get the adder faster, but we'll do that later.
Thay vì gắn lan truyền nhớ với A và B, ta có thể gắn nó với các tín hiệu propagate và generate, và ta có thể xử lý song song để bộ cộng nhanh hơn, nhưng ta sẽ làm việc đó sau.
But I want to mention the generate and propagate signals that we use to express, again, this carry propagation.
Nhưng tôi muốn nhắc đến các tín hiệu generate và propagate mà ta dùng để biểu diễn, một lần nữa, sự lan truyền nhớ này.
Similarly, when we think about carry propagation, right, I mentioned earlier, we don't want to associate this carry propagate at each stage, but actually make it only dependent on the input, so we can actually precompute the generate and propagate signals, and we'll see that later.
Tương tự, khi nghĩ về lan truyền nhớ, như tôi đã nói trước đó, ta không muốn gắn việc lan truyền carry này với từng tầng, mà muốn nó chỉ phụ thuộc vào ngõ vào, nhờ vậy ta có thể tính trước các tín hiệu generate và propagate, và ta sẽ thấy điều đó sau.
Especially in groups, right? This will be used for carry-lookahead, and we'll talk about that in a minute.
Đặc biệt là theo nhóm, đúng không? Điều này sẽ dùng cho carry-lookahead, và ta sẽ nói về nó ngay sau đây.
But if you think about the generate and propagate signal, right, we basically can also build it pretty easily using our CMOS gate.
Nhưng nếu bạn nghĩ về tín hiệu generate và propagate, đúng không, thì về cơ bản ta cũng có thể xây dựng chúng khá dễ dàng bằng cổng CMOS.
And you will see that, again, carry is the critical path.
Và bạn sẽ thấy rằng, một lần nữa, carry là đường tới hạn.
Generally the slowest signal, we always put carry closest to the output so that we can quickly charge and discharge the signal, so that we can actually also generate using propagate and generate and carry in to actually generate.
Thường thì đây là tín hiệu chậm nhất, nên ta luôn đặt carry gần ngõ ra nhất để có thể nạp và xả tín hiệu thật nhanh, để ta cũng có thể tạo ra kết quả bằng propagate và generate cùng với carry in.
So we'll come back to this later. See how generate and propagate simplifies the way we think about adder design, especially for CLA, carry-lookahead.
Chúng ta sẽ quay lại phần này sau. Hãy xem generate và propagate đơn giản hóa cách ta nghĩ về thiết kế bộ cộng như thế nào, đặc biệt là với CLA, carry-lookahead.
So those are the basics when we think about adders, especially from a single bit, but adders really get more interesting when we have more bits, right?
Đó là những kiến thức cơ bản khi nghĩ về bộ cộng, đặc biệt là ở mức một bit, nhưng bộ cộng thực sự thú vị hơn khi có nhiều bit hơn, đúng không?
We're not only doing a single-bit full adder, we're actually doing more complex matters. So that gets to the adder design we will have been actually using throughout the first part of the class.
Ta không chỉ làm bộ cộng đầy đủ một bit, mà ta làm những việc phức tạp hơn. Điều đó dẫn đến thiết kế bộ cộng mà ta sẽ dùng xuyên suốt phần đầu của môn học.
Right, it's really just simple. We will carry the adder, a ripple-carry adder. We also mentioned this carry chain.
Nó thực ra rất đơn giản. Đó là bộ cộng ripple-carry. Chúng ta cũng đã nhắc đến chuỗi nhớ (carry chain) này.
Well, it's actually hardened in the FPGA as a hardened block, we have it so many years, right?
Thực ra nó được cứng hóa trong FPGA như một khối cứng, và ta đã có nó nhiều năm nay, đúng không?
So to actually have a four-bit adder, we basically have four single-bit full adders, and then chain them together, right?
Vậy để có một bộ cộng bốn bit, ta chỉ cần bốn bộ cộng đầy đủ một bit, rồi nối chúng lại với nhau, đúng không?
We just add the carry chain, wire them together, and then we can actually get our design, our sum, and also the carry out.
Ta chỉ cần nối chuỗi carry, đấu dây chúng với nhau, và khi đó ta có được thiết kế, có tổng và cả carry out.
Right. So the part of that is we actually think about delay. We'll have been talking about delay, right? How do they actually scale?
Đúng. Phần tiếp theo là ta xem xét độ trễ. Chúng ta đã nói về độ trễ rồi, đúng không? Chúng thay đổi theo quy mô như thế nào?
So here the delay of our adder is really just linear with the number of bits that we have in our design, right? So it's linear with the number of bits.
Ở đây độ trễ của bộ cộng thực ra tỉ lệ tuyến tính với số bit trong thiết kế của ta, đúng không? Tức là nó tuyến tính theo số bit.
Like, more specifically, if we actually take a look at the design, right, the critical path is really the carry coming in, Input carry.
Cụ thể hơn, nếu ta xem xét thiết kế này, đường tới hạn chính là carry đi vào, tức carry ngõ vào.
And then we actually need to use a carry, use a final carry to actually produce the sum. Right.
Sau đó ta cần dùng carry, dùng carry cuối cùng để tạo ra tổng. Đúng.
So, you will think about other latency, we need to go through n minus one, you'll have n stages here.
Vậy khi nghĩ về độ trễ, ta cần đi qua n trừ một, ở đây có n tầng.
Right, we need to go through n minus one carry propagation to actually produce carry, and then finally produce a sum.
Đúng, ta cần đi qua n trừ một lần lan truyền nhớ để tạo ra carry, và cuối cùng mới tạo ra tổng.
Right, so this is linear with a number of bits, and it's pretty slow, right, especially when we talk about 32-bit adder, 64-bit adder. This can be pretty slow.
Vậy nên nó tuyến tính theo số bit, và khá chậm, đặc biệt khi nói đến bộ cộng 32 bit, 64 bit. Điều này có thể khá chậm.
So when we come to the other design, all of those different topology optimizations are just to make the carry path faster, because that's a pretty slow path that actually slows down our circuit.
Vì vậy khi chuyển sang các thiết kế khác, tất cả những tối ưu hóa cấu trúc khác nhau đó đều nhằm làm cho đường carry nhanh hơn, vì đó là đường khá chậm làm chậm mạch của ta.
So that's a ripple-carry adder.
Đó là bộ cộng ripple-carry.
One thing you may notice that we have, we, we mentioned earlier, CMOS is actually inverted, right, so sometimes with a fuller design we actually add an inverter, dedicated inverter, and go back here.
Có một điều bạn có thể để ý, như chúng ta đã nhắc trước đó, CMOS thực ra là mạch đảo, đúng không, nên đôi khi với thiết kế full adder ta thêm một bộ đảo, một bộ đảo riêng, rồi quay lại đây.
Here, I just remember we actually have a dedicated inverter for the carry here. And this is some, this can also be expensive or can be actually overhead, because really they are intermediate signals, right.
Ở đây, hãy nhớ là ta có một bộ đảo riêng cho tín hiệu nhớ. Việc này có thể tốn kém, hoặc là chi phí phụ trội, vì thực ra chúng chỉ là các tín hiệu trung gian, đúng không.
One optimization is that instead of inverting our carry outs every time, we can actually just take the inverted carry out, and then we can, we can just get everything inverted, and then we can actually still get the same signal, because they are actually producing the same results.
Một cách tối ưu là thay vì đảo carry out mỗi lần, ta có thể lấy luôn carry out đã bị đảo, và khi đó mọi thứ đều bị đảo, nhưng ta vẫn thu được cùng một tín hiệu, vì chúng thực sự cho cùng một kết quả.
With that we actually, again, we want to reduce the critical path, the latency on the critical path.
Với cách này, một lần nữa, ta muốn giảm đường tới hạn, tức độ trễ trên đường tới hạn.
That inverter is also on the critical path, right, so you will actually just take the inverted carry so that we don't need to have that inverter on the critical path.
Bộ đảo đó cũng nằm trên đường tới hạn, đúng không, nên ta sẽ chỉ lấy carry đã đảo để không cần bộ đảo đó trên đường tới hạn.
So for most of the discussion we, we don't need to actually consider that inverter, we'll assume the data can be, we can just take the inverted data and update directly without doing the inverter design.
Vì vậy trong phần lớn nội dung thảo luận, ta không cần xét bộ đảo đó nữa, ta sẽ giả sử dữ liệu có thể lấy trực tiếp dạng đã đảo và cập nhật luôn mà không cần thiết kế bộ đảo.
So in reality, you will actually think about one of the simple, simple optimizations, very straightforward: get rid of those inverters, and then just use the value directly to actually propagate, reducing the number of inverted stages.
Vậy trong thực tế, bạn sẽ nghĩ đến một trong những cách tối ưu đơn giản, rất đơn giản và trực tiếp: bỏ các bộ đảo đó đi, rồi dùng trực tiếp giá trị đó để lan truyền, giảm số tầng đảo.
We are actually adding inverters here, you may notice, for the inputs A and B, right?
Ở đây ta lại đang thêm các bộ đảo, bạn có thể thấy, cho các đầu vào A và B, đúng không?
So this inversion property will actually need to invert all the inputs, but A and B are not on the critical path, right? See, the carry is on the critical path.
Tính chất đảo này đòi hỏi phải đảo tất cả các đầu vào, nhưng A và B không nằm trên đường tới hạn, đúng không? Thấy chưa, carry mới nằm trên đường tới hạn.
So they're still beneficial, because now it makes the carry faster, even though we are actually adding a little bit more inversions for the other inputs, but they are not on the critical path.
Nên cách này vẫn có lợi, vì giờ carry nhanh hơn, dù ta đang thêm hơi nhiều phép đảo cho các đầu vào khác, nhưng chúng không nằm trên đường tới hạn.
So that's the first very simple optimization, but this really doesn't change anything. This is still, the delay is linear with the number of stages, right?
Đó là cách tối ưu đầu tiên, rất đơn giản, nhưng thực ra nó không thay đổi gì nhiều. Độ trễ vẫn tăng tuyến tính theo số tầng, đúng không?
The next part is really thinking about how we can further optimize our adder circuit to run it faster, so that we can actually get a faster design instead of needing to actually go through so slowly.
Phần tiếp theo là nghĩ xem làm sao để tiếp tục tối ưu mạch cộng cho chạy nhanh hơn, để có thiết kế nhanh hơn thay vì phải đi qua chậm chạp như vậy.
We're going to talk about two styles of optimization. The first one is carry bypass, sometimes people call it carry skip.
Ta sẽ nói về hai kiểu tối ưu. Kiểu đầu tiên là carry bypass, đôi khi người ta gọi là carry skip.
This one is still linear in relationship with the number of stages, but it depends on how complex, how many bits we're supporting, that have a different profile.
Kiểu này vẫn tuyến tính theo số tầng, nhưng phụ thuộc vào độ phức tạp, tức số bit mà ta hỗ trợ, nên có đặc tính khác.
So I'll talk a little bit more about that. And finally, we will talk about the carry-lookahead adder, which actually changes from linear to O of log N.
Tôi sẽ nói thêm một chút về phần đó. Và cuối cùng, ta sẽ nói về mạch cộng carry-lookahead, giúp chuyển từ tuyến tính sang O(log N).
So that's where the tree structure, I mean, at the beginning of the class.
Đó chính là chỗ cấu trúc cây xuất hiện, tôi muốn nói là ở phần đầu của môn học.
This one is still O of N, but with a different slope, but the next one is actually O of log N, and so that may come out even faster.
Cái này vẫn là O của N, nhưng với một độ dốc khác, còn cái tiếp theo thực sự là O của log N, nên có thể còn nhanh hơn nữa.
Though I'll start with the first one, carry bypass, or sometimes you hear people say carry skip. That's the first adder optimization. So as the name suggests.
Tuy nhiên tôi sẽ bắt đầu với cái đầu tiên, carry bypass, hoặc đôi khi bạn nghe người ta gọi là carry skip. Đó là cách tối ưu bộ cộng đầu tiên. Đúng như tên gọi của nó.
Right, so instead of actually doing the whole, the whole actual propagation going through every stage, we basically have a separate path to bypass this carry propagation.
Đúng vậy, thay vì thực hiện toàn bộ quá trình lan truyền đi qua từng tầng, về cơ bản ta có một đường riêng để bỏ qua việc lan truyền nhớ này.
Well, the observation is that you will actually capture, remember the propagate signal that we mentioned earlier is what means that carry will propagate every stage, right? We can actually pre-compute the propagate signal.
Nhận xét ở đây là ta có thể nắm được, hãy nhớ tín hiệu propagate mà ta đã nhắc đến trước đó có nghĩa là số nhớ sẽ lan truyền qua mọi tầng, đúng không? Ta có thể tính trước tín hiệu propagate.
Let's say for the four-bit adder, we probably pre-compute all the propagate signals for each stage, for each bit, right?
Giả sử với bộ cộng bốn bit, ta có thể tính trước tất cả các tín hiệu propagate cho từng tầng, từng bit, đúng không?
If all of them are one, it basically means we propagate, which means that we can just propagate this carry directly to the output without waiting for the entire carry propagation.
Nếu tất cả đều bằng một, nghĩa là ta lan truyền, tức là ta có thể truyền số nhớ này thẳng ra đầu ra mà không phải chờ toàn bộ quá trình lan truyền nhớ.
Right, so this is basically the idea: we can actually bypass this carry chain, and then we can actually propagate the signal pretty quickly. So that's the idea.
Đúng vậy, ý tưởng cơ bản là ta có thể bỏ qua chuỗi nhớ này, và nhờ đó có thể lan truyền tín hiệu khá nhanh. Đó là ý tưởng.
We can check whether it is, and then we just carry this directly or we just generate this pretty quickly. So if we look at the design, let's say this is a 16-bit adder.
Ta có thể kiểm tra xem có phải như vậy không, rồi ta chỉ việc chuyển số nhớ này thẳng đi, hoặc tạo ra nó khá nhanh. Nếu nhìn vào thiết kế, giả sử đây là bộ cộng 16 bit.
We actually do a 16-bit adder, we break it down into multiple stages. Each stage is four bits. Right, then we can actually do this carry propagation.
Ta làm bộ cộng 16 bit, chia nó thành nhiều tầng. Mỗi tầng bốn bit. Rồi ta có thể thực hiện lan truyền nhớ này.
Well, within each stage we still do carry propagation.
Trong mỗi tầng ta vẫn thực hiện lan truyền nhớ.
But at each stage we can actually do the setup quickly, and then to see whether we can actually use this setup to control this mux, to see whether we actually go through the propagation, to actually go through the chain to actually generate the carry, or we can actually pass the carry directly.
Nhưng ở mỗi tầng ta có thể thực hiện phần setup một cách nhanh chóng, rồi xem có thể dùng phần setup này để điều khiển mux này hay không, để xem ta có đi qua quá trình lan truyền hay không, tức là đi qua chuỗi để tạo ra số nhớ, hay có thể chuyển thẳng số nhớ đi.
Right. All the controlling signals to the muxes can be pre-computed, right? They are basically, remember, they're only related to all the propagate signals, right? They can be pre-computed.
Đúng vậy. Mọi tín hiệu điều khiển cho các mux đều có thể được tính trước, đúng không? Về cơ bản chúng nhớ nhé, chỉ liên quan đến các tín hiệu propagate, đúng không? Chúng có thể được tính trước.
So by doing this we basically can break down the problem here for each.
Nhờ làm vậy ta có thể chia nhỏ bài toán ở đây cho từng tầng.
We can actually do the setup in parallel, which means that we can actually generate the Marx control signal in parallel, then the critical pass basically can we do the setup.
Ta có thể thực hiện phần setup song song, nghĩa là ta có thể tạo tín hiệu điều khiển mux song song, khi đó đường tới hạn về cơ bản là phần setup.
And then we basically, we can actually go through the prop gate. And then we finally get to the sun. Right, so we actually don't need to actually propagate every time.
Rồi sau đó ta đi qua cổng propagate. Và cuối cùng ta đến tổng. Đúng vậy, nên thực ra ta không cần phải lan truyền mỗi lần.
Because all of this control signal can be actually pre pre generated, and then we can actually just propagate directly.
Vì tất cả các tín hiệu điều khiển này có thể được tạo sẵn từ trước, rồi ta có thể truyền thẳng.
So now the critical pass will be, okay, we need to go through the setup pass, we still need to actually go through the setup pass, and that we need to set how fast we still need to go through the carrier propagation part.
Vậy bây giờ đường tới hạn sẽ là, được rồi, ta cần đi qua đường setup, ta vẫn cần đi qua đường setup, và ta cần xác định nó nhanh đến mức nào, ta vẫn cần đi qua phần lan truyền nhớ.
But this can actually be done in parallel. And then we do the max selection, because we have m is the number of bits here, and n is the total number of bits, so 16.
Nhưng phần này thực ra có thể thực hiện song song. Và sau đó chúng ta thực hiện phép chọn max, vì ở đây m là số bit, còn n là tổng số bit, tức là 16.
Right, we go through this number of boxes. And then we get to our final sum. Right, so that's basically the idea of carry bypass adder, right?
Đúng không, chúng ta đi qua từng ấy khối. Và rồi chúng ta có được tổng cuối cùng. Vậy đó, về cơ bản đó là ý tưởng của bộ cộng carry bypass, đúng không?
So it's basically break down into stages, right, within the stage we can actually set up to see whether we can propagate or generate the carry directly, that skip, don't have a, can do things in parallel.
Tức là về cơ bản nó được chia nhỏ thành các tầng, đúng không, trong mỗi tầng ta có thể thiết lập để xem liệu có thể lan truyền hoặc tạo ra bit nhớ trực tiếp hay không, tức là bỏ qua, không cần phải chờ, có thể làm song song.
And then all we need to do is go through those boxes to actually reduce the performance, to reduce the overall latency here. Mm hmm.
Và sau đó tất cả những gì cần làm là đi qua các khối đó để cải thiện hiệu năng, để giảm độ trễ tổng thể ở đây. Ừm.
That's all the setups in parallel and all the security operations in parallel.
Đó là tất cả các phần thiết lập chạy song song và tất cả các phép toán kiểm tra cũng chạy song song.
And so, instead of having to go from left to right, all of them simultaneously.
Và như vậy, thay vì phải đi từ trái sang phải, tất cả chúng diễn ra đồng thời.
Exactly. So the baseline is we had before is all of this needs to be done.
Chính xác. Vậy đường cơ sở trước đây là tất cả những phần này đều phải được thực hiện.
This is our old critical pass, right, by break it down into multiple stages. All of this can actually go in parallel. Right.
Đây là đường tới hạn cũ của chúng ta, đúng không, bằng cách chia nó thành nhiều tầng. Tất cả những phần này thực ra có thể chạy song song. Đúng vậy.
And then we basically whenever all we need to do, we also generate the control signals actually in parallel, right, that we really just need to propagate.
Và sau đó về cơ bản, bất cứ khi nào cần, chúng ta cũng tạo các tín hiệu điều khiển song song, đúng không, và thực sự chỉ cần lan truyền chúng.
Well, we just get signal ready probably through the boxes. You're actually right. Now the last month. That's the intermediate boxes there.
Chúng ta chỉ cần có tín hiệu sẵn sàng qua các khối. Bạn nói đúng. Bây giờ là phần cuối. Đó là các khối trung gian ở đây.
Why do we add the T carry twice? Oh, so the first part is set up. And this is the initial carry generation, right? Because it was mentioned this is actually done in parallel, right?
Tại sao chúng ta cộng bit nhớ hai lần? À, phần đầu tiên là thiết lập. Và đây là bước tạo bit nhớ ban đầu, đúng không? Vì như đã nói, phần này được thực hiện song song, đúng không?
The last part is, when we get to the final one to produce the final sum, we also need that to produce a final sum.
Phần cuối cùng là, khi chúng ta đến khối cuối để tạo ra tổng cuối cùng, chúng ta cũng cần nó để tạo ra tổng cuối cùng.
So some of this part, but it also depends on the carry propagation to produce a sum, right?
Vậy một phần của đoạn này, nhưng nó cũng phụ thuộc vào lan truyền nhớ để tạo ra tổng, đúng không?
So, so this, after this month, this is still on the critical path to actually predict. So this is the final sum. And this is like seeing that we can do in parallel.
Vậy nên, sau phần này, đây vẫn nằm trên đường tới hạn. Đây là tổng cuối cùng. Còn đây là phần mà chúng ta có thể làm song song.
And this is basically the Marxist questions.
Và về cơ bản đó là câu trả lời cho câu hỏi này.
Makes sense?
Hợp lý chứ?
Right, that's a good question. Right. So, so you will look at this, this still. This is still a linear relationship, right, with N, right?
Đúng, đó là một câu hỏi hay. Đúng vậy. Vậy bạn sẽ nhìn vào đây, cái này vẫn là quan hệ tuyến tính với N, đúng không?
So it doesn't change the limit of this to be a linear relationship.
Nên nó không làm thay đổi giới hạn của quan hệ này, vẫn là tuyến tính.
You will actually compare just generally, let's put that, like, different technology, different things aside, we compare the ripple carry adder and the bypass adder, because we are actually also adding latency costs for those boxes, right?
Bạn sẽ so sánh một cách tổng quát, tạm gác sang một bên các công nghệ khác nhau, những yếu tố khác nhau, chúng ta so sánh bộ cộng ripple carry và bộ cộng bypass, tạm gác sang một bên các công nghệ khác nhau, những yếu tố khác nhau, chúng ta so sánh bộ cộng ripple carry và bộ cộng bypass, vì thực ra chúng ta cũng đang thêm chi phí độ trễ cho những khối đó, đúng không?
Those are actually actual cost. So for actually, for like smaller adder design, and even for the bypass adder, each individual stage is still a ripple carry adder, so we're actually just adding more stages.
Đó là những chi phí thực sự. Vì vậy, với thiết kế bộ cộng nhỏ hơn, và ngay cả với bộ cộng bypass, mỗi tầng riêng lẻ vẫn là một bộ cộng ripple carry, nên thực chất chúng ta chỉ đang thêm nhiều tầng hơn.
So for the smaller bit widths it's actually, ripple carry adder is still actually more, because we're more efficient, because we're not adding those overhead.
Vì vậy với độ rộng bit nhỏ hơn, bộ cộng ripple carry vẫn tốt hơn, vì nó hiệu quả hơn, do không phải thêm phần chi phí phụ đó.
So they're still better, but, but the bypass adder is really better for bigger designs. For bigger design, then we can actually break down to like stages, and there is also a balance, right?
Nên chúng vẫn tốt hơn, nhưng bộ cộng bypass thực sự tốt hơn cho các thiết kế lớn hơn. Với thiết kế lớn hơn, chúng ta có thể chia nhỏ thành các tầng, và ở đây cũng cần có sự cân bằng, đúng không?
How big a stages and how the size per stage, that depends on technology, depends on constraints, But generally, for smaller adder, ripple carry still pretty good.
Mỗi tầng lớn cỡ nào, kích thước mỗi tầng ra sao, điều đó phụ thuộc vào công nghệ, phụ thuộc vào các ràng buộc. Nhưng nói chung, với bộ cộng nhỏ, ripple carry vẫn khá tốt.
But with this kind of bypass adder, actually more, more useful for bigger adders, like we're designing 30 to 64 bit adders.
Còn loại bộ cộng bypass này thì hữu ích hơn cho các bộ cộng lớn, như khi ta thiết kế bộ cộng 30 đến 64 bit.
They are more useful, because we can actually break it down to stages, and then we can run things faster.
Chúng hữu ích hơn vì ta có thể chia nó thành các tầng, và nhờ đó có thể chạy nhanh hơn.
But both, you'll see here, is still a linear relationship with, and just with different, different slope here. That's a carry ripple adder. Any questions?
Nhưng cả hai, các bạn thấy ở đây, vẫn là quan hệ tuyến tính với N, chỉ khác nhau về độ dốc. Đó là bộ cộng carry ripple. Có câu hỏi nào không?
Or carry, carry bypass adder.
Hoặc bộ cộng carry bypass.
Oh, so those are also input only, input dependent.
À, những tín hiệu này cũng chỉ phụ thuộc vào đầu vào.
So kill and generate, so all three signals. The reason we like to use those signals, because they only depend on the input. So all of those can be pre-computed by the current input.
Vậy kill và generate, tức là cả ba tín hiệu. Lý do ta thích dùng các tín hiệu này là vì chúng chỉ phụ thuộc vào đầu vào. Nên tất cả đều có thể được tính trước từ đầu vào hiện tại.
We're going to pre-compute generate, propagate, we can also pre-compute generate. So all of those signals can actually be pre-computed, they are only dependent on input. Yes.
Chúng ta sẽ tính trước generate, propagate, và cũng có thể tính trước generate. Vậy tất cả các tín hiệu này đều có thể được tính trước, chúng chỉ phụ thuộc vào đầu vào. Vâng.
So you were using...
Vậy bạn đã dùng...
Oh, so generate, it will actually generate, that is basically input independent, right?
À, generate thì nó sẽ tạo ra nhớ, về cơ bản điều đó không phụ thuộc vào đầu vào trước, đúng không?
We just propagate, will probably generate directly. The first selection.
Chúng ta chỉ propagate, có lẽ sẽ generate trực tiếp. Lựa chọn đầu tiên.
It means this particular... Oh, you mean the C, whatever, co three.
Nghĩa là cái cụ thể này... À, ý bạn là C, gì đó, co ba.
Well, if this is propagate, right, we can just propagate this signal directly, right? And then it's basically, then, like we talk about, co is generate, right?
Nếu đây là propagate, đúng không, thì ta có thể truyền thẳng tín hiệu này đi, đúng không? Và khi đó, như ta đã nói, co chính là generate, đúng không?
So if there is generate, we just generate directly, right? So if generates, we just generate directly.
Nên nếu có generate, ta chỉ việc generate trực tiếp, đúng không? Nên nếu là generate, ta chỉ việc generate trực tiếp.
And probably, so if it's generate based on the current stage, right, doesn't even matter what's before, right? So that also breaks the dependency, right?
Và có lẽ, nếu nó là generate dựa trên tầng hiện tại, đúng không, thậm chí không quan trọng phía trước là gì, đúng không? Vậy là điều đó cũng phá vỡ sự phụ thuộc, đúng không?
So for each this stage, right? So, so the, the chain is because it also depend on the previous stage, right?
Vậy với mỗi tầng này, đúng không? Chuỗi này tồn tại là vì nó còn phụ thuộc vào tầng trước, đúng không?
But now we actually break the chain, we can actually figure out this independent. Okay, so that's a carry bypass and the carry ripple adder.
Nhưng bây giờ ta phá vỡ chuỗi đó, ta có thể xác định các tầng này một cách độc lập. Okay, đó là bộ cộng carry bypass và bộ cộng carry ripple.
The final one is carry lookahead adder, and I mentioned this one is actually get to the Logical Effort part, right? So let's see how we actually get to the Logical Effort part.
Loại cuối cùng là bộ cộng carry lookahead, và tôi đã nói là loại này sẽ dẫn đến phần Logical Effort, đúng không? Vậy hãy xem ta đi đến phần Logical Effort như thế nào.
So, well, we actually just talked about this, right? So we actually like to rewrite it using the generate, propagate and the kill signal, right? I would literally just discuss this, right?
Thì, ta vừa mới nói về điều này, đúng không? Ta muốn viết lại nó bằng các tín hiệu generate, propagate và kill, đúng không? Tôi vừa mới thảo luận điều này đó, đúng không?
We can actually write it in the generate, propagate, add input signal, right?
Ta có thể viết nó theo các tín hiệu generate, propagate và đầu vào cộng, đúng không?
So we can, using that, we can actually produce our propagate and generate signal directly, and then to get our sum and output, right?
Vậy bằng cách đó, ta có thể tạo trực tiếp các tín hiệu propagate và generate, rồi từ đó có tổng và đầu ra, đúng không?
But so far this is just a rewrite; we still have this chain of dependency, right? Everything actually depends on the previous one, right? So this doesn't actually change this behavior.
Nhưng cho đến giờ đây chỉ là viết lại; ta vẫn còn chuỗi phụ thuộc này, đúng không? Mọi thứ đều phụ thuộc vào cái trước đó, đúng không? Nên điều này không thay đổi hành vi đó.
There's no advantage, but the benefit here is that we can actually expand, we can actually expand this look ahead equations. We have basically nested the computation, right?
Chưa có lợi thế nào, nhưng lợi ích ở đây là ta có thể khai triển, ta có thể khai triển các phương trình lookahead này. Về cơ bản ta đã lồng phép tính vào nhau, đúng không?
So the output is basically a generate and propagate of the previous input; we can rewrite the previous input, again, using the generate and propagate of the input before that, right?
Vậy đầu ra về cơ bản là generate và propagate của đầu vào trước đó; ta có thể viết lại đầu vào trước đó, một lần nữa, bằng generate và propagate của đầu vào trước nữa, đúng không?
We can keep basically doing this rewrite, because the carry at bit K is basically dependent on the generate, propagate at bit K and also generate, propagate at bit K minus one, right?
Ta cứ tiếp tục viết lại như vậy, vì carry tại bit K về cơ bản phụ thuộc vào generate, propagate tại bit K và cả generate, propagate tại bit K trừ một, đúng không?
We just keep doing this expanding; we can get a version where all the carry computation is only dependent on P and the G and the very first carry in, without any of the intermediate chain.
Ta cứ tiếp tục khai triển; ta có thể có một dạng mà mọi phép tính carry chỉ phụ thuộc vào P và G cùng carry vào đầu tiên, không có chuỗi trung gian nào.
So we just keep expanding. It is getting a lot more complex, the equation is getting really longer, and the complexity grows at each bit position, right?
Vậy ta cứ tiếp tục khai triển. Nó ngày càng phức tạp hơn, phương trình ngày càng dài hơn, và độ phức tạp tăng lên ở mỗi vị trí bit, đúng không?
But we can actually get a version that is not dependent on the intermediate carries; it's only the very first carry and then a bunch of propagate and generate signals, and all the propagate and generate signals are only related with input A or B, right?
Nhưng ta có thể có một dạng không phụ thuộc vào các carry trung gian; chỉ có carry đầu tiên và một loạt tín hiệu propagate và generate, và tất cả các tín hiệu propagate và generate chỉ liên quan đến đầu vào A hoặc B, đúng không?
It's not related to carry. So this is another rewrite. So everything is basically input dependent, not actually intermediate carry dependent. But this is still pretty complex, right?
Chúng không liên quan đến carry. Đây là một cách viết lại khác. Vậy mọi thứ về cơ bản phụ thuộc vào đầu vào, chứ không phụ thuộc vào carry trung gian. Nhưng cái này vẫn khá phức tạp, đúng không?
This is a pretty complex function, if we just keep doing that.
Đây là một hàm khá phức tạp nếu ta cứ làm như vậy.
Then the question becomes: okay, now I get your rewrite, you actually get rid of that dependency, but you are also computing a fairly complex equation. How can we actually do this faster?
Vậy câu hỏi là: okay, giờ tôi hiểu cách viết lại của bạn, bạn đã loại bỏ sự phụ thuộc đó, nhưng bạn cũng đang tính một phương trình khá phức tạp. Làm sao ta có thể làm việc này nhanh hơn?
How can we actually compute all the different propagate and generate of each individual stage? Right. So this comes to the idea of actually doing this hierarchically, across different groups.
Làm thế nào để chúng ta thực sự tính tất cả các tín hiệu propagate khác nhau và generate của từng tầng riêng lẻ? Đúng không. Vậy nên ta đi đến ý tưởng thực hiện việc này theo phân cấp, trên các nhóm khác nhau.
So this is basically doing things hierarchically. So we actually group different propagate and generate signals, similar to what we did earlier with carry select.
Tức là về cơ bản ta làm theo kiểu phân cấp. Ta gom các tín hiệu propagate và generate khác nhau thành nhóm, tương tự như những gì ta đã làm trước đó với carry select.
Here we have each individual bit, and we can actually generate this within each group, assuming there's still carry in and carry out coming out.
Ở đây ta có từng bit riêng lẻ, và ta có thể tạo ra các tín hiệu này bên trong mỗi nhóm, giả sử vẫn có carry vào và carry ra.
But each group, let's say four bits or eight bits, or even two bits. So we'll see later that's basically the different radix.
Nhưng mỗi nhóm có thể là bốn bit, tám bit, hoặc thậm chí hai bit. Về sau ta sẽ thấy đó chính là các radix khác nhau.
And then we can actually generate propagate and group generate signals for this group, and that gives us an opportunity of building hierarchy.
Rồi ta có thể tạo ra tín hiệu propagate nhóm và generate nhóm cho nhóm này, và điều đó cho ta cơ hội xây dựng một cấu trúc phân cấp.
So we can actually break this down to build hierarchies, and with hierarchies, we can actually...
Như vậy ta có thể chia nhỏ vấn đề này để xây dựng các tầng phân cấp, và với các tầng phân cấp, ta có thể...
And we'll see that all the different computation is basically associative, and we can use different tree topologies to do that. We'll see that later, but it gives us an opportunity to do this hierarchically.
Ta sẽ thấy toàn bộ phép tính này về cơ bản có tính kết hợp, và ta có thể dùng các cấu trúc cây khác nhau để thực hiện. Ta sẽ xem sau, nhưng nó cho ta cơ hội làm việc này theo phân cấp.
So with that, you would look at what we do is carry-lookahead. Others, we have different inputs. Right.
Như vậy, cái ta làm ở đây là carry-lookahead. Còn lại, ta có các đầu vào khác nhau. Đúng vậy.
Again, this is what we discussed earlier: the complexity of generating the P and the G signals grows with the number of bits, right, as the bit position increases.
Một lần nữa, đây là điều ta đã bàn trước đó: độ phức tạp của việc tạo các tín hiệu P và G tăng theo số bit, đúng không, khi vị trí bit tăng lên.
Later, we have a more complex logic to generate the different propagate and generate signals at the later bit positions; earlier, it's simpler. Right.
Ở các vị trí sau, ta cần logic phức tạp hơn để tạo các tín hiệu propagate và generate; ở các vị trí đầu thì đơn giản hơn. Đúng không.
And then we basically want to speed up this triangle, make this faster.
Và ta muốn tăng tốc hình tam giác này, làm cho nó nhanh hơn.
And the way to do that is basically doing this hierarchical design, where we group this into small groups.
Cách làm là thiết kế theo phân cấp, trong đó ta gom nó thành các nhóm nhỏ.
And then we can actually use the propagate and generate signals at each group to actually do this hierarchically to get the final carry.
Rồi ta dùng các tín hiệu propagate và generate của mỗi nhóm để làm theo phân cấp nhằm có được carry cuối cùng.
Right. So instead of having this chain, we split into propagate and generate signal and that will break it down into smaller components, and within each component this can be done in parallel.
Đúng không. Vì vậy, thay vì có chuỗi này, ta tách thành các tín hiệu propagate và generate và điều đó chia nó thành các thành phần nhỏ hơn, và bên trong mỗi thành phần có thể thực hiện song song.
Right, all of this can be done in parallel. Right.
Đúng, tất cả đều có thể làm song song. Đúng không.
Well, that is basically, we can, instead of doing this linear chain, let me, I'll use a different slide, but instead of doing this linearly, we can actually do this hierarchically to actually reduce the complexity.
Tức là, thay vì làm theo chuỗi tuyến tính này, để tôi dùng một slide khác, thay vì làm tuần tự như vậy, ta có thể làm theo phân cấp để giảm độ phức tạp.
And then we basically generate group propagate and generate signals to get the design that we're interested in. And then we can grow this tree hierarchically. So this is the basic idea.
Rồi ta tạo ra các tín hiệu propagate nhóm và generate nhóm để có được thiết kế mà ta quan tâm. Và sau đó ta có thể mở rộng cây này theo phân cấp. Đó là ý tưởng cơ bản.
Okay, the idea that we want to leverage is this tree for optimization. Right.
Được rồi, ý tưởng mà ta muốn tận dụng là cấu trúc cây này để tối ưu hóa. Đúng không.
So, as long as our operator is associative, instead of doing this one after one, we can actually break it down into different groups, build a hierarchy and then do this more optimally, do this faster.
Miễn là toán tử của ta có tính kết hợp, thay vì làm lần lượt từng bước một, thực ra ta có thể chia nhỏ thành các nhóm khác nhau, xây dựng một cấu trúc phân cấp rồi làm việc này tối ưu hơn, nhanh hơn.
Right.
Đúng không.
So if you remember what we did with this generate and propagate signal, right, we actually break it down to smaller groups and each of the small groups actually happens simultaneously.
Nếu còn nhớ những gì ta đã làm với tín hiệu generate và propagate này, thì ta chia nó thành các nhóm nhỏ hơn và mỗi nhóm nhỏ được xử lý đồng thời.
Right. And then we add hierarchies. So this is basically building a tree structure for our propagate and generate, P and G, signal generation. Right.
Rồi sau đó ta thêm các tầng phân cấp. Như vậy về cơ bản là xây dựng một cấu trúc cây cho việc tạo tín hiệu propagate và generate, tức là P và G. Đúng không.
So before, we have a big, we need to generate a lot of, it's very complex to generate a lot of the signals here. We say we can actually do this hierarchically.
Trước đây ta có một khối lớn, ta cần tạo ra rất nhiều tín hiệu ở đây, và việc đó rất phức tạp. Giờ ta nói rằng có thể làm việc này theo phân cấp.
And once we start doing things hierarchically, we can actually build a log tree to actually reduce the depth of the tree to actually do this faster.
Và khi bắt đầu làm theo phân cấp, ta có thể xây dựng một cây logarit để giảm độ sâu của cây, nhờ đó làm việc này nhanh hơn.
So once we actually start generating those groups in the tree structure, and all of those are only dependent on the input and the bit, they're not dependent on the carry, we can actually construct this tree structure to generate the P and G group, we can reduce the delay.
Vậy khi ta bắt đầu tạo các nhóm đó theo cấu trúc cây, và tất cả chỉ phụ thuộc vào đầu vào và bit, không phụ thuộc vào carry, thì ta có thể xây dựng cấu trúc cây này để tạo nhóm P và G, và giảm được độ trễ.
Well, then this depends on the radix of the tree. Right. So you will have a radix-2 tree, always two inputs, one output. The delay is log n instead of n. Right.
Điều này còn phụ thuộc vào cơ số của cây. Với cây cơ số 2, luôn có hai đầu vào, một đầu ra. Độ trễ là log n thay vì n.
So that's basically the key idea. I'll carry-lookahead adder, and the ways the log is the tree optimization to reduce the depths of critical paths.
Đó chính là ý tưởng chính. Đó là bộ cộng carry-lookahead, và cách dùng logarit là tối ưu hóa dạng cây để giảm độ sâu của các đường tới hạn.
Whenever we get to that. Well, I think I'm going a lot of information. Any questions? Where did I lose you?
Khi nào tới đó thì ta sẽ rõ. Tôi nghĩ mình đang đưa ra khá nhiều thông tin. Có câu hỏi nào không? Các bạn bị lạc ở chỗ nào?
Getting the ideas, getting the ideas, right? We have a lot of what now. Well, first, the first step is to break the dependency using P & G, or break the dependency.
Nắm được ý tưởng rồi chứ? Giờ ta có khá nhiều thứ. Đầu tiên, bước một là phá vỡ sự phụ thuộc bằng P và G, hay nói cách khác là phá vỡ sự phụ thuộc.
We're not dependent on carry, but we still have a lot of things to process. Instead of process linearly, let's process hierarchically, right? Because they are associative, right? We can actually reorder them.
Ta không phụ thuộc vào carry, nhưng vẫn còn nhiều thứ phải xử lý. Thay vì xử lý tuần tự, hãy xử lý theo phân cấp, đúng không? Vì chúng có tính kết hợp, nên ta có thể sắp xếp lại thứ tự.
Let's actually have different subgroups and build a tree to make it faster. So first step, using P & G to get rid of the carry dependency, everything is only dependent on A and B.
Hãy chia thành các nhóm con khác nhau và xây dựng một cây để làm nhanh hơn. Vậy bước một, dùng P và G để loại bỏ sự phụ thuộc vào carry, mọi thứ chỉ phụ thuộc vào A và B.
Second step, using tree-based optimization to reduce by leveraging associativity with other operations, then we can build a tree-based adder or associative reduction to generate P & G, and then the critical paths actually get reduced from n to log n.
Bước hai, dùng tối ưu hóa dựa trên cây để giảm bằng cách tận dụng tính kết hợp với các phép toán khác, khi đó ta có thể xây dựng bộ cộng dạng cây hay phép rút gọn kết hợp để tạo P và G, và đường tới hạn được giảm từ n xuống log n.
Are folks still with me? Kind of, not really. Okay, Ethan.
Mọi người còn theo kịp không? Cũng tạm, không hẳn. Được, Ethan.
Right, so it depends on the radix of the complexity there, like for this one, it's basically two, right? We're doing two, we're combining two there, right?
Vâng, nó phụ thuộc vào cơ số, tức độ phức tạp ở đó, như trường hợp này thì cơ số là hai. Ta đang kết hợp hai đầu vào ở đó, đúng không?
So it depends on complexity, but here, the radix is two, basically always two inputs.
Nó phụ thuộc vào độ phức tạp, nhưng ở đây, cơ số là hai, về cơ bản luôn là hai đầu vào.
If you have four, you need to actually do a four, you have four inputs within blocks, then you have a four to one reduction there. So, Ethan, it's basically this.
Nếu có bốn, thì bạn thực sự phải làm theo bốn, tức là có bốn đầu vào trong các khối, thì ở đó bạn có phép rút gọn bốn về một. Vậy, Ethan, về cơ bản là như thế này.
Right, so this depends on what we mentioned earlier, depends on the complexity, really, how many bits we have, right? So you will have two inputs.
Đúng, nên điều này phụ thuộc vào những gì ta đã nhắc trước đó, thực ra phụ thuộc vào độ phức tạp, tức là ta có bao nhiêu bit, đúng không? Vậy bạn sẽ có hai đầu vào.
Then we have this, you have four inputs, we still have this, so this still needs to be done, But by, we break it down, so that instead of processing k altogether, we're processing, let's say n is a radix, or r is a radix, right, so we're actually processing r simultaneously.
Rồi ở đây, bạn có bốn đầu vào, phần này vẫn còn đó, nên vẫn cần phải làm, Nhưng ta chia nhỏ ra, để thay vì xử lý k đầu vào cùng lúc, ta xử lý, giả sử n là cơ số, hay r là cơ số, đúng không, thì thực ra ta đang xử lý r đầu vào đồng thời.
Right, and then the depth of the tree becomes log_r k, right. Make sense?
Và khi đó độ sâu của cây trở thành log_r k, đúng không. Hiểu chứ?
So, basically, now, it's probably a signal which is the XOR, you have a propagate signal which is the XOR, you have a generate signal which is the AND, at the bit level, you get these two signals by doing single bit.
Vậy, về cơ bản, bây giờ, có lẽ là một tín hiệu chính là phép XOR, bạn có tín hiệu propagate là phép XOR, bạn có tín hiệu generate là phép AND, ở mức bit, bạn có hai tín hiệu này bằng cách xử lý từng bit đơn.
Yes, exactly, exactly.
Vâng, chính xác, chính xác.
However, you can modularize this and sort of create a pool of PNG signals that represent the accumulated PNG of a submodule.
Tuy nhiên, bạn có thể mô-đun hóa phần này và tạo ra một tập hợp các tín hiệu PG biểu diễn PG tích lũy của một mô-đun con.
That's sort of a bitwise input for your health.
Đó coi như là đầu vào theo từng bit cho phần của bạn.
And then, sort of, because it's not dependent on other parts of the tree, only the parts sort of below it, i.e.
Và sau đó, vì nó không phụ thuộc vào các phần khác của cây, mà chỉ phụ thuộc các phần bên dưới nó, tức là xa gốc cây hơn hoặc về phía đông, bạn có thể, vâng, bạn có thể dùng PG như một đầu vào
farther away from the tree or to the east, you can sort of, yeah, you can sort of just use the PNG as a single bit input to the next level of the tree, to the root, at which point you can work with the initial
một bit cho tầng tiếp theo của cây, hướng về gốc, và đến lúc đó bạn có thể làm việc với nhớ ban đầu và mô-đun con cuối cùng.
carry and the final submodule. Yes, the initial carry is available already, right, whatever. The initial carry is available.
Vâng, nhớ ban đầu đã có sẵn rồi, đúng không, sao cũng được. Nhớ ban đầu đã có sẵn.
What's not available is basically this propagate and generate block. Right. And this tree. Well, so that the first is, as you said, break the dependency, so they're not dependent on A and B.
Cái chưa có sẵn về cơ bản là khối propagate và generate này. Đúng. Và cái cây này. Vậy thì điều đầu tiên, như bạn nói, là phá vỡ sự phụ thuộc, để chúng không phụ thuộc vào A và B.
And then this tree optimization is just to get this PNG production, quickly producing this quickly.
Còn việc tối ưu cây này chỉ để tạo ra PG, tạo ra nó thật nhanh.
It's all to get the final carry out. To get the final carry out. Exactly. Then on the side, you have all of the stoppers. Yes.
Tất cả là để có được nhớ ra cuối cùng. Để có được nhớ ra cuối cùng. Chính xác. Rồi ở bên cạnh, bạn có tất cả các bộ còn lại. Vâng.
Yeah, they are also faster. We're only optimizing the critical paths, basically. All the other can be done much faster than this. So this is a critical path that we're optimizing. Yes.
Vâng, chúng cũng nhanh hơn. Về cơ bản ta chỉ tối ưu các đường tới hạn. Tất cả phần còn lại có thể làm nhanh hơn nhiều so với phần này. Vậy đây là đường tới hạn mà ta đang tối ưu. Vâng.
Okay, so that's the adder. I will, I will skip those, but you feel free to take a look at this. Basically, we talked about the different prefixes of different radix of the tree.
Được rồi, vậy đó là bộ cộng. Tôi sẽ bỏ qua những phần đó, nhưng các bạn cứ thoải mái xem qua. Về cơ bản, chúng ta đã nói về các prefix khác nhau với các radix khác nhau của cây.
There can be actually different tree structures, all the different names here, different radix there and different tree structure. As I mentioned earlier, a lot of them can actually be automated.
Thực ra có thể có nhiều cấu trúc cây khác nhau, với đủ các tên gọi ở đây, các radix khác nhau và các cấu trúc cây khác nhau. Như tôi đã đề cập trước đó, rất nhiều trong số chúng thực ra có thể được tự động hóa.
That's the end of today's lecture. Good seeing you, all of you. I'll see you next week.
Đó là phần kết thúc bài giảng hôm nay. Rất vui được gặp tất cả các bạn. Hẹn gặp lại các bạn vào tuần sau.
Đăng nhập để đánh giá học liệu này.
Đăng nhập để bình luận — chưa ai bình luận về học liệu này.
Không có khóa học liên quan.