NPU là gì? Tại sao lại cần phải có NPU?

05/02/2024

Công nghệ A.I đang dần phát triển mạnh mẽ hơn trong những năm gần đây. Bên cạnh sự phát triển của bản thân A.I thì chính phần cứng cũng góp phần tạo nên thành quả của nó. Trong số đó là NPU đang được phát triển trên các thiết bị mới góp phần hỗ trợ tốt hơn cho các thiết bị sử dụng A.I. Cùng LaptopVIP tìm hiểu về NPU qua bài viết sau nhé!

NPU là gì và tại sao nó lại cần thiết?

NPU là gì?

NPU, viết tắt của Neural Processing Unit, là một chip AI được thiết kế để thực hiện các tác vụ AI nhanh hơn so với GPU (Graphics Processing Units) và CPU (Computer Processing Units). NPU giảm một phần tải trên GPU và CPU bằng cách thực hiện các quy trình nhỏ và lặp đi lặp lại để máy tính có thể hoạt động hiệu quả hơn khi thực hiện các yêu cầu dựa trên AI.

Tại sao NPU lại cần thiết?

NPU được tối ưu hóa để xử lý các phép toán ma trận phức tạp, điều này là rất quan trọng cho các thuật toán học sâu. Ví dụ, NPU có thể giúp giữ cho GPU và CPU của máy tính hoạt động hiệu quả bằng cách chăm sóc việc làm mờ nền trong cuộc gọi video hoặc phát hiện đối tượng trong chỉnh sửa video hoặc hình ảnh, do đó giải phóng CPU và GPU để xử lý các tác vụ khác.

NPU, GPU và CPU đều quan trọng cho hoạt động tổng thể của máy tính nhưng được thiết kế để xử lý các tác vụ hiển thị và tính toán khác nhau. NPU được thiết kế để làm việc nhanh hơn với các tác vụ AI ngắn và lặp đi lặp lại, chẳng hạn như làm việc với trợ lý AI. Nói cách khác, một NPU sẽ giảm bớt một số công việc của GPU để GPU có thể tập trung vào các tác vụ lớn hơn được giao cho nó, và hệ thống có thể hoạt động hiệu quả hơn tổng thể.

NPU là gì? Tại sao lại cần phải có NPU?

Giữa CPU, GPU và NPU có gì khác nhau?

1. CPU: Đây là bộ xử lý trung tâm của máy tính, thực hiện các lệnh và thực hiện các tác vụ tính toán tổng quát. CPU được biết đến với khả năng linh hoạt và có thể xử lý nhiều tác vụ khác nhau.

2. GPU: Ban đầu được thiết kế để render đồ họa, GPU đã phát triển để xuất sắc trong việc xử lý song song. GPU lý tưởng cho các tác vụ liên quan đến các phép tính toán học nặng, như render đồ họa và trí tuệ nhân tạo (AI).

3. NPU: Được thiết kế cụ thể cho các tác vụ AI và học máy (ML). NPU sử dụng mạng nơ-ron để tăng tốc các thuật toán học sâu. NPU là chìa khóa để đạt được những tiến bộ đáng kể trong các ứng dụng dựa trên AI.

Các điểm khác biệt chính giữa NPU, CPU và GPU

- Hiệu suất và hiệu quả: NPU thực hiện các tác vụ AI nhanh hơn GPU và CPU. Điều này giảm một phần tải trên GPU và CPU bằng cách thực hiện các quy trình nhỏ và lặp đi lặp lại để máy tính có thể hoạt động hiệu quả hơn khi thực hiện các yêu cầu dựa trên AI.

- Chuyên môn hóa: Trong khi CPU xử lý một loạt các tác vụ và GPU xuất sắc trong việc render đồ họa chi tiết, NPU chuyên về việc thực hiện các tác vụ dựa trên AI một cách nhanh chóng. Sự chuyên môn hóa này đảm bảo rằng không có bộ xử lý nào bị quá tải, duy trì hoạt động mượt mà trên toàn hệ thống.

- Tích hợp bộ nhớ và tính toán: So với CPU và GPU, NPU tích hợp bộ nhớ và tính toán thông qua trọng số synapse, do đó cải thiện hiệu quả hoạt động. Bộ xử lý CPU và GPU cần sử dụng hàng ngàn lệnh để hoàn thành việc xử lý nơ-ron.

Những CPU nào có tích hợp NPU?

NPU là gì? Tại sao lại cần phải có NPU?

Có một số CPU đã tích hợp NPU để tăng cường khả năng xử lý AI. Dưới đây là một số ví dụ:

1. Intel: Dòng chip "Meteor Lake" của Intel sẽ có NPU đầu tiên của họ, được thiết kế để chạy các chương trình AI một cách hiệu quả. Trong thời điểm hiện tại, Intel có các CPU sau được tích hợp sẵn NPU:

Intel Core Ultra 9 processor 185H (24M Cache, up to 5.10 GHz)
Intel Core Ultra 5 processor 134U (12M Cache, up to 4.40 GHz)
Intel Core Ultra 7 processor 164U (12M Cache, up to 4.80 GHz)
Intel Core Ultra 5 processor 125H (18M Cache, up to 4.50 GHz)
Intel Core Ultra 7 processor 155H (24M Cache, up to 4.80 GHz)
Intel Core Ultra 5 processor 135H (18M Cache, up to 4.60 GHz)
Intel Core Ultra 7 processor 165H (24M Cache, up to 5.00 GHz)
Intel Core Ultra 5 processor 115U (10M Cache, up to 4.20 GHz)
Intel Core Ultra 7 processor 155U (12M Cache, up to 4.80 GHz)
Intel Core Ultra 7 processor 165U (12M Cache, up to 4.90 GHz)
Intel Core Ultra 5 processor 135U (12M Cache, up to 4.40 GHz)
Intel Core Ultra 5 processor 125U (12M Cache, up to 4.30 GHz)

2. AMD: AMD đã giới thiệu dòng Ryzen 8000G Series có tích hợp NPU, bao gồm:

AMD Ryzen 9 8945HS 5.2GHz 8 Cores 16 Threads 35-54W Radeon 780M
AMD Ryzen 7 8845HS 5.1GHz 8 Cores 16 Threads 35-54W Radeon 780M
AMD Ryzen 7 8840HS 5.1GHz 8 Cores 16 Threads 20-30W Radeon 780M
AMD Ryzen 7 8840U 5.1GHz 8 Cores 16 Threads 15-30W Radeon 780M
AMD Ryzen 5 8645HS 5.0GHz 6 Cores 12 Threads 35-54W Radeon 760M
AMD Ryzen 5 8640HS 4.9GHz 6 Cores 12 Threads 20-30W Radeon 760M
AMD Ryzen 5 8640U 4.9GHz 6 Cores 12 Threads 15-30W Radeon 760M

3. NXP: Hãng NXP đã giới thiệu eIQ Neutron, một NPU được thiết kế để cải thiện hiệu suất và hiệu quả năng lượng cho các ứng dụng học máy.

Lưu ý, thông tin cụ thể về các CPU có tích hợp NPU có thể thay đổi theo thời gian và tùy thuộc vào từng nhà sản xuất. Do đó, bạn nên kiểm tra thông tin mới nhất từ trang web của nhà sản xuất hoặc từ các nguồn tin cậy khác.