최근 노트북 광고에는 “AI PC”, “NPU 탑재” 같은 문구가 자주 보입니다. 한편 엔비디아는 RTX 그래픽카드가 들어간 PC를 RTX AI PC라고 부릅니다. 둘 다 AI를 빠르게 처리한다는데, NPU와 GPU는 역할이 꽤 다릅니다.
NPU는 저전력 AI 전용 장치
NPU(Neural Processing Unit)는 AI 연산만을 위해 CPU 칩 안에 넣은 작은 장치입니다. 전력을 아주 적게 쓰면서 가벼운 AI 작업을 계속 처리하는 데 강합니다. 화상 통화 배경 흐림, 소음 제거, 실시간 자막 같은 기능이 대표적입니다. 마이크로소프트는 Copilot+ PC 기준으로 40 TOPS 이상의 NPU를 요구합니다.
GPU는 큰 AI 작업에 강하다
그래픽카드 GPU는 수천 개의 코어와 텐서 코어로 훨씬 큰 AI 연산을 처리합니다. 전력은 많이 쓰지만 성능 차이가 큽니다. 예를 들어 엔비디아는 RTX 5090 노트북 GPU의 AI 성능을 1,824 AI TOPS로 발표했습니다. 이미지 생성, 영상 보정, 로컬 언어 모델 실행처럼 무거운 작업은 GPU 쪽이 유리합니다.
한눈에 비교
| 항목 | NPU | GPU(RTX) |
|---|---|---|
| 위치 | CPU 칩 안 | 그래픽카드(또는 노트북 GPU) |
| 전력 | 매우 낮음 | 높음 |
| AI 성능 규모 | 수십 TOPS | 수백~수천 AI TOPS |
| 잘하는 일 | 배경 흐림, 소음 제거 등 상시 기능 | 이미지 생성, 로컬 LLM, 영상 보정, DLSS |
TOPS 수치는 측정 기준(연산 정밀도 등)이 제품마다 다를 수 있어 서로 다른 회사 제품을 단순 비교하기는 어렵습니다.
어떤 PC를 골라야 할까
- 문서 작업, 화상 회의 위주: NPU가 있는 노트북이면 배터리를 아끼며 AI 기능을 쓸 수 있습니다.
- 이미지 생성, 로컬 AI, 게임까지: RTX GPU가 들어간 PC가 필요합니다. 필요한 VRAM은 내 PC에서 AI 돌리려면 VRAM 얼마나 필요할까에서 계산해 볼 수 있습니다.
두 장치는 경쟁 관계라기보다 역할 분담에 가깝습니다. 한 PC에 NPU와 RTX GPU가 함께 있으면 가벼운 작업은 NPU가, 무거운 작업은 GPU가 맡게 됩니다. 텐서 코어의 역할은 텐서 코어와 RT 코어란에서 설명했습니다.