텐서 코어와 RT 코어란: CUDA 코어와 무엇이 다른가

RTX 그래픽카드 스펙표를 보면 CUDA 코어 외에 텐서 코어, RT 코어라는 항목이 함께 나옵니다. 이름은 비슷하지만 세 가지는 맡은 일이 완전히 다릅니다. 어떤 코어가 무엇을 하는지 알면 DLSS나 레이 트레이싱 같은 기능이 왜 RTX에서만 되는지도 자연스럽게 이해됩니다.

세 가지 코어 한눈에 비교

RTX 그래픽카드 속 세 가지 코어
코어 잘하는 일 게임에서 쓰이는 곳
CUDA 코어 범용 병렬 계산 화면을 그리는 기본 연산(셰이더)
텐서 코어 행렬 계산(AI 연산) DLSS 업스케일링, 프레임 생성
RT 코어 빛의 경로 계산 레이 트레이싱 그림자·반사·조명

CUDA 코어: 화면을 그리는 일꾼

CUDA 코어는 GPU의 기본 연산 장치입니다. 게임 화면의 색, 질감, 명암을 계산하는 셰이더 작업을 수천 개 코어가 나눠 동시에 처리합니다. CUDA라는 이름이 붙은 이유와 소프트웨어 플랫폼 CUDA와의 관계는 CUDA란 무엇인가에서 설명했습니다.

텐서 코어: AI 계산 전용 장치

텐서 코어는 숫자 표(행렬)를 곱하고 더하는 계산에 특화된 장치입니다. AI 모델은 대부분 이런 계산의 반복이라, 텐서 코어가 있으면 같은 작업을 CUDA 코어보다 훨씬 빠르게 처리합니다.

게임에서는 DLSS가 텐서 코어를 씁니다. 낮은 해상도로 그린 화면을 AI 모델로 복원하고, 프레임 생성 기능이 중간 프레임을 만들어 낼 때도 텐서 코어가 일합니다. 게임 밖에서는 이미지 생성 AI나 AI 영상 보정 같은 작업을 가속합니다.

텐서 코어는 세대가 바뀔수록 다룰 수 있는 숫자 형식이 늘었습니다. RTX 50 시리즈의 5세대 텐서 코어는 더 적은 비트로 계산하는 FP4를 지원해 AI 연산 효율이 높아졌습니다.

RT 코어: 빛을 추적하는 장치

레이 트레이싱은 빛이 물체에 부딪히고 반사되는 경로를 실제처럼 계산해 그림자, 반사, 간접 조명을 표현하는 기술입니다. 이 계산의 핵심은 수많은 광선이 화면 속 어떤 물체와 만나는지 찾는 것인데, RT 코어가 이 교차 판정을 전담합니다.

RT 코어가 없는 그래픽카드도 이론상 레이 트레이싱을 계산할 수는 있지만, 너무 느려서 게임에서 쓰기 어렵습니다. RTX라는 이름 자체가 레이 트레이싱(Ray Tracing)에서 왔을 만큼 RTX 시리즈의 상징적인 장치입니다.

세 코어는 함께 일한다

레이 트레이싱 게임에서 코어들이 일하는 순서

레이 트레이싱을 켠 게임을 예로 들면, CUDA 코어가 기본 화면을 그리고, RT 코어가 빛의 경로를 계산하고, 텐서 코어가 레이 트레이싱 화면의 노이즈를 정리하거나 DLSS로 해상도를 복원합니다. 레이 트레이싱이 무거워도 DLSS와 함께 켜면 쓸 만한 프레임이 나오는 이유가 이 분업에 있습니다.

DLSS 모드별 차이와 설정 방법은 DLSS 설정 방법에서 볼 수 있습니다.

스펙표에서 볼 때 주의할 점

텐서 코어와 RT 코어는 세대마다 구조가 달라서, 개수만으로 세대 간 성능을 비교하기 어렵습니다. 엔비디아는 텐서 코어 성능을 AI TOPS라는 수치로 표시하는데, 이 값도 계산 형식(FP4, FP8 등) 기준이 달라질 수 있어 같은 세대끼리 비교할 때 참고하는 것이 안전합니다. 스펙표 읽는 법은 그래픽카드 스펙표에서 진짜 봐야 할 항목에서 더 자세히 다뤘습니다.

댓글 남기기