GPU

GPU는 비슷한 계산 수천 개를 한꺼번에 처리하는 칩이에요. Graphics Processing Unit 의 줄임말이고, 원래는 화면에 그림을 그리려고 만들었어요. CPU가 무엇이든 잘하는 요리사 몇 명이라면, GPU는 같은 동작을 동시에 하는 일꾼 수천 명이에요. 그래서 게임 화면, 영상 편집, AI 그림·영상 만들기에 많이 써요.

GPU는 어떻게 일하나요?

모니터 화면은 작은 점(픽셀)으로 이루어져 있어요. 1920×1080 화면이면 점이 약 207만 개예요. 점마다 색을 정하는 계산은 서로 비슷해요. 그래서 수천 개 일꾼에게 나눠 주고 동시에 처리하면 빨라요.

AI도 비슷해요. AI 모델은 아주 큰 숫자 표끼리 곱하고 더하는 일을 끝없이 되풀이해요. 하나하나는 쉬운 계산이지만 양이 엄청나요. 그래서 그래픽용으로 만든 GPU가 AI 계산의 주인공이 됐어요.

CPU와 뭐가 달라요?

엔비디아의 CUDA 프로그래밍 안내서도 같은 차이를 설명해요. CPU는 한 줄의 작업을 최대한 빨리 끝내도록 만들고, 동시에 수십 줄을 다뤄요. GPU는 수천 줄을 동시에 돌리도록 만들고, 칩의 더 많은 부분을 계산에 써요.

그렇다고 GPU가 CPU를 대신하지는 않아요. 프로그램의 흐름을 잡고 일을 나눠 맡기는 건 여전히 CPU예요. GPU는 맡겨진 큰 계산을 빠르게 해내는 쪽이에요.

그래픽카드와 VRAM은 무엇인가요?

흔히 GPU와 그래픽카드를 같은 뜻으로 써요. 정확히는 GPU가 칩이고, 그래픽카드는 그 칩을 담은 완제품이에요. 그래픽카드에는 GPU 전용 메모리인 VRAM 이 붙어 있어요.

VRAM은 GPU의 작업대예요. RAM이 CPU의 작업대인 것과 같아요. AI 모델은 VRAM에 통째로 올라가야 빠르게 돌아요. 그래서 큰 AI 모델일수록 VRAM이 큰 GPU가 필요해요.

내 GPU는 어떻게 확인하나요?

2026년 10월 29일 밤, 사무실 PC에서 직접 확인했어요. 이 PC에는 엔비디아 RTX PRO 6000 Blackwell 워크스테이션 카드가 달려 있어요. 엔비디아 그래픽카드는 드라이버를 깔면 같이 들어오는 nvidia-smi 로 상태를 볼 수 있어요.

> nvidia-smi --query-gpu=name,memory.total,memory.used,utilization.gpu --format=csv
name, memory.total [MiB], memory.used [MiB], utilization.gpu [%]
NVIDIA RTX PRO 6000 Blackwell Workstation Edition, 97887 MiB, 32677 MiB, 4 %

VRAM 전체는 97,887MiB(약 95.6GiB)로 나왔어요. 엔비디아 제품 페이지에 적힌 사양은 96GB GDDR7 이에요. 확인할 때 다른 AI 작업이 VRAM 약 32GB를 이미 쓰고 있었어요. GPU 사용률은 4%였어요. Windows라면 작업 관리자의 성능 탭에서 GPU를 눌러도 볼 수 있어요.

컨테이너 안에서는 GPU가 보일까요?

$ docker run --rm ubuntu:24.04 nvidia-smi -L
bash: line 1: nvidia-smi: command not found

$ docker run --rm --gpus all ubuntu:24.04 nvidia-smi -L
GPU 0: NVIDIA RTX PRO 6000 Blackwell Workstation Edition (UUID: GPU-xxxx…)

같은 PC인데 그냥 띄운 컨테이너에서는 GPU가 없었어요. --gpus all 을 붙이자 GPU가 보였어요. 컨테이너나 가상서버는 GPU를 일부러 연결해 줘야 쓸 수 있어요. 고유 번호(UUID)는 가렸어요.

자주 하는 오해

"GPU가 좋으면 컴퓨터가 전부 빨라져요"

문서 작업, 웹서버, 데이터베이스는 주로 CPU와 RAM, 저장장치를 써요. GPU가 빨라지는 건 GPU에 맡기는 일뿐이에요.

"RAM을 늘리면 VRAM도 늘어나요"

외장 그래픽카드의 VRAM은 카드에 붙어 있어요. 컴퓨터 RAM을 늘려도 VRAM은 그대로예요.

"AI 그림을 만들려면 비싼 GPU부터 사야 해요"

직접 모델을 돌리려면 VRAM이 큰 GPU가 필요해요. 하지만 그림 몇 장이 필요하다면 클라우드의 GPU를 API로 빌려 쓰고 쓴 만큼만 낼 수도 있어요.

퓨쳐인프라에서는

퓨쳐인프라에서는 GPU를 직접 빌리지 않아도 AI 이미지·영상을 API로 만들 수 있어요. 요청을 보내면 클라우드 GPU에서 작업이 돌고, 끝나면 결과를 받아요. 요금은 쓴 만큼 나가요. AI 라우터에서는 300종이 넘는 모델을 골라 쓸 수 있어요. 무료로 쓸 수 있는 방법은 무료 AI 이미지 글, 가격 비교는 AI 이미지 비용 글에 정리했어요.

자주 묻는 질문

GPU 사용률은 어떻게 봐요?

엔비디아 카드라면 nvidia-smi 를 치면 사용률과 VRAM 사용량이 나와요. Windows는 작업 관리자의 성능 탭에서 GPU를 누르면 돼요.

내장 그래픽과 외장 그래픽카드는 뭐가 달라요?

내장 그래픽은 CPU 안에 든 작은 GPU라서 컴퓨터 RAM을 나눠 써요. 외장 그래픽카드는 따로 꽂는 부품이고 전용 VRAM이 있어요. 게임, 영상, AI 계산은 보통 외장 카드가 훨씬 빨라요.

VRAM은 얼마나 있어야 해요?

돌리려는 프로그램이나 AI 모델마다 달라요. 모델 설명서에 적힌 권장 VRAM을 먼저 보세요. VRAM이 모자라면 아예 실행이 안 되거나 크게 느려져요.

CPU만으로 AI를 돌릴 수 있어요?

작은 모델은 CPU로도 돌아가요. 다만 같은 일을 GPU보다 훨씬 오래 걸려서 해요. 큰 모델이나 그림·영상 생성은 GPU를 쓰는 게 보통이에요.

관련 용어

CPU · RAM · 생성형 AI · LLM · 멀티모달 · 컨테이너 · 무료 AI 이미지