게임은 경쟁하는데 AI는 왜?

게임 GPU 시장에서 NVIDIA와 AMD는 치열하게 경쟁합니다. 세대에 따라 AMD가 앞서기도 하고, 가성비로는 AMD가 나을 때도 있습니다.

그런데 AI 분야에서는 NVIDIA가 압도적입니다. 시장 점유율이 80% 이상이라고 합니다. 왜 이런 차이가 날까요?

이유 1: CUDA 생태계

가장 큰 이유입니다. CUDA는 NVIDIA가 만든 GPU 프로그래밍 플랫폼입니다.

AI/딥러닝의 핵심 프레임워크인 PyTorch, TensorFlow가 CUDA 기반으로 만들어졌습니다. 10년 넘게 CUDA 위에서 발전해온 거라, 최적화 수준이 다릅니다.

AMD에도 ROCm이라는 대응 플랫폼이 있지만:

  • 지원하는 GPU 모델이 제한적
  • 호환성 문제가 아직 있음
  • 커뮤니티와 문서가 CUDA에 비해 부족

코드 한 줄 바꾸면 되는 문제가 아니라, 생태계 전체의 차이입니다.

이유 2: 텐서 코어

NVIDIA GPU에는 **텐서 코어(Tensor Core)**라는 AI 전용 연산 유닛이 있습니다. 행렬 연산(AI의 핵심 계산)에 특화되어 있어서, 일반 GPU 코어보다 AI 작업이 훨씬 빠릅니다.

AMD GPU에는 이에 대응하는 Matrix Core가 있지만, 소프트웨어 최적화가 NVIDIA만큼 되어있지 않습니다.

이유 3: 소프트웨어 스택

NVIDIA는 GPU 하드웨어뿐 아니라 소프트웨어도 잘 만들어놨습니다.

  • cuDNN — 딥러닝 연산 최적화 라이브러리
  • TensorRT — 모델 추론(실행) 최적화
  • NCCL — 멀티 GPU 통신 최적화
  • Triton — 모델 서빙 서버

이런 소프트웨어들이 NVIDIA GPU에서만 돌아가고, 성능에 큰 영향을 줍니다. AMD가 하드웨어 스펙은 비슷하게 맞춰도, 이 소프트웨어 차이를 따라잡기가 어렵습니다.

이유 4: 먼저 시작한 자의 이점

NVIDIA는 2012년 AlexNet이 GPU로 이미지 인식을 혁신했을 때부터 AI에 투자해왔습니다. 10년 넘게 쌓아온 생태계를 AMD가 하루아침에 따라잡기는 어렵습니다.

연구자들도 NVIDIA에 익숙하고, 논문도 NVIDIA GPU 기준으로 나오고, 튜토리얼도 NVIDIA 기준입니다. 이런 관성이 강력합니다.

AMD도 변하고 있다

AMD도 가만히 있는 건 아닙니다.

  • MI300X — 데이터센터용 AI GPU, VRAM 192GB로 주목받음
  • ROCm 개선 — PyTorch 공식 지원 확대
  • 가성비 — NVIDIA보다 저렴한 옵션 제공

특히 MI300X는 VRAM이 엄청나게 많아서, 큰 AI 모델을 올리는 데 유리합니다. 일부 기업에서 NVIDIA 대안으로 도입하는 사례가 나오고 있습니다.

일반 사용자에게는?

솔직히 일반 사용자가 AI 작업을 한다면 NVIDIA를 고르는 게 정신건강에 좋습니다.

이유:

  • 설치가 쉬움 (CUDA 설치하면 대부분 바로 됨)
  • 에러가 나면 검색해서 해결하기 쉬움 (사용자가 많으니까)
  • 거의 모든 AI 도구가 NVIDIA에서 잘 작동

AMD GPU로 AI를 하려면 삽질 시간이 추가됩니다. 그 시간에 공부를 더 하는 게 낫습니다.

마치며

NVIDIA의 AI 분야 우위는 하드웨어보다 소프트웨어 생태계 때문입니다. AMD가 하드웨어로 따라잡아도 CUDA 생태계를 대체하는 건 쉽지 않습니다.

하지만 독점은 좋지 않으니, AMD가 계속 도전해서 경쟁이 일어나길 바랍니다. 경쟁이 있어야 소비자한테 좋으니까요.