왜 RTX 5070을 골랐나 AI 관련 작업을 하다 보면 GPU가 필수인데, RTX 4090은 너무 비싸고 RTX 4070은 VRAM이 아쉬웠습니다. 그러다 RTX 5070이 나왔길래 바로 구매해서 한 달 정도 써봤습니다. 오늘은 AI 작업 기준으로 솔직한 후기를 남겨봅니다. 기본 스펙 정리 항목 RTX 5070 VRAM 12GB GDDR7 CUDA 코어 6144개 TDP 250W 출시가 약 80만원대 AI 작업 성능 Stable Diffusion 이미지 생성 속도가 RTX 4070 대비 확실히 빨라졌습니다. 512x512 기준으로 약 30% 정도 빠른 체감입니다. 다만 VRAM 12GB라서 고해상도 이미지를 대량으로 뽑을 때는 가끔 메모리 부족이 뜹니다. ...
들어가며 “AI 공부하려면 노트북 스펙이 어느 정도 되어야 해요?” 라는 질문을 주변에서 많이 받습니다. 저도 처음에 뭘 기준으로 봐야 할지 몰라서 한참 찾아봤는데, 그때 정리해둔 내용을 공유합니다. 가장 중요한 건 GPU AI 작업에서 CPU보다 GPU가 훨씬 중요합니다. 특히 NVIDIA GPU가 거의 필수입니다. AMD나 Intel GPU도 발전하고 있지만, 대부분의 AI 프레임워크가 NVIDIA CUDA에 최적화되어 있어서 호환성 면에서 NVIDIA가 압도적입니다. VRAM이 핵심 GPU에서도 가장 중요한 건 VRAM 용량입니다. 8GB — AI 입문, 간단한 모델 학습 가능 12GB — 중급 작업까지 무난 16GB 이상 — 큰 모델도 돌릴 수 있음 VRAM이 부족하면 아예 실행이 안 되는 경우가 많아서, 나중에 후회하지 않으려면 넉넉한 게 좋습니다. ...
왜 클라우드 GPU인가 AI 모델을 학습시키려면 좋은 GPU가 필요한데, 좋은 GPU를 사려면 부담이 큽니다. 자주 쓰지 않는다면 클라우드에서 빌려 쓰는 게 더 합리적일 수 있습니다. 주요 서비스들을 직접 써보고 느낀 점을 정리해봤습니다. Google Colab 가장 접근하기 쉬운 서비스입니다. 구글 계정만 있으면 바로 쓸 수 있고, Jupyter Notebook 환경이라 AI 공부할 때 편합니다. 좋은 점 무료 플랜으로도 기본적인 AI 작업 가능 설정할 게 거의 없어서 초보자 친화적 구글 드라이브랑 연동이 편함 아쉬운 점 ...
VRAM이 뭐야? VRAM은 Video RAM의 줄임말로, GPU(그래픽카드)에 달린 전용 메모리입니다. 컴퓨터의 일반 RAM이 CPU가 쓰는 메모리라면, VRAM은 GPU가 쓰는 메모리입니다. GPU가 작업할 때 필요한 데이터를 여기에 올려놓고 씁니다. 쉽게 비유하면 GPU = 요리사 VRAM = 조리대 일반 RAM = 냉장고 요리사(GPU)가 요리(연산)를 하려면 재료를 조리대(VRAM)에 올려놓아야 합니다. 조리대가 좁으면 재료를 다 올려놓지 못해서 냉장고(RAM)에서 왔다갔다 해야 하고, 그만큼 느려집니다. 조리대가 넓으면? 재료를 한 번에 펼쳐놓고 빠르게 요리할 수 있습니다. 게임할 때 VRAM 게임에서 VRAM은 주로 **텍스처(그래픽 데이터)**를 저장합니다. ...
게임은 경쟁하는데 AI는 왜? 게임 GPU 시장에서 NVIDIA와 AMD는 치열하게 경쟁합니다. 세대에 따라 AMD가 앞서기도 하고, 가성비로는 AMD가 나을 때도 있습니다. 그런데 AI 분야에서는 NVIDIA가 압도적입니다. 시장 점유율이 80% 이상이라고 합니다. 왜 이런 차이가 날까요? 이유 1: CUDA 생태계 가장 큰 이유입니다. CUDA는 NVIDIA가 만든 GPU 프로그래밍 플랫폼입니다. AI/딥러닝의 핵심 프레임워크인 PyTorch, TensorFlow가 CUDA 기반으로 만들어졌습니다. 10년 넘게 CUDA 위에서 발전해온 거라, 최적화 수준이 다릅니다. AMD에도 ROCm이라는 대응 플랫폼이 있지만: ...