AI 작업할 때 CPU가 중요한가 — GPU만 보다가 놓치는 것들
GPU만 중요하다고 생각했는데 AI 작업한다고 하면 다들 GPU 이야기만 합니다. VRAM 몇 GB냐, RTX 몇 번이냐. 근데 솔직히 CPU를 완전히 무시하다가 낭패 보는 경우가 꽤 있어요. 제가 그랬습니다. GPU 좋은 거 쓰면 다 해결되겠지 싶었는데, 막상 써보니 데이터 전처리나 모델 로딩 속도에서 CPU 성능 차이가 눈에 띄더라고요. 오늘은 AI 작업에서 CPU가 실제로 어떤 역할을 하는지, 어떤 걸 골라야 하는지 정리해봤습니다. AI 작업에서 CPU가 하는 일 GPU가 연산의 핵심인 건 맞습니다. 행렬 연산, 병렬 처리 — 이건 GPU가 압도적이에요. 근데 CPU가 완전히 빠지는 건 아닙니다. ...