시작하며 솔직히 말하면, AI가 대단하다는 건 알겠는데 “내 생활이랑 무슨 상관이지?” 하는 생각이 있었습니다. 그런데 올해 들어서 직접 이것저것 써보니까, 진짜 생활이 달라지더라고요. 오늘은 제가 직접 경험한 것들 위주로 정리해보려고 합니다. 1. 글쓰기가 편해졌다 블로그 글을 쓸 때 초안 잡는 게 제일 귀찮았는데, AI한테 “이런 주제로 뼈대 좀 잡아줘"라고 하면 5분 만에 나옵니다. 물론 그대로 쓰면 안 되고 제 경험이랑 생각을 넣어서 다시 써야 하지만, 백지에서 시작하는 것보다 훨씬 낫습니다. ...
왜 RTX 5070을 골랐나 AI 관련 작업을 하다 보면 GPU가 필수인데, RTX 4090은 너무 비싸고 RTX 4070은 VRAM이 아쉬웠습니다. 그러다 RTX 5070이 나왔길래 바로 구매해서 한 달 정도 써봤습니다. 오늘은 AI 작업 기준으로 솔직한 후기를 남겨봅니다. 기본 스펙 정리 항목 RTX 5070 VRAM 12GB GDDR7 CUDA 코어 6144개 TDP 250W 출시가 약 80만원대 AI 작업 성능 Stable Diffusion 이미지 생성 속도가 RTX 4070 대비 확실히 빨라졌습니다. 512x512 기준으로 약 30% 정도 빠른 체감입니다. 다만 VRAM 12GB라서 고해상도 이미지를 대량으로 뽑을 때는 가끔 메모리 부족이 뜹니다. ...
들어가며 “AI 공부하려면 노트북 스펙이 어느 정도 되어야 해요?” 라는 질문을 주변에서 많이 받습니다. 저도 처음에 뭘 기준으로 봐야 할지 몰라서 한참 찾아봤는데, 그때 정리해둔 내용을 공유합니다. 가장 중요한 건 GPU AI 작업에서 CPU보다 GPU가 훨씬 중요합니다. 특히 NVIDIA GPU가 거의 필수입니다. AMD나 Intel GPU도 발전하고 있지만, 대부분의 AI 프레임워크가 NVIDIA CUDA에 최적화되어 있어서 호환성 면에서 NVIDIA가 압도적입니다. VRAM이 핵심 GPU에서도 가장 중요한 건 VRAM 용량입니다. 8GB — AI 입문, 간단한 모델 학습 가능 12GB — 중급 작업까지 무난 16GB 이상 — 큰 모델도 돌릴 수 있음 VRAM이 부족하면 아예 실행이 안 되는 경우가 많아서, 나중에 후회하지 않으려면 넉넉한 게 좋습니다. ...
왜 클라우드 GPU인가 AI 모델을 학습시키려면 좋은 GPU가 필요한데, 좋은 GPU를 사려면 부담이 큽니다. 자주 쓰지 않는다면 클라우드에서 빌려 쓰는 게 더 합리적일 수 있습니다. 주요 서비스들을 직접 써보고 느낀 점을 정리해봤습니다. Google Colab 가장 접근하기 쉬운 서비스입니다. 구글 계정만 있으면 바로 쓸 수 있고, Jupyter Notebook 환경이라 AI 공부할 때 편합니다. 좋은 점 무료 플랜으로도 기본적인 AI 작업 가능 설정할 게 거의 없어서 초보자 친화적 구글 드라이브랑 연동이 편함 아쉬운 점 ...
로컬 LLM이 뭔데? ChatGPT나 Claude 같은 AI는 인터넷으로 서버에 접속해서 쓰는 방식입니다. 반면 로컬 LLM은 내 컴퓨터에 AI 모델을 직접 설치해서 실행하는 겁니다. 인터넷 없이도 되고, 내 데이터가 외부로 나가지 않아서 보안이 좋습니다. 왜 해봤나 회사에서 쓸 때 보안 이슈로 ChatGPT에 코드를 못 넣는 경우가 있었습니다. 그래서 로컬에서 돌릴 수 있는 방법을 찾다가 시작했습니다. Ollama로 시작하기 여러 방법이 있는데, 제일 쉬운 건 Ollama입니다. 설치도 간단하고 명령어 몇 줄이면 바로 AI랑 대화할 수 있습니다. ...
VRAM이 뭐야? VRAM은 Video RAM의 줄임말로, GPU(그래픽카드)에 달린 전용 메모리입니다. 컴퓨터의 일반 RAM이 CPU가 쓰는 메모리라면, VRAM은 GPU가 쓰는 메모리입니다. GPU가 작업할 때 필요한 데이터를 여기에 올려놓고 씁니다. 쉽게 비유하면 GPU = 요리사 VRAM = 조리대 일반 RAM = 냉장고 요리사(GPU)가 요리(연산)를 하려면 재료를 조리대(VRAM)에 올려놓아야 합니다. 조리대가 좁으면 재료를 다 올려놓지 못해서 냉장고(RAM)에서 왔다갔다 해야 하고, 그만큼 느려집니다. 조리대가 넓으면? 재료를 한 번에 펼쳐놓고 빠르게 요리할 수 있습니다. 게임할 때 VRAM 게임에서 VRAM은 주로 **텍스처(그래픽 데이터)**를 저장합니다. ...
SSD가 뭔지는 알겠는데 HDD보다 빠른 저장장치라는 건 다들 아실 겁니다. 근데 SSD를 사려고 보면 SATA, NVMe, PCIe, M.2 같은 용어가 쏟아져서 헷갈립니다. 저도 처음에 많이 헷갈렸는데, 정리하고 나니까 별거 아니었습니다. 핵심 개념 2가지 SSD를 이해하려면 딱 2가지만 알면 됩니다. 1. 폼팩터 (물리적 모양) SSD의 생긴 모양입니다. 2.5인치 — 옛날 HDD 크기, 케이블로 연결 M.2 — 얇고 긴 막대 모양, 메인보드에 직접 꽂음 요즘 데스크탑/노트북은 거의 M.2 슬롯이 있어서, M.2가 대세입니다. ...
AI로 코딩하는 시대 솔직히 2년 전만 해도 AI가 코딩을 도와준다는 게 어색했는데, 지금은 AI 없이 코딩하면 뭔가 허전합니다. 그만큼 생산성 차이가 큽니다. 요즘 대표적인 AI 코딩 도구 3가지를 직접 써본 후기를 공유합니다. GitHub Copilot 가장 먼저 나온 AI 코딩 어시스턴트입니다. VS Code에 플러그인으로 설치하면 코드를 치다가 자동으로 다음 줄을 제안해줍니다. 좋은 점 자동 완성이 자연스러움 — 코드 흐름을 잘 파악해서 다음에 올 코드를 꽤 정확하게 예측 VS Code 통합이 완벽 — 별도 설정 없이 바로 작동 반복 작업에 강함 — 비슷한 패턴의 코드를 쓸 때 시간을 많이 아껴줌 아쉬운 점 복잡한 로직은 부족 — 간단한 코드는 잘하는데 복잡한 알고리즘은 틀릴 때가 많음 맥락 파악 한계 — 프로젝트 전체를 이해하고 제안하는 건 아직 부족 가끔 엉뚱한 제안 — Tab 키를 무심코 누르면 이상한 코드가 들어갈 때도 있음 Cursor VS Code를 포크해서 AI 기능을 강화한 에디터입니다. 에디터 자체가 AI 중심으로 설계되어 있어서 경험이 다릅니다. ...
USB가 원래 이렇게 복잡했나 USB는 Universal Serial Bus의 약자로, 원래 “하나로 통일하자"는 취지에서 만들어졌습니다. 근데 지금은 USB-A, USB-C, USB 2.0, 3.0, 3.1, 3.2, 4.0, 썬더볼트… 오히려 더 복잡해졌습니다. 저도 케이블 살 때마다 헷갈려서, 한 번 정리해봤습니다. 먼저 모양(커넥터)과 속도(규격)를 구분하자 헷갈리는 이유는 모양과 속도가 별개이기 때문입니다. 모양 (커넥터 타입) USB-A — 우리가 아는 직사각형 USB. 방향 맞춰서 꽂아야 함 USB-C — 양면 다 되는 타원형. 요즘 표준 Micro USB — 예전 안드로이드 폰 충전 단자. 이제 거의 안 씀 속도 (규격 버전) 규격 최대 속도 쉬운 이름 USB 2.0 480Mbps 느림 USB 3.0 (3.2 Gen1) 5Gbps 보통 USB 3.1 (3.2 Gen2) 10Gbps 빠름 USB 3.2 Gen2x2 20Gbps 매우 빠름 USB4 40Gbps 최고 이름이 계속 바뀌어서 짜증나는데, USB-IF(규격 관리 단체)가 이름을 여러 번 변경한 탓입니다. USB 3.0이 갑자기 USB 3.2 Gen1로 이름이 바뀌는 식이라 혼란스럽습니다. ...
엣지 AI란? AI 하면 보통 클라우드를 떠올립니다. 내가 질문을 보내면 서버에서 처리해서 답변을 돌려주는 방식이죠. 엣지 AI는 반대입니다. 서버로 보내지 않고 내 기기(스마트폰, PC, IoT 장치 등)에서 직접 AI를 실행하는 겁니다. 왜 갑자기 주목받나 1. 개인정보 보호 데이터가 외부 서버로 나가지 않으니까 보안이 좋습니다. 의료, 금융 같은 민감한 분야에서 특히 중요합니다. 2. 응답 속도 서버까지 데이터를 보내고 받는 시간이 없으니까 빠릅니다. 자율주행차에서 0.1초가 중요한 것처럼, 실시간 처리가 필요한 곳에서 필수입니다. ...