왜 클라우드 GPU인가 AI 모델을 학습시키려면 좋은 GPU가 필요한데, 좋은 GPU를 사려면 부담이 큽니다. 자주 쓰지 않는다면 클라우드에서 빌려 쓰는 게 더 합리적일 수 있습니다. 직접 GPU를 구입할 계획이라면 GPU VRAM이 왜 중요한지부터 알아두세요. 주요 서비스들을 직접 써보고 느낀 점을 정리해봤습니다. Google Colab 가장 접근하기 쉬운 서비스입니다. 구글 계정만 있으면 바로 쓸 수 있고, Jupyter Notebook 환경이라 AI 공부할 때 편합니다. 좋은 점 무료 플랜으로도 기본적인 AI 작업 가능 설정할 게 거의 없어서 초보자 친화적 구글 드라이브랑 연동이 편함 아쉬운 점 ...
로컬 LLM이 뭔데? ChatGPT나 Claude 같은 AI는 인터넷으로 서버에 접속해서 쓰는 방식입니다. 반면 로컬 LLM은 내 컴퓨터에 AI 모델을 직접 설치해서 실행하는 겁니다. 인터넷 없이도 되고, 내 데이터가 외부로 나가지 않아서 보안이 좋습니다. 왜 해봤나 회사에서 쓸 때 보안 이슈로 ChatGPT에 코드를 못 넣는 경우가 있었습니다. 그래서 로컬에서 돌릴 수 있는 방법을 찾다가 시작했습니다. Ollama로 시작하기 여러 방법이 있는데, 제일 쉬운 건 Ollama입니다. 설치도 간단하고 명령어 몇 줄이면 바로 AI랑 대화할 수 있습니다. ...
AI로 코딩하는 시대 솔직히 2년 전만 해도 AI가 코딩을 도와준다는 게 어색했는데, 지금은 AI 없이 코딩하면 뭔가 허전합니다. 그만큼 생산성 차이가 큽니다. 요즘 대표적인 AI 코딩 도구 3가지를 직접 써본 후기를 공유합니다. GitHub Copilot 가장 먼저 나온 AI 코딩 어시스턴트입니다. VS Code에 플러그인으로 설치하면 코드를 치다가 자동으로 다음 줄을 제안해줍니다. 좋은 점 자동 완성이 자연스러움 — 코드 흐름을 잘 파악해서 다음에 올 코드를 꽤 정확하게 예측 VS Code 통합이 완벽 — 별도 설정 없이 바로 작동 반복 작업에 강함 — 비슷한 패턴의 코드를 쓸 때 시간을 많이 아껴줌 아쉬운 점 복잡한 로직은 부족 — 간단한 코드는 잘하는데 복잡한 알고리즘은 틀릴 때가 많음 맥락 파악 한계 — 프로젝트 전체를 이해하고 제안하는 건 아직 부족 가끔 엉뚱한 제안 — Tab 키를 무심코 누르면 이상한 코드가 들어갈 때도 있음 Cursor VS Code를 포크해서 AI 기능을 강화한 에디터입니다. 에디터 자체가 AI 중심으로 설계되어 있어서 경험이 다릅니다. ...
엣지 AI란? AI 하면 보통 클라우드를 떠올립니다. 내가 질문을 보내면 서버에서 처리해서 답변을 돌려주는 방식이죠. 엣지 AI는 반대입니다. 서버로 보내지 않고 내 기기(스마트폰, PC, IoT 장치 등)에서 직접 AI를 실행하는 겁니다. 왜 갑자기 주목받나 1. 개인정보 보호 데이터가 외부 서버로 나가지 않으니까 보안이 좋습니다. 의료, 금융 같은 민감한 분야에서 특히 중요합니다. 2. 응답 속도 서버까지 데이터를 보내고 받는 시간이 없으니까 빠릅니다. 자율주행차에서 0.1초가 중요한 것처럼, 실시간 처리가 필요한 곳에서 필수입니다. ...
AI가 그림을 그린다고? 텍스트를 입력하면 AI가 이미지를 만들어준다는 건 알고 있었는데, 직접 해본 건 얼마 전이 처음입니다. 미드저니, DALL-E 같은 서비스도 있지만, 제 PC에서 직접 돌릴 수 있는 Stable Diffusion을 선택했습니다. 왜 Stable Diffusion인가 무료 — 오픈소스라 돈이 안 듦 로컬 실행 — 내 PC에서 돌리니까 횟수 제한 없음 커스텀 자유도 — 모델, 설정을 마음대로 바꿀 수 있음 대신 GPU가 필요하고 초기 설정이 좀 있습니다. 설치 과정 WebUI라는 걸 설치하면 브라우저에서 편하게 쓸 수 있습니다. 설치 자체는 GitHub에서 클론 받고 실행하면 되는데, 처음이라 의존성 에러를 몇 번 만났습니다. ...
계기 유튜브에서 AI로 만든 음성을 듣고 깜짝 놀랐습니다. 진짜 사람이 말하는 것 같았거든요. “이거 진짜 가짜 구분이 안 되는데?” 싶어서 직접 써봤습니다. AI 음성 합성의 현재 수준 몇 년 전의 TTS(Text-to-Speech)는 로봇 같은 목소리였습니다. “안.녕.하.세.요” 이런 느낌. 근데 지금은 억양, 감정, 쉬는 타이밍까지 자연스럽습니다. 심지어 몇 초짜리 음성 샘플만 주면 그 사람의 목소리를 복제할 수도 있습니다. 써본 서비스들 ElevenLabs 현재 가장 유명한 AI 음성 서비스입니다. 텍스트를 넣으면 자연스러운 음성으로 변환 한국어도 지원하는데, 영어가 훨씬 자연스러움 음성 복제 기능도 있음 (본인 목소리 녹음 → AI가 학습) 처음 들었을 때 진짜 사람인 줄 알았습니다. 특히 영어는 거의 구분이 안 됩니다. ...
오픈소스 AI가 뭔데? ChatGPT나 Claude 같은 AI는 비공개(클로즈드) 모델입니다. 내부 구조를 볼 수 없고, 해당 회사의 서버를 통해서만 쓸 수 있습니다. 반면 오픈소스 AI는 모델의 가중치(학습된 데이터)를 공개해서 누구나 다운로드하고 자유롭게 쓸 수 있습니다. 왜 중요한가 1. 자유로운 사용 원하는 대로 수정하고, 내 서비스에 넣고, 상업적으로도 쓸 수 있습니다. 매달 구독료를 낼 필요도 없습니다. 2. 프라이버시 내 PC나 서버에서 돌리니까 데이터가 외부로 나가지 않습니다. 회사에서 민감한 데이터를 다룰 때 큰 장점입니다. ...
AI가 자신 있게 틀린 답을 한다 ChatGPT나 Claude를 쓰다 보면 가끔 이상한 경험을 합니다. AI가 매우 자신 있는 말투로 완전히 틀린 정보를 말하는 겁니다. 존재하지 않는 논문을 인용하거나, 없는 기능을 있다고 하거나, 역사적 사실을 잘못 말하기도 합니다. 이걸 **할루시네이션(Hallucination)**이라고 합니다. 왜 이런 일이 생기나 AI는 사실을 “알고 있는” 게 아닙니다. 학습한 텍스트에서 다음에 올 확률이 높은 단어를 예측하는 방식으로 작동합니다. 비유하면, AI는 백과사전을 외운 게 아니라 수많은 글을 읽고 문장을 만드는 패턴을 익힌 것입니다. 그래서 그럴듯한 문장은 잘 만들지만, 내용이 사실인지는 보장하지 못합니다. ...
같은 AI인데 왜 결과가 다를까 같은 ChatGPT, 같은 Claude를 쓰는데 어떤 사람은 유용한 답변을 잘 받고, 어떤 사람은 “별로 도움이 안 되네"라고 합니다. AI 챗봇 종류별 비교에서 어떤 AI가 내게 맞는지 먼저 파악해두세요. 차이는 질문하는 방법에 있습니다. 이걸 요즘 프롬프트 엔지니어링이라고 부릅니다. 거창한 건 아니고, 몇 가지 원칙만 알면 답변 품질이 확 올라갑니다. 1. 구체적으로 질문하기 나쁜 예 파이썬 알려줘 좋은 예 파이썬으로 CSV 파일을 읽어서 특정 열의 평균값을 구하는 코드를 작성해줘. pandas 라이브러리를 사용하고, 파일 경로는 data.csv, 열 이름은 'score'야. 구체적일수록 AI가 추측하는 범위가 줄어들어서 정확한 답변이 나옵니다. ...
게임은 경쟁하는데 AI는 왜? 게임 GPU 시장에서 NVIDIA와 AMD는 치열하게 경쟁합니다. 세대에 따라 AMD가 앞서기도 하고, 가성비로는 AMD가 나을 때도 있습니다. 그런데 AI 분야에서는 NVIDIA가 압도적입니다. 시장 점유율이 80% 이상이라고 합니다. 왜 이런 차이가 날까요? 이유 1: CUDA 생태계 가장 큰 이유입니다. CUDA는 NVIDIA가 만든 GPU 프로그래밍 플랫폼입니다. AI/딥러닝의 핵심 프레임워크인 PyTorch, TensorFlow가 CUDA 기반으로 만들어졌습니다. 10년 넘게 CUDA 위에서 발전해온 거라, 최적화 수준이 다릅니다. AMD에도 ROCm이라는 대응 플랫폼이 있지만: ...