시작하며 솔직히 말하면, AI가 대단하다는 건 알겠는데 “내 생활이랑 무슨 상관이지?” 하는 생각이 있었습니다. 그런데 올해 들어서 직접 이것저것 써보니까, 진짜 생활이 달라지더라고요. 오늘은 제가 직접 경험한 것들 위주로 정리해보려고 합니다. 1. 글쓰기가 편해졌다 블로그 글을 쓸 때 초안 잡는 게 제일 귀찮았는데, AI한테 “이런 주제로 뼈대 좀 잡아줘"라고 하면 5분 만에 나옵니다. 물론 그대로 쓰면 안 되고 제 경험이랑 생각을 넣어서 다시 써야 하지만, 백지에서 시작하는 것보다 훨씬 낫습니다. ...
로컬 LLM이 뭔데? ChatGPT나 Claude 같은 AI는 인터넷으로 서버에 접속해서 쓰는 방식입니다. 반면 로컬 LLM은 내 컴퓨터에 AI 모델을 직접 설치해서 실행하는 겁니다. 인터넷 없이도 되고, 내 데이터가 외부로 나가지 않아서 보안이 좋습니다. 왜 해봤나 회사에서 쓸 때 보안 이슈로 ChatGPT에 코드를 못 넣는 경우가 있었습니다. 그래서 로컬에서 돌릴 수 있는 방법을 찾다가 시작했습니다. Ollama로 시작하기 여러 방법이 있는데, 제일 쉬운 건 Ollama입니다. 설치도 간단하고 명령어 몇 줄이면 바로 AI랑 대화할 수 있습니다. ...
AI로 코딩하는 시대 솔직히 2년 전만 해도 AI가 코딩을 도와준다는 게 어색했는데, 지금은 AI 없이 코딩하면 뭔가 허전합니다. 그만큼 생산성 차이가 큽니다. 요즘 대표적인 AI 코딩 도구 3가지를 직접 써본 후기를 공유합니다. GitHub Copilot 가장 먼저 나온 AI 코딩 어시스턴트입니다. VS Code에 플러그인으로 설치하면 코드를 치다가 자동으로 다음 줄을 제안해줍니다. 좋은 점 자동 완성이 자연스러움 — 코드 흐름을 잘 파악해서 다음에 올 코드를 꽤 정확하게 예측 VS Code 통합이 완벽 — 별도 설정 없이 바로 작동 반복 작업에 강함 — 비슷한 패턴의 코드를 쓸 때 시간을 많이 아껴줌 아쉬운 점 복잡한 로직은 부족 — 간단한 코드는 잘하는데 복잡한 알고리즘은 틀릴 때가 많음 맥락 파악 한계 — 프로젝트 전체를 이해하고 제안하는 건 아직 부족 가끔 엉뚱한 제안 — Tab 키를 무심코 누르면 이상한 코드가 들어갈 때도 있음 Cursor VS Code를 포크해서 AI 기능을 강화한 에디터입니다. 에디터 자체가 AI 중심으로 설계되어 있어서 경험이 다릅니다. ...
AI가 그림을 그린다고? 텍스트를 입력하면 AI가 이미지를 만들어준다는 건 알고 있었는데, 직접 해본 건 얼마 전이 처음입니다. 미드저니, DALL-E 같은 서비스도 있지만, 제 PC에서 직접 돌릴 수 있는 Stable Diffusion을 선택했습니다. 왜 Stable Diffusion인가 무료 — 오픈소스라 돈이 안 듦 로컬 실행 — 내 PC에서 돌리니까 횟수 제한 없음 커스텀 자유도 — 모델, 설정을 마음대로 바꿀 수 있음 대신 GPU가 필요하고 초기 설정이 좀 있습니다. 설치 과정 WebUI라는 걸 설치하면 브라우저에서 편하게 쓸 수 있습니다. 설치 자체는 GitHub에서 클론 받고 실행하면 되는데, 처음이라 의존성 에러를 몇 번 만났습니다. ...
계기 유튜브에서 AI로 만든 음성을 듣고 깜짝 놀랐습니다. 진짜 사람이 말하는 것 같았거든요. “이거 진짜 가짜 구분이 안 되는데?” 싶어서 직접 써봤습니다. AI 음성 합성의 현재 수준 몇 년 전의 TTS(Text-to-Speech)는 로봇 같은 목소리였습니다. “안.녕.하.세.요” 이런 느낌. 근데 지금은 억양, 감정, 쉬는 타이밍까지 자연스럽습니다. 심지어 몇 초짜리 음성 샘플만 주면 그 사람의 목소리를 복제할 수도 있습니다. 써본 서비스들 ElevenLabs 현재 가장 유명한 AI 음성 서비스입니다. 텍스트를 넣으면 자연스러운 음성으로 변환 한국어도 지원하는데, 영어가 훨씬 자연스러움 음성 복제 기능도 있음 (본인 목소리 녹음 → AI가 학습) 처음 들었을 때 진짜 사람인 줄 알았습니다. 특히 영어는 거의 구분이 안 됩니다. ...
AI가 자신 있게 틀린 답을 한다 ChatGPT나 Claude를 쓰다 보면 가끔 이상한 경험을 합니다. AI가 매우 자신 있는 말투로 완전히 틀린 정보를 말하는 겁니다. 존재하지 않는 논문을 인용하거나, 없는 기능을 있다고 하거나, 역사적 사실을 잘못 말하기도 합니다. 이걸 **할루시네이션(Hallucination)**이라고 합니다. 왜 이런 일이 생기나 AI는 사실을 “알고 있는” 게 아닙니다. 학습한 텍스트에서 다음에 올 확률이 높은 단어를 예측하는 방식으로 작동합니다. 비유하면, AI는 백과사전을 외운 게 아니라 수많은 글을 읽고 문장을 만드는 패턴을 익힌 것입니다. 그래서 그럴듯한 문장은 잘 만들지만, 내용이 사실인지는 보장하지 못합니다. ...
같은 AI인데 왜 결과가 다를까 같은 ChatGPT, 같은 Claude를 쓰는데 어떤 사람은 유용한 답변을 잘 받고, 어떤 사람은 “별로 도움이 안 되네"라고 합니다. 차이는 질문하는 방법에 있습니다. 이걸 요즘 프롬프트 엔지니어링이라고 부릅니다. 거창한 건 아니고, 몇 가지 원칙만 알면 답변 품질이 확 올라갑니다. 1. 구체적으로 질문하기 나쁜 예 파이썬 알려줘 좋은 예 파이썬으로 CSV 파일을 읽어서 특정 열의 평균값을 구하는 코드를 작성해줘. pandas 라이브러리를 사용하고, 파일 경로는 data.csv, 열 이름은 'score'야. 구체적일수록 AI가 추측하는 범위가 줄어들어서 정확한 답변이 나옵니다. ...
RAG란? RAG는 Retrieval-Augmented Generation의 약자입니다. 한국어로는 “검색 증강 생성” 정도로 번역됩니다. 쉽게 말하면, AI가 답변하기 전에 먼저 관련 자료를 검색해서 참고하는 방식입니다. 왜 필요한가 기본 AI(LLM)의 문제점이 있습니다: 학습 시점 이후의 정보를 모름 — “어제 발표된 신제품"을 물어보면 모름 할루시네이션 — 모르는 것도 그럴듯하게 지어냄 특정 도메인 지식 부족 — 우리 회사 내부 문서에 대해 모름 RAG는 이 문제들을 해결합니다. 비유로 이해하기 일반 AI = 오픈북 없는 시험 학생(AI)이 외운 것만으로 답을 씀. 기억이 안 나면 추측하거나 지어냄. ...
AI 모델은 범용이다 ChatGPT나 Llama 같은 AI 모델은 범용 모델입니다. 이것저것 다 할 수 있지만, 특정 분야에서는 전문가만큼 잘하지 못할 수 있습니다. 예를 들어, 의료 분야의 전문적인 질문이나, 우리 회사만의 용어를 사용한 질문에는 정확도가 떨어질 수 있습니다. 파인튜닝 = 맞춤 교육 **파인튜닝(Fine-tuning)**은 이미 학습된 AI 모델에 추가로 특정 데이터를 학습시키는 것입니다. 비유하면: 기본 모델 = 대학교 졸업생 (기본 지식은 있음) 파인튜닝 = 회사에서 신입사원 교육 (우리 회사에 맞게 특화) 완전히 처음부터 학습시키는 게 아니라, 이미 알고 있는 것 위에 추가 지식을 쌓는 것이라 시간과 비용이 적게 듭니다. ...
요즘 AI 에이전트가 화제다 AI 뉴스를 보면 “AI 에이전트"라는 단어가 자주 나옵니다. 그런데 기존 ChatGPT 같은 챗봇이랑 뭐가 다른 걸까요? 챗봇 vs 에이전트 챗봇 내가 질문하면 답변함 한 번에 하나의 질문만 처리 대화가 끝나면 아무것도 안 함 수동적 — 시키는 것만 함 AI 에이전트 목표를 주면 스스로 계획을 세우고 실행 여러 도구를 사용할 수 있음 (검색, 코드 실행, 파일 관리 등) 중간에 판단하고 방향을 수정함 능동적 — 알아서 작업을 진행함 비유하면: ...