LLM

로컬 LLM이 뭔데? ChatGPT나 Claude 같은 AI는 인터넷으로 서버에 접속해서 쓰는 방식입니다. 반면 로컬 LLM은 내 컴퓨터에 AI 모델을 직접 설치해서 실행하는 겁니다. 인터넷 없이도 되고, 내 데이터가 외부로 나가지 않아서 보안이 좋습니다. 왜 해봤나 회사에서 쓸 때 보안 이슈로 ChatGPT에 코드를 못 넣는 경우가 있었습니다. 그래서 로컬에서 돌릴 수 있는 방법을 찾다가 시작했습니다. Ollama로 시작하기 여러 방법이 있는데, 제일 쉬운 건 Ollama입니다. 설치도 간단하고 명령어 몇 줄이면 바로 AI랑 대화할 수 있습니다. ...

RAG란? RAG는 Retrieval-Augmented Generation의 약자입니다. 한국어로는 “검색 증강 생성” 정도로 번역됩니다. 쉽게 말하면, AI가 답변하기 전에 먼저 관련 자료를 검색해서 참고하는 방식입니다. 왜 필요한가 기본 AI(LLM)의 문제점이 있습니다: 학습 시점 이후의 정보를 모름 — “어제 발표된 신제품"을 물어보면 모름 할루시네이션 — 모르는 것도 그럴듯하게 지어냄 특정 도메인 지식 부족 — 우리 회사 내부 문서에 대해 모름 RAG는 이 문제들을 해결합니다. 비유로 이해하기 일반 AI = 오픈북 없는 시험 학생(AI)이 외운 것만으로 답을 씀. 기억이 안 나면 추측하거나 지어냄. ...