내 PC에서 AI 모델 돌려보기 — 로컬 LLM 입문기
로컬 LLM이 뭔데? ChatGPT나 Claude 같은 AI는 인터넷으로 서버에 접속해서 쓰는 방식입니다. 반면 로컬 LLM은 내 컴퓨터에 AI 모델을 직접 설치해서 실행하는 겁니다. 인터넷 없이도 되고, 내 데이터가 외부로 나가지 않아서 보안이 좋습니다. 왜 해봤나 회사에서 쓸 때 보안 이슈로 ChatGPT에 코드를 못 넣는 경우가 있었습니다. 그래서 로컬에서 돌릴 수 있는 방법을 찾다가 시작했습니다. Ollama로 시작하기 여러 방법이 있는데, 제일 쉬운 건 Ollama입니다. 설치도 간단하고 명령어 몇 줄이면 바로 AI랑 대화할 수 있습니다. ...