NPU

노트북 살 때 갑자기 NPU 이야기가 나오기 시작했다 요즘 노트북 스펙 보면 CPU, GPU, RAM 옆에 NPU라는 항목이 슬쩍 끼어 있습니다. 그리고 Copilot+라는 로고가 붙어 있는 제품들이 늘어났어요. 처음엔 그냥 마케팅 용어겠거니 했는데, 좀 파고들어 보니까 단순한 홍보 문구만은 아니더라고요. 오늘은 이 Copilot+ PC가 뭔지, NPU가 실제로 어떤 역할을 하는지 정리해봤습니다. NPU가 뭐냐면 NPU는 Neural Processing Unit의 약자입니다. AI 연산, 특히 신경망 추론에 특화된 칩이에요. CPU는 범용 연산, GPU는 병렬 처리에 강한데, NPU는 AI 추론 연산만 빠르게 처리하는 데 최적화되어 있습니다. 전력 효율도 좋아서 배터리 소모 없이 AI 기능을 백그라운드에서 계속 돌릴 수 있다는 게 핵심이에요. ...

엣지 AI란? AI 하면 보통 클라우드를 떠올립니다. 내가 질문을 보내면 서버에서 처리해서 답변을 돌려주는 방식이죠. 엣지 AI는 반대입니다. 서버로 보내지 않고 내 기기(스마트폰, PC, IoT 장치 등)에서 직접 AI를 실행하는 겁니다. 왜 갑자기 주목받나 1. 개인정보 보호 데이터가 외부 서버로 나가지 않으니까 보안이 좋습니다. 의료, 금융 같은 민감한 분야에서 특히 중요합니다. 2. 응답 속도 서버까지 데이터를 보내고 받는 시간이 없으니까 빠릅니다. 자율주행차에서 0.1초가 중요한 것처럼, 실시간 처리가 필요한 곳에서 필수입니다. ...