Windows PC와 Mac에서 DeepSeek 로컬 실행 방법

DeepSeek AI는 미국의 기술 산업을 강타했습니다. 이 중국 AI 스타트업은 OpenAI의 ChatGPT를 제치고 Apple App Store의 최고의 무료 앱 카테고리에서 1위에 올랐습니다. DeepSeek AI는 NVIDIA의 시가 총액에서 거의 4000억 달러를 없애면서 미국 기술 주식 시장을 흔들었습니다. 이후 이 회사는 OpenAI의 Dall-E 모델을 초월한 Janus-Pro 이미지 생성 모델을 출시했습니다. 인상적이지 않다면, DeepSeek가 경쟁사인 OpenAI에 비해 이러한 최고급 서비스를 훨씬 저렴한 비용으로 제공할 수 있었다고 보도되었습니다.

DeepSeek AI는 공식 웹사이트에서 무료로 접근할 수 있지만, 중국에서 유래했기 때문에 개인정보 보호에 대한 우려가 있습니다. DeepSeek가 귀하의 데이터를 어떻게 사용하고 중국으로 전송할지 혼란스럽다면, 이 AI 챗봇을 컴퓨터에서 로컬로 실행하는 것이 좋습니다. 이 가이드에서는 Windows와 Mac에서 DeepSeek AI를 로컬로 실행하는 방법에 대한 세부 정보를 공유하겠습니다. 바로 시작해 보겠습니다.

DeepSeek R1이란?

DeepSeek AI는 중국에서 온 또 다른 AI 챗봇입니다. 2023년 12월에 Liang Wenfeng에 의해 설립되었으며, 그들의 AI 챗봇인 DeepSeek R1 모델은 2025년 1월에 소개되었습니다. 이는 Microsoft의 Copilot이나 OpenAI의 ChatGPT와 유사하게 작동합니다. 콘텐츠 생성, 질문하기, 콘텐츠 작성 또는 요약, 코딩 작업 지원과 같은 동일한 작업에 사용될 수 있지만, DeepSeek와 다른 AI 모델 간의 차이는 전자의 효율성에 있습니다.

보고에 따르면, DeepSeek를 훈련하는 데 투자된 금액은 600만 달러에 불과하며, OpenAI가 ChatGPT에 투자한 1억 달러 이상과 비교됩니다. DeepSeek AI는 경쟁사에 비해 더 나은 결과를 생성할 수 있지만, 정치적으로 민감한 질문을 피하도록 훈련되었습니다. 우리가 “Arunachal Pradesh”에 대한 질문을 반복적으로 시도했을 때, AI 챗봇은 어떤 답변도 제공하지 않았습니다. 그래서 그 점은 있습니다.

그 외에도, 챗봇은 코딩이나 콘텐츠 생성을 요청할 때 효과적으로 더 나은 결과를 생성합니다. DeepSeek가 인기를 얻자마자, 사용자 데이터 처리와 R1 모델에 전력을 공급하기 위해 고성능 NVIDIA 칩을 어떻게 확보했는지에 대한 조사를 받았습니다. 미국 정부는 이를 수출 제한하고 있습니다.

Windows 및 Mac 컴퓨터에서 DeepSeek 로컬 실행

아래 방법의 가장 좋은 점은 Windows와 Mac, 심지어 Linux 컴퓨터 모두에 대해 단계가 동일하다는 것입니다. 우리가 사용할 소프트웨어는 Windows와 Mac 모두에서 무료로 제공됩니다.

LM Studio 사용

1. LM Studio의 공식 웹사이트를 방문하여 Windows 또는 Mac PC에 무료 소프트웨어를 다운로드합니다.
2. LM Studio를 다운로드하고 설치한 후 프로그램을 실행합니다.
3. 왼쪽 패널에서 검색 아이콘을 클릭합니다.
4. 왼쪽 패널의 모델 검색 아래에서 DeepSeek R1 Distill (Qwen 7B) 모델을 찾습니다. 크기는 약 4.68GB입니다. 하단의 다운로드 버튼을 클릭합니다.
5. 이 모델을 다운로드하려면 PC에 최소 5GB의 여유 저장 공간과 8GB RAM이 필요합니다.
6. DeepSeek AI 모델 다운로드가 완료되면 채팅 창으로 이동하여 모델을 로드합니다.
7. 모델을 선택하고 모델 로드 버튼을 클릭합니다. 문제가 발생하면 GPU 오프로드를 0으로 줄인 후 다시 시도해야 합니다.
8. 그게 다입니다! 이제 PC에서 DeepSeek AI와 로컬로 채팅하고 상호작용할 수 있으며, 데이터가 중국 서버로 업로드되는 것에 대해 걱정할 필요가 없습니다.

Ollama 사용

1. Windows, Mac 또는 Linux 컴퓨터에서 공식 웹사이트에서 Ollama 소프트웨어를 다운로드하고 설치합니다.
2. Windows PC에서 명령 프롬프트를 실행하거나 Mac 컴퓨터에서 터미널을 열고 아래 명령을 실행합니다: - ollama run deepseek-r1:1.15b
3. 위 코드는 저사양 컴퓨터를 위한 Qwen 기반의 DeepSeek R1의 효율적인 버전입니다. 메모리 1.1GB만 사용합니다. 그러나 고사양 PC가 있다면 아래에서 다른 DeepSeek AI 모델(7b, 8b, 14b, 32b, 70b)의 코드를 복사할 수 있습니다: - 7b (메모리 4.7GB 사용)— ollama run deepseek-r1:7b

• 8b (메모리 4.9GB 사용)— ollama run deepseek-r1:8b
• 14b (메모리 9GB 사용)— ollama run deepseek-r1:14b
• 32b (메모리 20GB 사용)— ollama run deepseek-r1:32b
• 70b (메모리 43GB 사용)— ollama run deepseek-r1:70b

4. 이렇게 하면 명령 프롬프트 내에서 DeepSeek AI 모델이 로드됩니다. 이제 질문을 하거나 원하는 대로 사용할 준비가 되었습니다.
5. AI 모델과의 대화를 중단하려면 Ctrl+D 키보드 단축키를 입력해야 합니다.

DeepSeek AI를 로컬로 사용하고 데이터를 비공개로 유지하기

위의 두 방법을 사용하여 DeepSeek AI를 로컬로 실행하면 데이터가 외부 서버로 전송되지 않고 로컬에서 사용할 수 있습니다. 또한 더 빠른 응답을 경험하고 DeepSeek AI를 어떤 작업 흐름에 통합할 수 있는 옵션도 있습니다. 그러나 강력한 컴퓨터를 소유하고 있다면 기본 DeepSeek R1 모델을 사용하는 것이 좋습니다. 구형 또는 저사양 PC를 사용하는 경우 DeepSeek 1.5b 모델을 선택할 수 있습니다. 또 다른 점은 테스트 결과, 특히 역사에 대한 여러 응답이 잘못되거나 조작된 것으로 나타났으며, 이는 AI에 지나치게 의존하지 말아야 하는 주요 이유 중 하나입니다.