ChatGPT 월 구독료 내지 말고 DeepSeek R1 사용하자

1. 세줄요약

01. Deepseek 14B 모델도 나름 사용할만한 편인 것 같다.

02. ollama와 openwebui를 설치하니 gpt처럼 사용할 수 있다. 

03. 하드웨어 성능을 많이 타지 않는 것 같아 AI기술의 민주화가 가능할 것으로 보인다.

2. 실습

(1) Deepseek 실행결과

ollama deepseek-r1:14b를 맥북 M1 Pro에서 구동한 결과입니다. 구글 웹검색을 통해서 결과값을 잘 보여주는 것을 확인할 수 있었습니다. 14b는 속도가 빠른 편은 아니지만 한국어 fine tune이 된 것 같구요. 7b로 하면 영어는 잘되는데 한국어는 잘 안되는 증상이 있었습니다. 

 

(2) GPT와 비슷한 성능, 저렴한 가격 DeepSeek

요즘 AI시장이 계속 커지면서 AI 서비스를 사용하기 위해서 여기저기 구독료를 지불하면서 사용하고 있습니다.

특히 ChatGPT는 한달 구독료가 20달러입니다. 물론 서비스 품질에 비교해 가격은 현저히 낮고 감사히 쓰는 수준이죠! 

그럼에도 불구하고 더 나은 서비스, 아니면 더 저렴한 서비스를 찾는게 소비자의 올바른 지향점이라고 생각합니다. 

그런 의미에서 요즘 화두인 Deepseek을 로컬로 설치해보려고 합니다. 

(3) Ollama와 Model(DeepSeek R1 14B) 설치하기

무지무지 간단합니다. Ollama를 설치합니다.

https://ollama.com

Ollama

각자의 운영체제 환경에 맞게 다운로드 받기만 하면 됩니다!

ollama를 설치했다면 ollama.com에 메인화면으로 이동하겠습니다. 아래 그림과 같이 deepseek r1 모델이 있습니다.

아래 그림에서 빨간 박스를 클릭합니다. 그러면 명령어가 복사됩니다.

그리고 터미널에 들어가서 복사한 해당 명령어를 입력합니다.

저는 9G 용량의 Deepseek r1 14B 모델을 이미 다운로드 받아서 바로 실행이 되는 것을 확인할 수 있습니다!

ollama 및 모델 설치가 매우 간단하게 완료됐습니다!(M1 pro기준, 윈도우OS도 터미널을 통해 설치가 가능합니다.)

(4) openwebui 설치하기

파이썬이 있어야 합니다. 그럼 터미널에서 바로 openwebui를 설치할 수 있습니다. 

터미널에서 바로 입력하면 됩니다. 

#openwebui 설치하기
pip install open-webui

#openwebui 실행하기
open-webui serve

 

저는 파이썬 가상환경이 있어서 위에 2개 명령어만 입력하면 아래 그림과 같이 바로 실행이 됩니다.

 

아나콘다를 설치해도 되고, 미니콘다를 설치해도 되고, 바닐라 파이썬을 설치해도 되고 모두 괜찮습니다. 가상환경만 잡아주면 됩니다.

아래는 참조하실만한 포스팅입니다.

https://idealist.tistory.com/68

아나콘다(Anaconda) 다운로드 및 설치하기 파이썬 패키지 프로그램

 

https://idealist.tistory.com/69

아나콘다 32bit 가상환경 구축하기

 

openwebui를 설치하고 serve하면 웹브라우저에서 localhost:8080 을 주소창에 입력하면 아래와 같이 보여집니다.

모델이 deepseek-r1:14b로 설정되어있는게 보이시죠?

(5) 요즘 GPT는 인터넷 검색도 되는데...

당연히 전세계에서 가장 잘나가는 AI 서비스와 비교하면 부족할 수 있습니다. 하지만 Deepseek 모델은 가볍고 빠르며 google pre를 연결하면 인터넷 검색 내용과 모델의 추론을 결합하여 답변을 제공합니다.GPT가 하는 일을 유사하게 잘 따라합니다!ㅎㅎ 아래 그림처럼 왼쪽하단에 관리자패널에 들어가셔서 설정에 들어가셔서 웹검색 엔진을 google_pse로 설정하고 google PSE API키값과 Google PSE 엔진 ID를 입력하면 됩니다. 참 쉽죠?

 

google PSE 사이트에 접속합니다.https://programmablesearchengine.google.com/

로그인 - Google 계정

 

그리고 추가 버튼을 클릭합니다.

 

 

새로운 검색엔진을 만듭니다.

 

그리고 아래 내려가서 만들기 버튼을 누르면 아래 그림과 같이 생성되고 빨간박스처럼 검색엔진ID가 발급됩니다.

 

그리고 아래로 내리면 google PSE API key값을 받을 수 있는 버튼이 있습니다.

 

그러면 키 발급 버튼이 표기됩니다.

 

(5) DeepSeek 사용해보기

입력하기에 앞서 웹 검색을 클릭해줍니다.

 

2024년에 주요사건에 대해서 질문했습니다. 

그러니까 사고하고 답을 알려주네요!

3. 마치며

이번 시간은 deepseek을 설치해서 chatGPT처럼 사용하는 법을 알아보았습니다. 

갈길은 멀고 할일은 많군요!

질문이 있으시면 언제든 댓글 남겨주세요! 답변드리겠습니다. 같이 공부합시다^^
이 글을 보는 모든 분들 오늘 하루가 행복하시길 바랍니다.
감사합니다.