LM studio를 설치해보자! GPT AI 인공지능 로컬 LLM

1. 세줄요약

01. Obisidian(옵시디언)에 LLM을 연결했다.

02. Local LLM, API를 통한 LLM이 다양하니 알맞게 쓰면 되겠다. 

03. 메모광이라면 정말 효율적인 툴이다. 

2. 내용

(1) LM studio를 설치해보자!

로컬 LLM을 다운로드 받아서 사용하는데 보통 Ollama와 LM studio를 사용합니다.

Ollama도 사용하는데 문제는 전혀 없지만 보다 UI친화적인 LM studio라는 툴도 있으니 사용해보시기 바랍니다.

lmstudio 다운로드는 아래 링크에서 하시면 됩니다. 모든 OS에 호환되니 그냥 사용하시면 됩니다.

https://lmstudio.ai

👾 LM Studio - Discover and run local LLMs

(2) Model 다운로드, Chat AI, Local Server를 한 번에!

모델 다운로드부터 AI Chat, Local Server 구동 이 프로그램을 통해 모두 가능합니다.

그래서 다운로드를 누르면 모델이 다운로드 됩니다.

다운로드 받은 모델을 왼쪽 레드박스를 클릭하면 AI chat을 바로 사용할 수 있습니다.

(3) LM Studio에서 Local Server를 구동해서 obsidian과 연동하기

왼쪽 레드박스를 클릭하면 Local Server를 구동시킬 수 있는 화면이 나옵니다. 여기서 상단에 모델을 선택하면 자동으로 Curl안에 Model 명이 입력이 되네요. 그리고 Start Server를 누르면 서버가 구동됩니다. 이 상태에서 obsidian에서 copilot 플러그인을 다운로드 받아 LM studio를 클릭하여 copilot서비스를 사용하면 됩니다.

옵시디언에서 copilot 커뮤니티 플러그인을 다운로드받고 사용하는 것은 아래 포스트에 자세히 나와있습니다.

https://idealist.tistory.com/154

사랑하는 나의 최애 노트앱 옵시디언 with LLM Copilot

 

서버를 올렸으니 obsidian에 들어가 LM studio를 선택합니다.

여기 todolist에서 제가 처리해야할 일이 무엇인지 질문했습니다.

지금 체크박스가 선택되지 않은 리스트들을 위주로 답변해주네요. 만족스럽습니다.

3. 마치며

이번 시간은 LM studio를 설치하는 방법을 알아봤습니다.

AI서비스는 우리의 일하는 패러다임을 바꿀 것입니다. 1인당 생산성도 기하급수적으로 올라가겠죠?

생산, 경제인구가 줄어드는 요즘 AI가 우리 삶의 큰 도움이 됐으면 하는 바람입니다. 

질문이 있으시면 언제든 댓글 남겨주세요! 답변드리겠습니다. 같이 공부합시다^^
이 글을 보는 모든 분들 오늘 하루가 행복하시길 바랍니다.
감사합니다.