Ollama의 개념과 설치 및 사용방법 GGUF 허깅페이스 Huggingface
뱁새유니버스
1. 세줄요약01. Ollama를 설치하여 LLM모델을 불러왔다.02. Ollama Pull 명령어를 통해 모델을 불러온다.03. GGUF파일 형태인 양자화 모델도 Modelfile을 통해 불러올 수 있다. 2. 내용(1) Ollama가 뭔가요?2022년 12월, OpenAI가 ChatGPT 서비스를 출시한 이후 AI 관련 서비스들이 급격히 증가했습니다. 그 중 하나가 바로 Ollama입니다. Ollama는 개인정보 보호에 민감한 사용자들을 위해 설계된 Local LLM(Local Large Language Model) 도구입니다.사용자들은 ChatGPT를 사용할 때 자신의 소중한 정보들이 외부 서버로 유출될까 우려하는 경우가 많은데, Ollama는 이러한 문제를 해결하기 위해 개발되었습니다.Ollama..