ONZO AI Agent AI Agent 만들기 Llama Gemma Copilot

1. 세줄요약

01. 모두가 사용할 수 있는 AI Agent를 만들고 싶었다. 

02. 이름하야 ONZO AI Agent

03. 이름은 거창하지만 비전도 거창하다!! 

2. 내용

(1) AI Agent 시대가 온다!

메타 CEO 마크 저커버그가 개인, 소상공인들이 모두 AI Agent를 사용하는 시대가 곧 올 것이라고 얘기했습니다. 

평소 기술의 민주화를 이야기 했던 마크 저커버그가 Llama라는 AI 모델을 지속적으로 출시하는 이유가 바로 이런 맥락이 아닐까 싶습니다?

그런 의미에서 저도 나만의 AI Agent를 만들려고 알아보고 있는 와중에 Github에 모두가 사용할 수 있게 업로드하면 어떨까? 라는 생각이 들었습니다. 그래서 애정을 갖고 만들 Identity를 가질 수 있는 네이밍을 고민했습니다.

(2) ONZO AI Agent

바로 ONZO AI Agent입니다!

DALLE가 그려줬다. 꽤나 괜찮은듯

온조라 지은 이유 TMI
1. 국사에서 가장 좋아하는 나라가 백제다.
2. AI Agent 초기시대이기에 백제 초대왕 온조왕을 차용했다.(2대왕이라고도 한다. 형 비류왕이 있어서)
3. N과 Z도 회전하면 같고 알파벳 O가 양쪽에 있어 안정감을 준다.
4. 개방적인 국가다.(중국과 일본과 활발한 교류를 했던 오픈마인드 국가)
5. 백제 왕 중 가장 업적이 많다.(초대왕이라 미화했다는 설도 있지만...)

 

목표는 AI 시대에 모두가 혜택을 누릴 수 있는 에이전트를 개발하여 배포하고 제공하는 것입니다. 이를 위해 다양한 서비스(네이버, 구글, 뉴스, Reddit, Yahoo Stock, 개인이 개발한 서비스 등)를 LLM과 연결하여 분석, 요약, 실행할 수 있는 에이전트를 개발하고, 텔레그램 봇을 통해 소통하는 시스템을 구축하고자 합니다. 

ONZO AI Agent는 크게 4가지로 구성되어 있습니다.

1. 텔레그램봇(화면인터페이스)

2. LLM + 연산자원

3. 다양한 서비스

4. ONZO AI Agent를 돌릴 수 있는 서버(노트북, 데스크탑 등)

 

적은 자원으로 AI Agent를 구성하려고 했습니다. 그래서 Telegram 봇을 통해 소통하고, Groq(LPU라는 연산자원 + AI 모델 제공)을 사용해 LLM을 구성하고 다양한 API들을 연결하려고 합니다. 

텔레그램봇은 무료로 텔레그램을 사용하고 봇토큰을 갖고 LLM과 통신할 수 있어서 구축했습니다. 

만약 나중에 텔레그램이 유료화되거나 없어질 경우엔 별도 프론트 엔드 툴(React, JSP 등)을 통해 자체 개발하도록 하겠습니다. 

어떤 분께서는 ChatGPT가 있는데 왜 이런걸 만들려고 하냐? 라고 질문하실 수도 있습니다. 

그러면 사실 할말은 없습니다. 그럼에도 기업에서 판매하는 좋은 제품이 있어도 원데이 클래스를 통해 나만의 것을 만들면 재밌잖아요^^

(3) ONZO AI Agent v0.2! Reddit 연결!

이번 버전은 newsapi만 있던 버전에서 reddit api도 연결했습니다.

아래는 Github에 올려놓은 경로입니다. 

https://github.com/sino1232/ONZO-AI-Agent/

ONZO-AI-Agent/README.md at main · sino1232/ONZO-AI-Agent

reddit api생성하는 법은 아래 포스트에서 참조하실 수 있습니다!

https://idealist.tistory.com/157

Reddit API 생성하기 유료 무료 레딧

 

github에서 다운로드 받으신 다음에 apikey.txt파일에 자신의 api정보만 입력하면 사용 가능합니다.

apikey.txt에 자신의 apikey값만 넣으면 됩니다.

그리고 ONZOAIAgent.py 파일을 엽니다. 

오른쪽 상단에 실행버튼을 클릭합니다.

그럼 아래 네모상자처럼 Application started라는 문구가 뜹니다. 

conda나 python을 3.10버전을 설치하신다음에 Visual Studio Code에서 가상환경을 만드시고 ONZOAIAgent.py를 실행하시면 Agent가 구동됩니다.  제가 이전에 아나콘다 가상환경을 구축한 포스트가 있으니 혹시 잘모르신다면 참조해보시기 바랍니다.(윈도우 환경에서 구축을 했습니다.)

https://idealist.tistory.com/69

아나콘다 32bit 가상환경 구축하기

사용법은 간단합니다.

/reddit이라고 하면 hot 게시물을 1개 갖고 옵니다.

/reddit elonmusk라고 입력하면 elonmusk라는 subreddit의 게시물을 1개 갖고 옵니다.

그 게시물에 대해서 질문하고 답변을 받습니다.

/news도 마찬가지 입니다. 

/news elon musck라고 입력하면 elon musk 관련 뉴스를 1개 갖고 옵니다.

그 기사에 대해서 질문하고 답변을 받습니다. 

(4) 사용해보자!

/reddit openai라고 하니까 openai에 대한 최근 포스트를 보여줍니다.

요약내용엔 없지만 포스트 내용에 bot detector에 대한 내용이 있어서 질문을 했습니다.

 

잘 답변해주는 것을 확인할 수 있습니다. 

3. 마치며

이번 시간은 ONZO AI Agent라는 AI Agent를 소개해드렸습니다. 

설치방법은 Github에 나와있으니 참조하시면 됩니다.

질문이 있으시면 언제든 댓글 남겨주세요! 답변드리겠습니다. 같이 공부합시다^^

이 글을 보는 모든 분들 오늘 하루가 행복하시길 바랍니다.
감사합니다.