Meta Llama3 메타 AI LLM 성능 테스트 GPT openAI
뱁새유니버스
1. 세줄요약01. 메타 Llama 3 을 google colab에서 돌렸다. GPU 기준 약 1분에서 3분 정도 소요된다. (token 256 기준)02. 기술 이해는 부족하지만 Llama2에서 안됐던 한국어가 Llama 3에선 비슷하게 흉내를 낸다.(신기신기)03. 조금만 있으면 Local에서 LLM을 사용할 수 있는 날이 올 것이다.(확신에 찬 어조)2. 내용(1) 구글 Colab 실행Google Colab을 실행합니다. 상단에 메뉴를 클릭하고 런타임 유형 변경을 클릭합니다.하드웨어 가속기로 T4 GPU를 선택해줍니다. 프리미엄 GPU를 살 돈이 없습니다..(사랑해요 구글)성능을 한번 확인해봅시다.!nvidia-smiTesla T4인 것을 확인했습니다. GPU Colab 최고! 이제 아래 스크립트..