안녕하세요 여러분! 오늘은 ‘페이스북 llamma3’ 에 대한 이야기 입니다.

기존의 chatGPT 를 사서 쓰고 있었다면 그 가격에 아쉬움을 느끼시는 분들이 많으리라 생각합니다.

새로 나온 페이스북의 lamma3 가 chatGPT 를 대체 할 수 있을지 설치하여 사용해보겠습니다.

어렵지 않게 쉽게 할 수 있으니 같이 시작해보죠

1. Llama3 설치 및 간단한 실행

먼저 구글에 ollama 를 검색해서 사이트에 접속

링크

image 15

처음 페이지에서 다운로드를 선택하고

스크린샷 2024 04 23 163348

설치 후 windows powershell 를 켜서 다음과 같이 명령어를 칩니다.

ollama run llama3
스크린샷 2024 04 23 163341

위와 같이 모델을 설치하면 됩니다.

스크린샷 2024 04 23 164227

설치후에는 바로 test 를 해볼 수 있습니다.

스크린샷 2024 04 23 164310

불편…

하지만 이렇게 터미널을 통해 하는 것은 불편 할 수밖에 없습니다. 아래에서 소개하는 lm studio 를 통해 lamma3 를 사용해봅시다.

ollama rm llama3
스크린샷 2024 04 23 165219

설치한 모델은 위와 같이 cmd 혹은 winwos powershell 에서 삭제 할 수 있습니다.

다른 모델을 원한다면?

image 16
image 17

2. LM studio

먼저 LM studio 를 설치합니다. 구글에 검색해서 설치하시면 됩니다.

링크

스크린샷 2024 04 23 163403
image 14

설치하고 실행하면 바로 llama 3 가 메인 창에 뜹니다. download 클릭

스크린샷 2024 04 23 170020

model downloads 가 completed 가 되면 왼쪽에서 ai chat 를 클릭하고

스크린샷 2024 04 23 170041

아까 설치한 모델을 클릭합니다.

스크린샷 2024 04 23 170102

‘Accept New system Prompt’ 를 클릭하면

스크린샷 2024 04 23 170942
스크린샷 2024 04 23 171000

이런식으로 llama3 를 사용해 볼 수 있습니다.

한국어 설정

image 18
image 19

system prompt 에 빤간줄로 표시된 것처럼 ‘And please only use korean. 을 추가한다.

image 20

한국어 결과를 얻을 수 있다!!

vs GPT

아직..


0 Comments

Leave a Reply