안녕하세요 여러분! 오늘은 ‘페이스북 llamma3’ 에 대한 이야기 입니다.

기존의 chatGPT 를 사서 쓰고 있었다면 그 가격에 아쉬움을 느끼시는 분들이 많으리라 생각합니다.

새로 나온 페이스북의 lamma3 가 chatGPT 를 대체 할 수 있을지 설치하여 사용해보겠습니다.

어렵지 않게 쉽게 할 수 있으니 같이 시작해보죠

1. Llama3 설치 및 간단한 실행

먼저 구글에 ollama 를 검색해서 사이트에 접속

링크

image 15

처음 페이지에서 다운로드를 선택하고

스크린샷 2024 04 23 163348

설치 후 windows powershell 를 켜서 다음과 같이 명령어를 칩니다.

ollama run llama3
스크린샷 2024 04 23 163341

위와 같이 모델을 설치하면 됩니다.

스크린샷 2024 04 23 164227

설치후에는 바로 test 를 해볼 수 있습니다.

스크린샷 2024 04 23 164310

불편…

하지만 이렇게 터미널을 통해 하는 것은 불편 할 수밖에 없습니다. 아래에서 소개하는 lm studio 를 통해 lamma3 를 사용해봅시다.

ollama rm llama3
스크린샷 2024 04 23 165219

설치한 모델은 위와 같이 cmd 혹은 winwos powershell 에서 삭제 할 수 있습니다.

다른 모델을 원한다면?

image 16
image 17

2. LM studio

먼저 LM studio 를 설치합니다. 구글에 검색해서 설치하시면 됩니다.

링크

스크린샷 2024 04 23 163403
image 14

설치하고 실행하면 바로 llama 3 가 메인 창에 뜹니다. download 클릭

스크린샷 2024 04 23 170020

model downloads 가 completed 가 되면 왼쪽에서 ai chat 를 클릭하고

스크린샷 2024 04 23 170041

아까 설치한 모델을 클릭합니다.

스크린샷 2024 04 23 170102

‘Accept New system Prompt’ 를 클릭하면

스크린샷 2024 04 23 170942
스크린샷 2024 04 23 171000

이런식으로 llama3 를 사용해 볼 수 있습니다.

한국어 설정

image 18
image 19

system prompt 에 빤간줄로 표시된 것처럼 ‘And please only use korean. 을 추가한다.

image 20

한국어 결과를 얻을 수 있다!!

vs GPT

아직..


8 Comments

T1 Faker · April 24, 2024 at 3:36 pm

정말 유익한 글이네요. 이번 msi에 유용하게 사용할 수 있을 것 같습니다.

Admit · April 24, 2024 at 6:34 pm

인정합니다

    KANG · April 25, 2024 at 11:42 am

    감사합니다2 ???

Admit · April 24, 2024 at 6:35 pm

인정합니다

    KANG · April 25, 2024 at 11:42 am

    감사합니다

park sangpyo · July 19, 2024 at 9:18 am

한글 설정을 어디서 들어갔는지 중간아 짤렸네여

    KANG · July 20, 2024 at 12:14 pm

    system prompt 창에서 영어로 한글을 원한다라고 써주시면 됩니다. 예를 들어서 “And please only use korean.”

Leave a Reply