이제 여러분 컴퓨터에 직접적으로 큰 언어 모델을 실행하겠습니다 llama라는 플랫폼을
사용해서요 여러분 컴퓨터에서 직접 컴파일된 C++ 코드 버전의 Lms를 실행할 수 있도록요
먼저 윈도우부터 보여드리고 맥으로 넘어갈게요
라마를 시작으로 좋아하는 브라우저를 불러오세요
마이크로소프트 Edge로 가죠
라마로 가면 돼요
라마 라마를 검색하면 O 다음에 라마가 나와요
검색 결과의 첫 번째 타자는 Alam이에요 코무요
여기 있네요
llama라고 불리는 이유는 처음에 llama라는 모델 주위에 만들어졌기
때문이죠 메타의 오픈 소스 모델로 몇 년 전 처음 나왔을 때 정말 인기를 끌었죠
다운로드 작업은 다운로드 버튼을 누르는 것만큼 간단해요
다운로드 버튼을 누르면 윈도우용 다운로드가 시작되고 윈도우 버전을
다운로드하게 되죠
제가 다운로드한 것을 보면 다운로드 된 것을 볼 수 있어요.
함정이에요 exe요
파일 열기 버튼을 누르면 프롬프트가 뜨죠
아직 안 움직이네요
아직도 다운로드 중이에요
방금 이걸 실행했어요
로컬에 설치하라고 할 텐데 로컬에 설치되자마자 할 거예요
시작 메뉴로 가면 아마 익숙하실 텐데 PowerShell을 불러오죠
여기 PowerShell을 입력하면 프롬프트 되고 열기를 누르면 PowerShell이
나와요 지금 큰 언어 모델을 실행할 곳이죠
몇 분 후 수업이 시작됐는데 그냥 한 번만 입력하면 돼요
설치가 완료되고 확인을 누르면 그냥 ohama o l l a m a run이라고 하면 돼요
모델의 이름을 다음이라고 입력합니다. 우리가 사용할 모델의 이름은
llama 3이 될 거예요. 2는 최신 모델 중 하나죠
자, 시작할게요
달려요
지금 진행 중이에요
저 깜빡이는 커서가 의미하는 건 이 컴퓨터에서 큰 언어 모델이 실행된다는 거죠
비트는 처음보다 시간이 더 걸릴 거예요
이것은 Lama와 관련된 20억 개의 파라미터를 다운로드 해야 합니다. 당신의 인터넷 연결에 따라 시간이 좀 걸릴 수도
있지만 진행률 표시줄이 어떤 일이 일어나는지 보여줄 거예요. Get it.
이제 이 LLM과 얘길 해보겠습니다 free LLM으로 뭔가
유용한 걸 해보려고요
이렇게 하죠
지금은 스페인어를 배우려고 해요
그리고 제 스페인어 실력은 확실히 less llms에 비하면 한참
아래죠
제가 사용하고 있는 앱에 AI 튜터와 채팅하려면 돈을 내야 하는 서비스가
있어요
돈을 내고 싶진 않아요 오픈 소스 모델을 무료로 실행할 수 있으니까요
스페인어 선생님을 만들 거예요 저를 가르쳐 주실 분요
전부 오픈 소스예요
스페인어를 배우려고 한다고 할게요
전 완전히 초보예요
기초 스페인어로 대화 좀 해 주세요
이 프롬프트에서 시작할 거예요
어떻게 되는지 보죠
생각 중이에요
안녕하세요
스페인어 대화에 오신 걸 환영해요
기본적인 인사말부터 시작해 보죠
안녕하세요?
아주 좋은 시작 프롬프트를 제공하고 있는 걸 보실 수 있죠
예를 들어볼게요
제 입장을 이해해주죠
지금은 이런 말도 할 수 있어요
Put it, Put it, Put it 악센트를 넣어 주세요
네
작은 실수가 있어요
좋아요, 됐어요
정정하고 있어요
억양을 놓친 것 같아요 물음표도요 어떤 건지 아시겠죠? Get it
상업적 가치가 있는 걸 방금 만들었어요 왜냐하면 우리 박스에서 즉시
무료로 팔리거든요 오픈 소스 LLM을 이용해서요 get go부터 작동하는 llms죠
이제 Mac으로 넘어가죠 Mac으로 넘어가죠