From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
208 lines
5.4 KiB
208 lines
5.4 KiB
WEBVTT |
|
|
|
00:00.500 --> 00:07.280 |
|
이제 여러분 컴퓨터에 직접적으로 큰 언어 모델을 실행하겠습니다 llama라는 플랫폼을 |
|
|
|
00:07.280 --> 00:14.330 |
|
사용해서요 여러분 컴퓨터에서 직접 컴파일된 C++ 코드 버전의 Lms를 실행할 수 있도록요 |
|
|
|
00:14.360 --> 00:17.810 |
|
먼저 윈도우부터 보여드리고 맥으로 넘어갈게요 |
|
|
|
00:17.840 --> 00:21.560 |
|
라마를 시작으로 좋아하는 브라우저를 불러오세요 |
|
|
|
00:21.590 --> 00:22.880 |
|
마이크로소프트 Edge로 가죠 |
|
|
|
00:22.880 --> 00:24.950 |
|
라마로 가면 돼요 |
|
|
|
00:24.980 --> 00:31.310 |
|
라마 라마를 검색하면 O 다음에 라마가 나와요 |
|
|
|
00:31.820 --> 00:35.660 |
|
검색 결과의 첫 번째 타자는 Alam이에요 코무요 |
|
|
|
00:35.660 --> 00:36.650 |
|
여기 있네요 |
|
|
|
00:36.680 --> 00:42.230 |
|
llama라고 불리는 이유는 처음에 llama라는 모델 주위에 만들어졌기 |
|
|
|
00:42.230 --> 00:47.480 |
|
때문이죠 메타의 오픈 소스 모델로 몇 년 전 처음 나왔을 때 정말 인기를 끌었죠 |
|
|
|
00:47.480 --> 00:51.230 |
|
다운로드 작업은 다운로드 버튼을 누르는 것만큼 간단해요 |
|
|
|
00:51.230 --> 00:56.210 |
|
다운로드 버튼을 누르면 윈도우용 다운로드가 시작되고 윈도우 버전을 |
|
|
|
00:56.210 --> 00:57.740 |
|
다운로드하게 되죠 |
|
|
|
00:57.950 --> 01:02.930 |
|
제가 다운로드한 것을 보면 다운로드 된 것을 볼 수 있어요. |
|
|
|
01:02.930 --> 01:04.380 |
|
함정이에요 exe요 |
|
|
|
01:04.560 --> 01:07.530 |
|
파일 열기 버튼을 누르면 프롬프트가 뜨죠 |
|
|
|
01:07.530 --> 01:08.100 |
|
아직 안 움직이네요 |
|
|
|
01:08.130 --> 01:09.000 |
|
아직도 다운로드 중이에요 |
|
|
|
01:09.030 --> 01:09.630 |
|
방금 이걸 실행했어요 |
|
|
|
01:09.660 --> 01:15.240 |
|
로컬에 설치하라고 할 텐데 로컬에 설치되자마자 할 거예요 |
|
|
|
01:15.600 --> 01:21.060 |
|
시작 메뉴로 가면 아마 익숙하실 텐데 PowerShell을 불러오죠 |
|
|
|
01:21.090 --> 01:27.630 |
|
여기 PowerShell을 입력하면 프롬프트 되고 열기를 누르면 PowerShell이 |
|
|
|
01:27.630 --> 01:31.920 |
|
나와요 지금 큰 언어 모델을 실행할 곳이죠 |
|
|
|
01:31.920 --> 01:36.780 |
|
몇 분 후 수업이 시작됐는데 그냥 한 번만 입력하면 돼요 |
|
|
|
01:36.810 --> 01:44.280 |
|
설치가 완료되고 확인을 누르면 그냥 ohama o l l a m a run이라고 하면 돼요 |
|
|
|
01:44.280 --> 01:49.290 |
|
모델의 이름을 다음이라고 입력합니다. 우리가 사용할 모델의 이름은 |
|
|
|
01:49.290 --> 01:55.020 |
|
llama 3이 될 거예요. 2는 최신 모델 중 하나죠 |
|
|
|
01:55.860 --> 01:57.060 |
|
자, 시작할게요 |
|
|
|
01:57.060 --> 01:58.020 |
|
달려요 |
|
|
|
01:58.020 --> 01:59.400 |
|
지금 진행 중이에요 |
|
|
|
01:59.400 --> 02:03.060 |
|
저 깜빡이는 커서가 의미하는 건 이 컴퓨터에서 큰 언어 모델이 실행된다는 거죠 |
|
|
|
02:03.060 --> 02:04.770 |
|
비트는 처음보다 시간이 더 걸릴 거예요 |
|
|
|
02:04.770 --> 02:10.210 |
|
이것은 Lama와 관련된 20억 개의 파라미터를 다운로드 해야 합니다. 당신의 인터넷 연결에 따라 시간이 좀 걸릴 수도 |
|
|
|
02:10.210 --> 02:13.870 |
|
있지만 진행률 표시줄이 어떤 일이 일어나는지 보여줄 거예요. Get it. |
|
|
|
02:14.230 --> 02:18.460 |
|
이제 이 LLM과 얘길 해보겠습니다 free LLM으로 뭔가 |
|
|
|
02:18.460 --> 02:20.020 |
|
유용한 걸 해보려고요 |
|
|
|
02:20.020 --> 02:21.250 |
|
이렇게 하죠 |
|
|
|
02:21.280 --> 02:23.620 |
|
지금은 스페인어를 배우려고 해요 |
|
|
|
02:23.620 --> 02:28.630 |
|
그리고 제 스페인어 실력은 확실히 less llms에 비하면 한참 |
|
|
|
02:28.630 --> 02:29.350 |
|
아래죠 |
|
|
|
02:29.710 --> 02:36.730 |
|
제가 사용하고 있는 앱에 AI 튜터와 채팅하려면 돈을 내야 하는 서비스가 |
|
|
|
02:36.730 --> 02:37.720 |
|
있어요 |
|
|
|
02:37.750 --> 02:42.370 |
|
돈을 내고 싶진 않아요 오픈 소스 모델을 무료로 실행할 수 있으니까요 |
|
|
|
02:42.370 --> 02:48.130 |
|
스페인어 선생님을 만들 거예요 저를 가르쳐 주실 분요 |
|
|
|
02:48.490 --> 02:51.400 |
|
전부 오픈 소스예요 |
|
|
|
02:51.400 --> 02:57.460 |
|
스페인어를 배우려고 한다고 할게요 |
|
|
|
02:58.660 --> 03:01.960 |
|
전 완전히 초보예요 |
|
|
|
03:04.690 --> 03:12.000 |
|
기초 스페인어로 대화 좀 해 주세요 |
|
|
|
03:13.200 --> 03:15.630 |
|
이 프롬프트에서 시작할 거예요 |
|
|
|
03:15.630 --> 03:16.830 |
|
어떻게 되는지 보죠 |
|
|
|
03:16.830 --> 03:17.820 |
|
생각 중이에요 |
|
|
|
03:18.390 --> 03:19.230 |
|
안녕하세요 |
|
|
|
03:19.590 --> 03:21.480 |
|
스페인어 대화에 오신 걸 환영해요 |
|
|
|
03:21.510 --> 03:24.570 |
|
기본적인 인사말부터 시작해 보죠 |
|
|
|
03:24.630 --> 03:25.800 |
|
안녕하세요? |
|
|
|
03:26.250 --> 03:30.540 |
|
아주 좋은 시작 프롬프트를 제공하고 있는 걸 보실 수 있죠 |
|
|
|
03:30.540 --> 03:31.890 |
|
예를 들어볼게요 |
|
|
|
03:31.890 --> 03:33.930 |
|
제 입장을 이해해주죠 |
|
|
|
03:33.960 --> 03:36.240 |
|
지금은 이런 말도 할 수 있어요 |
|
|
|
03:40.980 --> 03:42.120 |
|
Put it, Put it, Put it 악센트를 넣어 주세요 |
|
|
|
03:42.450 --> 03:44.550 |
|
네 |
|
|
|
03:44.670 --> 03:46.410 |
|
작은 실수가 있어요 |
|
|
|
03:51.000 --> 03:52.050 |
|
좋아요, 됐어요 |
|
|
|
03:52.050 --> 03:52.710 |
|
정정하고 있어요 |
|
|
|
03:52.710 --> 03:58.320 |
|
억양을 놓친 것 같아요 물음표도요 어떤 건지 아시겠죠? Get it |
|
|
|
03:58.320 --> 04:03.870 |
|
상업적 가치가 있는 걸 방금 만들었어요 왜냐하면 우리 박스에서 즉시 |
|
|
|
04:03.870 --> 04:11.790 |
|
무료로 팔리거든요 오픈 소스 LLM을 이용해서요 get go부터 작동하는 llms죠 |
|
|
|
04:11.790 --> 04:14.700 |
|
이제 Mac으로 넘어가죠 Mac으로 넘어가죠
|
|
|