From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
385 lines
10 KiB
385 lines
10 KiB
WEBVTT |
|
|
|
00:00.800 --> 00:02.540 |
|
Get it, get it 바로 본론으로 들어가죠 |
|
|
|
00:02.690 --> 00:09.890 |
|
모든 걸 볼 수 있고 데이터에 무릎까지 들어갈 수 있는 플랫폼은 바로 Webex and Bias라는 |
|
|
|
00:09.890 --> 00:12.260 |
|
아름다운 플랫폼이에요 |
|
|
|
00:12.380 --> 00:17.330 |
|
개인적 용도로만 사용하고 아주 좋아요 |
|
|
|
00:17.360 --> 00:20.180 |
|
여기로 가시면 돼요 |
|
|
|
00:20.210 --> 00:22.340 |
|
원반은 무게와 편향이에요 |
|
|
|
00:22.580 --> 00:25.400 |
|
등록하고 무료 계정을 만들라고요 |
|
|
|
00:25.400 --> 00:27.080 |
|
내키지 않으면 안 해도 돼요 |
|
|
|
00:27.110 --> 00:29.450 |
|
이건 완전히 선택 사항이에요 |
|
|
|
00:29.480 --> 00:32.660 |
|
이게 작동하는 동안 훈련하는 모습을 시각화할 수 있죠 |
|
|
|
00:32.660 --> 00:36.680 |
|
강력히 추천해요 정말 만족스럽거든요 |
|
|
|
00:36.740 --> 00:41.810 |
|
꿈틀거리는 선이 많이 보여야 머릿속에서 훈련할 수 있죠 |
|
|
|
00:41.810 --> 00:44.930 |
|
꿈틀거리는 선이 아주 많을 거예요 |
|
|
|
00:44.930 --> 00:52.790 |
|
오늘뿐만 아니라 앞으로 2주 동안 차트가 많을 겁니다 무료 계정을 등록했는지 평가할 |
|
|
|
00:52.790 --> 00:57.950 |
|
때 유용할 수도 있고 이미 등록한 계정도 있을 수 있죠 아바타 |
|
|
|
00:57.950 --> 01:03.810 |
|
메뉴나 설정 메뉴에서 설정으로 가면 오픈AI나 기타에서 사용한 |
|
|
|
01:03.810 --> 01:09.750 |
|
API 키와 유사한 API 키를 생성할 수 있어요 |
|
|
|
01:10.050 --> 01:15.870 |
|
OpenAI 대시보드로 가면 링크를 노트북에 넣어 놨어요 |
|
|
|
01:15.900 --> 01:21.990 |
|
해당 페이지를 보시면 중앙에 통합이라는 항목이 있어요 체중과 바이어스를 |
|
|
|
01:21.990 --> 01:25.590 |
|
입력할 수 있는 항목이 있죠 |
|
|
|
01:25.590 --> 01:32.130 |
|
그렇게 하면 오픈AI 계정에 무게와 편향 정보가 저장됩니다 무게와 |
|
|
|
01:32.160 --> 01:36.600 |
|
편향에 따른 미세한 튜닝 과정을 볼 수 있죠 |
|
|
|
01:36.630 --> 01:38.520 |
|
정말 멋져요 |
|
|
|
01:38.520 --> 01:41.670 |
|
강력히 권하지만 필수는 아니에요 |
|
|
|
01:41.700 --> 01:46.950 |
|
그렇게 했다고 가정하고 이 라인을 실행합니다 무게 설정과 |
|
|
|
01:46.950 --> 01:48.660 |
|
편향 통합이죠 |
|
|
|
01:48.900 --> 01:50.280 |
|
이름을 지어줄 수도 있고요 |
|
|
|
01:50.280 --> 01:53.520 |
|
이 프로젝트의 이름을 말하고 있어요 |
|
|
|
01:53.520 --> 01:55.410 |
|
전반적으로 이 프로젝트의 많은 부분을 할 거예요 |
|
|
|
01:55.410 --> 02:00.360 |
|
저는 프라이서라고 부르지만 이 차는 GPT 프라이서라고 부르죠 |
|
|
|
02:00.390 --> 02:06.720 |
|
GPT는 가격 제품의 정교한 버전입니다 그래서 프라이서라고 부르죠 |
|
|
|
02:06.750 --> 02:08.640 |
|
그걸 실행하죠 |
|
|
|
02:08.880 --> 02:11.790 |
|
지금 설정하고 있어요 |
|
|
|
02:11.820 --> 02:13.920 |
|
하지만 이게 다예요 |
|
|
|
02:13.920 --> 02:15.450 |
|
여러분 |
|
|
|
02:15.450 --> 02:18.780 |
|
이제 세세한 조율을 할 거예요 |
|
|
|
02:18.810 --> 02:29.430 |
|
새로운 OpenAI API라고 하는데 아주 큰 거죠 OpenAI의 .잡스.Create죠 |
|
|
|
02:29.700 --> 02:31.140 |
|
우리가 지나치는 것도요 |
|
|
|
02:31.140 --> 02:36.390 |
|
아까 기억하시겠지만 이건 우리 파일을 업로드하면 나오는 거죠 |
|
|
|
02:36.390 --> 02:37.560 |
|
ID가 있어요 |
|
|
|
02:37.560 --> 02:43.500 |
|
파일을 식별하는 ID를 갖고 있어요 |
|
|
|
02:45.690 --> 02:47.100 |
|
그게 파일 이름이에요 |
|
|
|
02:47.100 --> 02:50.040 |
|
오픈아이는 좀 더 단순한 이름으로 불렸어요 |
|
|
|
02:50.040 --> 02:52.140 |
|
이건 전부 파일 객체예요 |
|
|
|
02:52.170 --> 02:53.940 |
|
조금 전에 이걸 보셨을 거예요 |
|
|
|
02:53.970 --> 02:57.390 |
|
파일 ID와 관련된 모든 세부 사항이죠 |
|
|
|
02:57.570 --> 02:59.520 |
|
그게 ID예요 |
|
|
|
02:59.520 --> 03:02.760 |
|
훈련 파일의 ID를 제공하죠 |
|
|
|
03:02.760 --> 03:05.370 |
|
검증 파일의 ID도 제공하죠 |
|
|
|
03:05.400 --> 03:11.180 |
|
지금 꼭 필요한 건 아니지만 연습하면 좋을 거예요 나중에 세밀하게 조정할 |
|
|
|
03:11.180 --> 03:13.010 |
|
때 써먹으세요 |
|
|
|
03:13.040 --> 03:13.820 |
|
아마도요 |
|
|
|
03:13.940 --> 03:15.500 |
|
모델을 제공하죠 |
|
|
|
03:15.530 --> 03:21.140 |
|
저는 많은 사람에게 GPT를 제안하고 있습니다 추론상 실행하는 것이 더 저렴하기 때문이기도 하죠 |
|
|
|
03:21.140 --> 03:23.780 |
|
몇 센트밖에 안 될 거예요 |
|
|
|
03:23.900 --> 03:31.820 |
|
그 이유는 앞서 원형 모델을 실행했을 때 GPT와 미니가 비슷한 성능을 |
|
|
|
03:31.820 --> 03:36.650 |
|
보였기 때문이기도 해요 큰 차이가 없었죠 |
|
|
|
03:36.650 --> 03:41.300 |
|
작은 걸 세심하게 조정하는 게 좋겠어요 |
|
|
|
03:41.390 --> 03:44.180 |
|
씨앗은 반복 가능하다는 뜻이에요 |
|
|
|
03:44.510 --> 03:46.070 |
|
여러 시대에서요 |
|
|
|
03:46.070 --> 03:47.090 |
|
선택 사항이에요 |
|
|
|
03:47.090 --> 03:54.020 |
|
발생된 시대의 개수나 데이터에 몇 번 사용될지 명시할 필요가 없어요 |
|
|
|
03:54.050 --> 03:55.910 |
|
스스로 결정하게 해요 |
|
|
|
03:55.910 --> 04:02.480 |
|
1로 수정하고 싶어요 데이터 양이 꽤 많거든요 권장량보다 500포인트나 |
|
|
|
04:02.480 --> 04:04.340 |
|
많죠 |
|
|
|
04:04.490 --> 04:08.230 |
|
여러 개혁을 시도할 필요가 없다고 생각했죠 |
|
|
|
04:08.230 --> 04:12.260 |
|
더 많은 걸 하고 싶다면 훈련 데이터를 늘리면 돼요 여러 |
|
|
|
04:12.260 --> 04:15.320 |
|
개혁을 할 필요 없이 이미 많으니까요 |
|
|
|
04:15.440 --> 04:18.890 |
|
무게와 편향의 통합을 지정하는 부분이죠 |
|
|
|
04:18.890 --> 04:23.120 |
|
무게나 편향성을 사용하기 싫다면 이 선을 아예 없애지 마세요 |
|
|
|
04:23.540 --> 04:31.280 |
|
접미사는 선택적인 것으로 그것이 생성하는 모델의 이름에 포함되죠 |
|
|
|
04:31.430 --> 04:35.300 |
|
모델이 괜찮은 이름을 갖길 원한다면 할 수 있는 일이죠 |
|
|
|
04:35.540 --> 04:37.940 |
|
그게 다인 것 같아요 |
|
|
|
04:37.940 --> 04:42.200 |
|
hyperperameter라는 단어를 처음 들어보신다면 말씀드릴게요 분명 들어봤을 거예요 |
|
|
|
04:42.230 --> 04:49.970 |
|
경험이 없는 분들을 위해 hyperperameter를 설명하자면 데이터 과학자들은 이걸 추가적인 |
|
|
|
04:49.970 --> 04:55.790 |
|
손잡이와 바퀴 설정이라고 부릅니다 훈련이 어떻게 진행될지 제어하는 거죠 |
|
|
|
04:55.820 --> 04:59.600 |
|
추가 매개 변수는 설정할 수 있어요 |
|
|
|
04:59.630 --> 05:02.870 |
|
상황이 좋아질지 나빠질지 여러 가능성을 살펴보죠 |
|
|
|
05:02.870 --> 05:08.630 |
|
다양한 값을 시험해보고 더 나은지 나쁜지 보는 과정이죠 hyperpaameter |
|
|
|
05:08.630 --> 05:11.250 |
|
최적화라고 해요 |
|
|
|
05:11.580 --> 05:13.680 |
|
하이퍼파라미터 튜닝도요 |
|
|
|
05:13.980 --> 05:19.290 |
|
시행착오를 거창하게 표현한 말인데 실제로도 그래요 |
|
|
|
05:19.290 --> 05:21.030 |
|
이건 설정이라고 하네요 |
|
|
|
05:21.030 --> 05:23.640 |
|
더 좋아질지 나빠질지는 알 수 없어요 |
|
|
|
05:23.640 --> 05:27.180 |
|
그럴듯한 이론 같은 건 없어요 |
|
|
|
05:27.180 --> 05:30.630 |
|
여러 가지 가능성을 시도해 보고 어떻게 되는지 봐야죠 |
|
|
|
05:30.780 --> 05:32.460 |
|
하지만 아무도 그렇게 말하고 싶어하지 않아요 |
|
|
|
05:32.460 --> 05:37.260 |
|
하이퍼파라미터 최적화라고 다들 쓰는데 그게 더 중요하게 들리기 때문이죠 |
|
|
|
05:37.500 --> 05:39.750 |
|
그래서 그렇게 부르기로 했어요 |
|
|
|
05:39.840 --> 05:42.720 |
|
그래서 하이퍼 매개 변수를 넘기는 거죠 |
|
|
|
05:42.720 --> 05:48.420 |
|
hyperpaameter 최적화를 하고 싶다면 여러 버전으로 |
|
|
|
05:48.450 --> 05:50.250 |
|
시도해 보세요 |
|
|
|
05:50.250 --> 05:52.740 |
|
어쨌든 전 말이 많아요 |
|
|
|
05:52.740 --> 06:00.120 |
|
이걸 작동시키면 잘 작동하고 돌아와서 세밀한 조율만 하면 돼요 |
|
|
|
06:00.420 --> 06:04.770 |
|
생성될 때 오류가 없다고 하네요 좋은 거죠 |
|
|
|
06:04.800 --> 06:05.760 |
|
아직요 |
|
|
|
06:05.940 --> 06:08.610 |
|
완성이 안 됐어요 |
|
|
|
06:08.850 --> 06:12.750 |
|
이건 여러 개혁이 담긴 하이퍼파라미터예요 |
|
|
|
06:13.090 --> 06:14.740 |
|
그게 모델이에요 |
|
|
|
06:14.950 --> 06:19.390 |
|
그리고 다른 것도 전부요 우리가 제출한 파일들요 |
|
|
|
06:20.050 --> 06:26.050 |
|
여기에는 현재 우리 업무가 다 적혀 있어요 |
|
|
|
06:26.050 --> 06:28.390 |
|
가장 최근의 일부터 시작하죠 |
|
|
|
06:28.390 --> 06:34.870 |
|
이제 막 시작했으니까 이걸 실행하면 이 특정 작업이... 확인할 수 |
|
|
|
06:35.200 --> 06:40.600 |
|
있어요 여기 이 부분이 여기 이 부분과 일치해야 하거든요 |
|
|
|
06:40.600 --> 06:47.950 |
|
같은 일을 하는 거군요 여기 어딘가에서 무슨 일인지 볼 수 있나요? |
|
|
|
06:48.850 --> 06:53.380 |
|
우선 직업 ID부터 얘기하죠 계속 기억할 필요 없게요 |
|
|
|
06:53.380 --> 06:56.050 |
|
변수 작업 ID로 가져가요 |
|
|
|
06:56.380 --> 06:58.420 |
|
우리가 기대하는 대로만 하면 돼요 |
|
|
|
06:58.420 --> 07:03.940 |
|
이 작업이 보인다고 하면 ID가 저기, 저기 일치해요 |
|
|
|
07:03.940 --> 07:09.280 |
|
참조에 사용할 현재 실행 작업 ID의 이름이죠 |
|
|
|
07:09.280 --> 07:16.300 |
|
get 절개라고 부를 수 있는데 무슨 일이 일어나는지 정보를 얻기 위해서죠 |
|
|
|
07:16.750 --> 07:19.570 |
|
여기서 뭘 배울 수 있을지 보죠 |
|
|
|
07:20.200 --> 07:25.240 |
|
여기 어딘가에 실행 중이라고 뜨는 게 보일 거예요 |
|
|
|
07:27.040 --> 07:31.960 |
|
어쨌든 가장 중요한 것은 다음 줄에서 일어나는 일을 볼 수 있습니다. |
|
|
|
07:31.960 --> 07:39.370 |
|
작업 ID로 리스트 이벤트가 전달되고 있습니다. 10개의 이벤트로 제한할게요. |
|
|
|
07:39.370 --> 07:42.880 |
|
지금 운영하면 사업이 제대로 돼요 |
|
|
|
07:42.880 --> 07:44.680 |
|
두 번밖에 안 했어요 |
|
|
|
07:44.890 --> 07:49.600 |
|
가장 최근 사건이 가장 위인 순서로 나열돼 있어요 |
|
|
|
07:49.600 --> 07:56.530 |
|
두 이벤트가 생성됐어요 미세 튜닝 작업과 훈련 파일 유효성 검사죠 지금 하고 있는 |
|
|
|
07:56.530 --> 07:57.520 |
|
거예요 |
|
|
|
07:58.660 --> 08:04.840 |
|
다음에 일어나는 일은 시간이 지나면서 파일의 유효성을 검사하는 거죠 |
|
|
|
08:04.840 --> 08:06.730 |
|
이제 훈련을 시작할 거예요 |
|
|
|
08:06.730 --> 08:08.230 |
|
Get it, get it, get it! 이때부터 재미있어지죠 |
|
|
|
08:08.260 --> 08:12.250 |
|
거기에 도달하기까지 몇 분 걸리기 때문에 다음 비디오로 넘어가서 쉬도록 |
|
|
|
08:12.250 --> 08:12.970 |
|
하죠 |
|
|
|
08:12.970 --> 08:14.620 |
|
다음 비디오에서 보실 수 있어요 |
|
|
|
08:14.650 --> 08:16.180 |
|
실전 훈련이죠 |
|
|
|
08:16.180 --> 08:17.770 |
|
거기서 봐요
|
|
|