From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
460 lines
12 KiB
460 lines
12 KiB
WEBVTT |
|
|
|
00:00.770 --> 00:01.910 |
|
정말 안심이에요 |
|
|
|
00:01.910 --> 00:03.050 |
|
그건 다 지난 일이에요 |
|
|
|
00:03.080 --> 00:05.120 |
|
인체 실험은 이제 안 해요 |
|
|
|
00:05.150 --> 00:09.500 |
|
최악의 결과를 마지막으로 보고 다음으로 넘어가죠 |
|
|
|
00:09.530 --> 00:13.760 |
|
우리가 개척지와 함께 일할 때가 왔어요 |
|
|
|
00:13.910 --> 00:18.560 |
|
GPT 4 미니부터 시작할 거예요 미니 버전이죠 |
|
|
|
00:18.650 --> 00:20.810 |
|
그렇게 많지는 않아요 |
|
|
|
00:20.840 --> 00:22.400 |
|
여전히 거대한 개척지죠 |
|
|
|
00:22.430 --> 00:23.210 |
|
`LM'요 |
|
|
|
00:23.420 --> 00:28.310 |
|
우리가 함께 작업한 다른 모델과 비교해서 얼마나 잘 팔릴지 궁금해요 |
|
|
|
00:28.490 --> 00:33.380 |
|
먼저 GPT 4 프롬프트를 작업해야 하는데요 |
|
|
|
00:33.680 --> 00:39.950 |
|
이건 여러분이 배우는 데 있어 아주 중요한 부분이에요 개척자 모델을 |
|
|
|
00:39.950 --> 00:46.070 |
|
통해 이런 상업적 문제를 어떻게 해결할지 볼 수 있으니까요 |
|
|
|
00:46.100 --> 00:51.500 |
|
하지만 많은 부분이 여러분에게 제2의 본성이 되어야 합니다 왜냐하면 이전에 했던 많은 작업들과 |
|
|
|
00:51.500 --> 00:53.210 |
|
비슷하기 때문이죠 |
|
|
|
00:53.240 --> 00:57.590 |
|
가장 먼저 항목에 대한 함수 메시지를 작성할게요 |
|
|
|
00:57.590 --> 01:03.680 |
|
데이터 포인트에 따라 GPT 4를 위한 프롬프트로 바꾸겠습니다 이 |
|
|
|
01:03.680 --> 01:10.490 |
|
메시지 목록 중 하나의 형태로 온 거죠 여러분이 기억하시는 사전 목록이요 |
|
|
|
01:10.670 --> 01:13.880 |
|
이렇게 사전 목록을 만드는 거예요 |
|
|
|
01:13.880 --> 01:21.170 |
|
시스템 메시지로 시작합니다 이 경우엔 물품의 가격을 추정하고 가격으로만 |
|
|
|
01:21.200 --> 01:24.350 |
|
답장합니다 설명 없이요 |
|
|
|
01:24.500 --> 01:31.760 |
|
사용자 프롬프트는 이 아이템에서 테스트 프롬프트를 가져옵니다 많이 보셨던 |
|
|
|
01:31.760 --> 01:32.900 |
|
거죠 |
|
|
|
01:33.140 --> 01:36.500 |
|
데이터 비트를 좀 뒤져볼게요 |
|
|
|
01:36.500 --> 01:41.090 |
|
먼저 이 텍스트를 $로 줄여볼게요 |
|
|
|
01:41.120 --> 01:46.250 |
|
제가 그렇게 하는 이유는 아니, 그렇게 말해야 하는 이유는 이걸 |
|
|
|
01:46.250 --> 01:52.430 |
|
처음에 넣은 이유는 나중에 오픈 소스 모델로 작업할 때 오픈 소스 모델을 제공해 |
|
|
|
01:52.430 --> 01:57.860 |
|
최대한 쉽게 문제를 해결하게 될 테니까요 배울 게 많은데 그걸 할 |
|
|
|
01:57.860 --> 02:01.890 |
|
80억 매개 변수밖에 없으니까요 |
|
|
|
02:01.920 --> 02:07.170 |
|
개척 시대의 모델은 훨씬 더 강력하고 능력이 뛰어나며 똑같은 |
|
|
|
02:07.170 --> 02:09.750 |
|
가드레일도 필요 없죠 |
|
|
|
02:09.840 --> 02:15.870 |
|
GPT4나 미니가 아주 좋아할 거예요 센트를 포함해서 가격을 예측할 수 있으니까요 어떤 게 효과가 있는지 |
|
|
|
02:15.870 --> 02:17.280 |
|
정확히 알고 있죠 |
|
|
|
02:17.280 --> 02:20.790 |
|
이 경우에는 불필요한 가드레일이었어요 |
|
|
|
02:20.790 --> 02:21.990 |
|
그래서 뺐어요 |
|
|
|
02:22.440 --> 02:27.540 |
|
프롬프트 맨 끝도 제거했어요 가격은 달러라는 곳이죠 |
|
|
|
02:27.570 --> 02:34.350 |
|
이걸 제거한 이유는 메시지 목록을 만들 때 시스템 역할에 |
|
|
|
02:34.350 --> 02:38.100 |
|
먼저 입력하기 때문이에요. |
|
|
|
02:38.130 --> 02:45.840 |
|
사용자를 추가하고 사용자 프롬프트를 입력합니다 그리고 보조에서 오는 메시지를 하나 더 입력해요 |
|
|
|
02:45.840 --> 02:50.070 |
|
GPT4 미니의 회신 같은 거죠 |
|
|
|
02:50.310 --> 02:50.610 |
|
네 |
|
|
|
02:50.610 --> 02:56.700 |
|
가격은 달러라는 대답만 남죠 |
|
|
|
02:57.300 --> 03:04.530 |
|
그래서 참을 수 없을 정도로 다음 토큰에 가격을 적고 싶어지죠 이게 |
|
|
|
03:04.530 --> 03:08.550 |
|
조수로부터 돌아오는 응답이니까요 |
|
|
|
03:08.610 --> 03:15.630 |
|
그래서 저희는 그 부분을 가장 그럴듯한 다음 토큰으로 채워야 |
|
|
|
03:15.630 --> 03:23.010 |
|
한다고 생각했어요 이 제품을 살 때 가장 그럴듯한 가격으로요 |
|
|
|
03:23.010 --> 03:28.590 |
|
그래서 조수처럼 반응하게 해서 그렇게 채우는 게 실험해보기에 |
|
|
|
03:28.590 --> 03:31.890 |
|
좋은 방법이죠 |
|
|
|
03:32.280 --> 03:35.430 |
|
그게 우리 일이에요 |
|
|
|
03:35.460 --> 03:38.850 |
|
빨리 이걸 시험해 보고 살펴보죠 |
|
|
|
03:38.880 --> 03:47.430 |
|
메시지 for get을 입력하고 첫 번째 테스트 데이터 포인트를 입력하면 |
|
|
|
03:47.430 --> 03:52.890 |
|
롤 시스템과 시스템 프롬프트가 뜨죠 |
|
|
|
03:52.980 --> 03:55.320 |
|
이해가 되면 좋겠네요 |
|
|
|
03:55.380 --> 04:00.120 |
|
롤 유저를 선택하고 콘텐츠는 비용이죠 |
|
|
|
04:00.120 --> 04:08.310 |
|
그리고 제 생각에 이 물건들은 끔찍한 메모리일 것 같아요 이 물건들의 가격을 |
|
|
|
04:08.310 --> 04:11.310 |
|
전부 다 맞춰야 했으니까요 |
|
|
|
04:11.310 --> 04:13.740 |
|
보기만 해도 겁이 나요 |
|
|
|
04:13.800 --> 04:15.780 |
|
이번엔 제 문제가 아니에요 |
|
|
|
04:15.780 --> 04:17.760 |
|
GPT 4와 미니 중 선택해야 해요 |
|
|
|
04:17.760 --> 04:23.910 |
|
사용자 프롬프트의 일부로 그걸 받게 되죠 그런 다음 지원 응답을 받게 돼요 |
|
|
|
04:23.910 --> 04:26.850 |
|
그 자체로 보상가는 달러예요 |
|
|
|
04:27.390 --> 04:31.620 |
|
그럼 이 대화를 계속하려고 할 거예요 |
|
|
|
04:31.890 --> 04:36.810 |
|
GPT 4를 보내기에 좋은 타이밍인 셈이죠 |
|
|
|
04:36.840 --> 04:43.410 |
|
다음, 짧은 함수가 하나 더 있어요 여기 쓴 Get Price라는 |
|
|
|
04:43.410 --> 04:51.840 |
|
유틸리티로 문자열 s를 이용해 그 문자열에서 부동점 수를 추출해요 |
|
|
|
04:51.930 --> 05:04.840 |
|
예를 들어 GPT 4에서 문자열을 받으면 가격이 대략 1달러 99센트예요 |
|
|
|
05:04.840 --> 05:04.840 |
|
99살요 |
|
|
|
05:05.290 --> 05:08.110 |
|
왜냐하면 어쩌고저쩌고해서요 |
|
|
|
05:09.610 --> 05:16.120 |
|
제 지시를 따르지 않고 계속 떠들면 그래도 옷을 벗을 거예요 |
|
|
|
05:16.150 --> 05:16.420 |
|
이런, 미안해요 |
|
|
|
05:16.420 --> 05:17.680 |
|
밝히지 마세요 |
|
|
|
05:17.740 --> 05:23.260 |
|
99는 여전히 제거할 거예요 99달러 나왔어요 |
|
|
|
05:23.560 --> 05:24.250 |
|
그럴 거예요 |
|
|
|
05:24.280 --> 05:25.390 |
|
잘될 거예요 |
|
|
|
05:26.290 --> 05:27.280 |
|
네 |
|
|
|
05:27.280 --> 05:30.520 |
|
이제 조심스럽게 스크롤을 내릴게요 |
|
|
|
05:30.550 --> 05:33.880 |
|
이제 큰 함수로 넘어가죠 |
|
|
|
05:33.910 --> 05:34.930 |
|
맞아요 |
|
|
|
05:34.930 --> 05:36.280 |
|
이건 진짜예요 |
|
|
|
05:36.310 --> 05:42.970 |
|
GPT 4 미니를 항목과 함께 호출할 겁니다 이렇게 하는 거죠 |
|
|
|
05:43.000 --> 05:47.830 |
|
OpenAI 챗GPT완료 .Create라고 하죠 |
|
|
|
05:48.190 --> 05:51.940 |
|
GPT 4 미니 모델을 통과했어요 |
|
|
|
05:52.150 --> 05:59.290 |
|
그 아이템에 대한 메시지를 전달합니다 방금 말씀드린 함수를 사용해서요 |
|
|
|
05:59.480 --> 06:07.580 |
|
이 시드는 GPT 4에 이걸 재생하고 싶다고 말하는 방법입니다 같은 입력으로 |
|
|
|
06:07.580 --> 06:11.060 |
|
같은 답을 주도록요 |
|
|
|
06:11.420 --> 06:16.250 |
|
오픈아이는 기존 GPT 모델을 변경하기 때문에 늘 이 방식을 고수할 순 없죠 |
|
|
|
06:16.250 --> 06:19.310 |
|
그래서 모델이 바뀌기도 해요 |
|
|
|
06:19.310 --> 06:21.710 |
|
이 숫자는 바뀔 거예요 |
|
|
|
06:21.830 --> 06:24.200 |
|
하지만 모든 게 평등하니 최선을 다하죠 |
|
|
|
06:24.200 --> 06:27.860 |
|
그럼 같은 씨앗으로 두 번 부르면 같은 답이 나오겠네요? Get it |
|
|
|
06:28.220 --> 06:29.630 |
|
좋은 정보네요 |
|
|
|
06:30.110 --> 06:36.890 |
|
최대 토큰은 작게 두겠습니다 티업이 훌륭하기 때문이죠 가격이 |
|
|
|
06:36.890 --> 06:40.400 |
|
채워질 거라고 기대할 수 있어요 |
|
|
|
06:40.550 --> 06:44.690 |
|
그러니 더 많은 토큰을 가져오느라 돈을 낭비할 필요가 없죠 |
|
|
|
06:44.690 --> 06:51.350 |
|
이런 작업을 하기 때문에 250개의 데이터 포인트에 걸쳐 이 전체 작업은 아주 |
|
|
|
06:51.380 --> 06:52.520 |
|
저렴해요 |
|
|
|
06:52.610 --> 06:55.760 |
|
미국에 있는 제 자리예요 |
|
|
|
06:55.790 --> 06:58.870 |
|
가격은 그보다도 훨씬 less예요 |
|
|
|
06:58.870 --> 07:03.470 |
|
음, less 아, 그러니까 등급이 너무 적어서 사용자 인터페이스에서 안 보이는 거죠 |
|
|
|
07:03.470 --> 07:05.300 |
|
1센트도 안 되는 less요 |
|
|
|
07:05.480 --> 07:14.120 |
|
아주 저렴합니다 짧은 입력 토큰과 5개의 출력 토큰을 사용하니까요 |
|
|
|
07:14.690 --> 07:18.140 |
|
그리고 조심하기 전에 무슨 일이 일어나는지 말해야죠 |
|
|
|
07:18.260 --> 07:22.280 |
|
그 전에 이걸 빨리 해 보죠 |
|
|
|
07:22.280 --> 07:24.470 |
|
GPT 4를 돌려 보죠 |
|
|
|
07:24.470 --> 07:32.510 |
|
테스트 오브 제로로 성능을 확인해 보죠 |
|
|
|
07:32.570 --> 07:38.210 |
|
그걸 실행하면 답이 260으로 나와요 0살요 |
|
|
|
07:38.360 --> 07:42.140 |
|
GPT 4 미니라는 걸 거쳤네요 |
|
|
|
07:42.170 --> 07:44.480 |
|
그리고 뭔가 보내왔죠 |
|
|
|
07:44.510 --> 07:49.880 |
|
이것과 똑같은 것을 보냈고 받은 정보를 바탕으로 이 함수를 적용해서 260개를 |
|
|
|
07:49.880 --> 07:53.870 |
|
제거해 첫 번째 물건의 가격을 맞췄어요. |
|
|
|
07:54.140 --> 07:59.060 |
|
일단 첫 번째 물건의 가격부터 알아보죠 |
|
|
|
07:59.060 --> 07:59.810 |
|
조금요 |
|
|
|
08:02.000 --> 08:05.360 |
|
60까지 가면 숫자는 3, 7, 4가 되죠 |
|
|
|
08:05.360 --> 08:07.220 |
|
그래서 좀 멀리 갔죠 |
|
|
|
08:07.580 --> 08:08.030 |
|
네 |
|
|
|
08:08.060 --> 08:14.690 |
|
이제 테스터와 GPT 테스트를 통과할 시간입니다 미니 테스트죠 |
|
|
|
08:14.690 --> 08:20.720 |
|
제가 이미 실행해본 걸 몇 번 보셨을 겁니다 꽤 빠르거든요 하지만 전체를 다 하려면 |
|
|
|
08:20.720 --> 08:22.910 |
|
2, 3분 정도 걸려요 |
|
|
|
08:22.940 --> 08:27.620 |
|
여러분이 거기 앉아 계시는 동안 결과를 스크롤할 수 있게 하고 싶진 않았어요 |
|
|
|
08:27.620 --> 08:33.410 |
|
하지만 그 전에 GPT 4 미니가 어떻게 달릴지 한번 맞혀 보세요 |
|
|
|
08:33.410 --> 08:36.380 |
|
오리지널과 비교하면 어떨까요? |
|
|
|
08:36.410 --> 08:37.730 |
|
평균 수보다요? |
|
|
|
08:37.730 --> 08:42.440 |
|
제가 대표하는 인류에 대한 반발은 어떨까요? |
|
|
|
08:42.440 --> 08:49.190 |
|
또한 훈련용 400,000대의 모델이 있는 최첨단 전통 모델과는 어떻게 |
|
|
|
08:49.220 --> 08:50.990 |
|
경쟁할까요? |
|
|
|
08:50.990 --> 08:51.860 |
|
어디 보죠 |
|
|
|
08:51.860 --> 08:55.580 |
|
그래서 이걸 실행했더니 이렇게 됐어요 |
|
|
|
08:55.580 --> 09:02.690 |
|
노란색과 빨간색은 재생률이 아주 높아요 아까와 |
|
|
|
09:02.690 --> 09:07.640 |
|
같은 260개를 예상했죠 |
|
|
|
09:08.210 --> 09:12.680 |
|
녹색과 붉은색이 보이죠 |
|
|
|
09:12.710 --> 09:17.480 |
|
녹색은 많지만 노란색과 빨간색도 있어요 |
|
|
|
09:18.710 --> 09:20.240 |
|
속도를 높일게요 |
|
|
|
09:20.270 --> 09:22.400 |
|
채소가 정말 많네요 |
|
|
|
09:23.360 --> 09:24.710 |
|
붉은색과 녹색도 더 넣고요 |
|
|
|
09:24.710 --> 09:33.320 |
|
답은 이겁니다 GPT 4 미니 프론티어 모델 결과죠 |
|
|
|
09:33.740 --> 09:36.110 |
|
다른 건 다 박살 났죠 |
|
|
|
09:36.110 --> 09:37.250 |
|
박살을 냈죠 |
|
|
|
09:37.250 --> 09:42.770 |
|
여기 보시면 79달러가 들어 있어요 58살요 |
|
|
|
09:42.920 --> 09:52.400 |
|
확실히 인간보다 낫고 다른 모든 모델보다 나아요 무작위 숲도 포함해서요 |
|
|
|
09:52.400 --> 09:58.550 |
|
훈련 데이터도 전혀 없이 순수하게 설명만 듣고 |
|
|
|
09:58.550 --> 10:03.540 |
|
토큰 시퀀스를 계속하는 거죠 |
|
|
|
10:03.540 --> 10:09.360 |
|
훈련용 데이터 오염을 테스트할 위험은 있지만 그럴 가능성은 희박합니다 |
|
|
|
10:09.360 --> 10:13.650 |
|
정확히 해낼 경우가 거의 없으니까요 |
|
|
|
10:13.650 --> 10:17.730 |
|
이미 알고 있던 걸 토해낸 게 아니에요 |
|
|
|
10:17.880 --> 10:25.560 |
|
세속적인 지식이 아주 풍부해서 그런 쪽으로 훈련된 거죠 |
|
|
|
10:25.560 --> 10:32.970 |
|
타이어 가격, 전조등 가격 샤워 수도꼭지 등 다른 비용을 알려주는 좋은 |
|
|
|
10:32.970 --> 10:34.860 |
|
관점이 있어요 |
|
|
|
10:34.860 --> 10:37.620 |
|
그게 큰 문제였어요 전혀 알 수가 없었거든요 |
|
|
|
10:37.710 --> 10:40.260 |
|
하지만 아주 좋은 단서가 있었죠 |
|
|
|
10:40.350 --> 10:46.260 |
|
이 작업에 참여한 모든 모델보다 낫다는 걸 알 수 있었죠 |
|
|
|
10:46.260 --> 10:47.910 |
|
정말 멋져요 |
|
|
|
10:47.910 --> 10:50.940 |
|
이 장면을 보는 게 즐거웠어요 |
|
|
|
10:51.060 --> 10:59.370 |
|
다음 영상에서는 수준을 한 단계 높여서 더 큰 사촌이 어떻게 하는지 보죠
|
|
|