From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
250 lines
7.5 KiB
250 lines
7.5 KiB
WEBVTT |
|
|
|
00:00.680 --> 00:01.790 |
|
안녕하세요 |
|
|
|
00:01.790 --> 00:08.060 |
|
7주 차에 제가 이렇게 흥분한 이유는 우리만의 모델을 구축하기 |
|
|
|
00:08.060 --> 00:10.790 |
|
시작했기 때문이죠 |
|
|
|
00:10.790 --> 00:16.910 |
|
우리만의 인공지능을 개발하기 시작하는 시기예요 개척자 모델과 경쟁할 |
|
|
|
00:16.910 --> 00:23.780 |
|
수 있는 제품을 만들려고 해요 적어도 몇몇 개척자 모델보다 나은 제품을 만들려고 |
|
|
|
00:23.780 --> 00:25.550 |
|
노력하죠 |
|
|
|
00:25.580 --> 00:32.300 |
|
그게 가능한 이유는 데이터가 많은 특정 문제를 해결하려 하기 때문이죠 |
|
|
|
00:32.300 --> 00:38.960 |
|
그래서 프런티어 모델보다 훨씬 작은 모델을 쓸 수 있어요 |
|
|
|
00:38.960 --> 00:41.990 |
|
80억 개의 매개 변수 모델을 사용할 수 있어요 |
|
|
|
00:41.990 --> 00:50.810 |
|
한 가지 집중된 작업에서 뛰어난 성과를 내면 거대한 거대 기업과 경쟁할 수 있습니다 GPT |
|
|
|
00:50.810 --> 00:53.840 |
|
40 같은 거대 기업요 |
|
|
|
00:54.290 --> 01:00.560 |
|
GPT 4에는 수조 개의 매개 변수가 있지만 다양한 용도로 설계되었기 때문입니다 |
|
|
|
01:00.560 --> 01:04.790 |
|
대선 후보에 관한 재치 있는 시를 쓰는 것도 그중 하나죠 |
|
|
|
01:05.060 --> 01:09.980 |
|
이 모든 걸 할 수는 없겠지만 제품 가격을 예측하는 데에 |
|
|
|
01:09.980 --> 01:12.620 |
|
정말 최선을 다할 거예요. |
|
|
|
01:12.620 --> 01:13.970 |
|
우리만의 방식이죠 |
|
|
|
01:13.970 --> 01:15.350 |
|
그건 우리 사업상의 문제예요 |
|
|
|
01:15.350 --> 01:17.210 |
|
그걸 해결하려고 해요 |
|
|
|
01:17.240 --> 01:24.170 |
|
첫 단계는 어떤 모델을 미세 조정의 베이스 모델로 쓸지 결정하는 겁니다 시간을 |
|
|
|
01:24.170 --> 01:31.280 |
|
들일 가치가 있는 일이죠 우리가 만들 것에 결정적인 역할을 할 테니까요 |
|
|
|
01:31.670 --> 01:34.880 |
|
그 자체로 하나의 거대한 하이퍼 매개 변수라고 생각할 수 있죠 |
|
|
|
01:34.880 --> 01:38.120 |
|
다른 기본 모델을 시험해 보고 어떻게 되는지 보죠 |
|
|
|
01:38.120 --> 01:45.020 |
|
그 일부로 그 훈련받은 모델의 원래 버전을 쓸지 결정해야 해요 |
|
|
|
01:45.020 --> 01:47.360 |
|
바로 그 기본 모델요 |
|
|
|
01:47.360 --> 01:53.390 |
|
사람들은 그걸 설명하기 위해 파운데이션 모델이란 단어를 쓰는데 |
|
|
|
01:53.390 --> 02:00.860 |
|
채팅 목적으로 잘 만들어진 건 반대로 변환이라고도 하죠 사전이나 사전 목록을 기대하는 |
|
|
|
02:00.950 --> 02:08.360 |
|
거예요 사용자 프롬프트 시스템이나 사용자 보조 같은 게 있는 거죠 |
|
|
|
02:08.370 --> 02:15.120 |
|
입력 스타일은 프롬프트의 다른 섹션을 분리하는 토큰 시리즈로 |
|
|
|
02:15.120 --> 02:16.530 |
|
바뀌죠 |
|
|
|
02:16.530 --> 02:18.540 |
|
그래서 결정을 내려야 해요 |
|
|
|
02:18.540 --> 02:20.520 |
|
물론 장단점이 있죠 |
|
|
|
02:20.700 --> 02:26.550 |
|
그 작업이 끝나면 기존의 기본 모델을 가져다가 우리 과제와 어떻게 |
|
|
|
02:26.550 --> 02:31.920 |
|
맞물리는지 봐야 해요 우리가 이미 프런티어 모델과 경쟁하는 |
|
|
|
02:31.920 --> 02:34.950 |
|
위치에 있는지 알 수 있으니까요 |
|
|
|
02:34.950 --> 02:40.320 |
|
우리가 개척 시대 모델들과 경쟁하지 않더라도 무료로 진행될 거라는 걸 기억하세요 적어도 |
|
|
|
02:40.320 --> 02:42.030 |
|
비용은 우리가 부담해야죠 |
|
|
|
02:42.030 --> 02:48.330 |
|
계산을 실행해 API 비용을 내지 않아도 되죠 고유의 오픈 소스 버전 모델을 실행할 |
|
|
|
02:48.330 --> 02:48.840 |
|
때요 |
|
|
|
02:48.840 --> 02:54.210 |
|
따라서 올바른 영역에 있다 해도 오픈 소스를 써야 할 이유는 여전히 많아요 |
|
|
|
02:54.210 --> 03:00.600 |
|
이런 특정 비즈니스 문제에 특화된 독점 모델로 만들자는 얘기가 나오기 전부터요 |
|
|
|
03:00.600 --> 03:05.910 |
|
어쨌든 그걸 염두에 두고 어떤 모델을 사용할지 얘기해보죠 |
|
|
|
03:06.060 --> 03:09.420 |
|
우선 매개 변수를 몇 개 쓸지 정해야 해요 |
|
|
|
03:09.420 --> 03:13.830 |
|
많을수록 좋은 것 같아요 |
|
|
|
03:13.860 --> 03:19.140 |
|
매개 변수가 많을수록 문제 해결에 도움이 돼요 |
|
|
|
03:19.140 --> 03:25.800 |
|
특히 훈련 데이터가 많은 현재 세계에서는 400,000개의 예가 |
|
|
|
03:25.830 --> 03:26.670 |
|
있어요 |
|
|
|
03:26.670 --> 03:28.980 |
|
훈련 데이터가 아주 많아요 |
|
|
|
03:28.980 --> 03:31.020 |
|
그런 면에서 한계가 있는 건 아니잖아요 |
|
|
|
03:31.020 --> 03:33.180 |
|
원하면 언제든 더 만들 수 있어요 |
|
|
|
03:33.210 --> 03:39.270 |
|
그래서 제약 조건은 우리가 가진 메모리 용량의 양이 될 거예요 |
|
|
|
03:39.300 --> 03:42.270 |
|
작은 상자에 넣을 거예요 |
|
|
|
03:42.300 --> 03:49.740 |
|
지금까지는 이미 알고 있었어요 약 80억 개의 매개 변수 모델을 얻을 수 있다는 것을요. |
|
|
|
03:49.770 --> 03:51.150 |
|
70억에서 80억 매개 변수죠 |
|
|
|
03:51.150 --> 03:53.430 |
|
그 이상은 못 가요 |
|
|
|
03:53.460 --> 03:59.850 |
|
작은 매개 변수 모델이 있긴 하지만요 아주 작죠 젬마 같은 경우 20억에서 30억 |
|
|
|
03:59.850 --> 04:02.400 |
|
개의 매개 변수 버전일 거예요 |
|
|
|
04:02.400 --> 04:04.080 |
|
잠시 후에 살펴보죠 |
|
|
|
04:04.230 --> 04:12.660 |
|
8대를 가져가려고 해요 저희 예산에 맞는 |
|
|
|
04:12.660 --> 04:16.510 |
|
가장 큰 모델로요 |
|
|
|
04:16.660 --> 04:22.930 |
|
그게 저희가 베이스나 변형을 만들 때 접근하는 방식이죠 |
|
|
|
04:22.930 --> 04:26.710 |
|
장단점이 있는데 실험해 볼 만한 거예요 |
|
|
|
04:26.740 --> 04:35.500 |
|
일반적으로, 한 가지 문제에 대해서만 미세 조정할 수 있습니다 특정 프롬프트를 이용하고 있고 특정 |
|
|
|
04:35.500 --> 04:41.230 |
|
방식으로 응답을 기대한다면 기본 모델로 시작하는 것이 좋습니다 |
|
|
|
04:41.230 --> 04:48.640 |
|
변종은 아닙니다 시스템 프롬프트나 사용자 프롬프트 같은 것을 적용할 필요가 없습니다 |
|
|
|
04:48.640 --> 04:53.200 |
|
한 가지 목적으로만 훈련시킬 것이기 때문이죠 |
|
|
|
04:53.230 --> 05:00.490 |
|
그러니 기본을 하나 골라서 미세 조정하세요 그 작업에만 정말 잘하도록요 |
|
|
|
05:00.490 --> 05:02.680 |
|
그게 기본 대답이에요 |
|
|
|
05:02.710 --> 05:06.850 |
|
변종으로 시작하면 좋은 점이 있어요 |
|
|
|
05:06.850 --> 05:08.890 |
|
하나는 아주 맛있다는 거죠 |
|
|
|
05:08.950 --> 05:15.220 |
|
시스템 프롬프트나 사용자 보조 상호 작용 같은 걸 인식하도록 훈련받았죠 |
|
|
|
05:15.220 --> 05:20.710 |
|
이를 장점으로 활용할 수 있습니다 시스템 프롬프트를 이용해 |
|
|
|
05:20.710 --> 05:28.150 |
|
특정 방식으로 틀을 잡고 작업하는 거죠 인격에 의존하지 않고 훈련 데이터를 통해 |
|
|
|
05:28.150 --> 05:31.210 |
|
인격을 익히는 거예요 |
|
|
|
05:31.210 --> 05:37.300 |
|
그래서 변형 구성이 더 나은 출발점이 되는 상황도 있어요 |
|
|
|
05:37.450 --> 05:46.450 |
|
제 직감으로는 기초가 더 나은 출발점입니다 훈련 데이터와 목표에 |
|
|
|
05:46.450 --> 05:51.610 |
|
사용할 정해진 구조가 있으니까요 |
|
|
|
05:51.880 --> 05:58.120 |
|
사실 둘 다 써봤는데 밑바탕이 개별 제품보다 조금 더 잘 나왔어요 하지만 막상막하였죠 |
|
|
|
05:58.180 --> 06:02.770 |
|
어, 둘 다 해 보시고 저랑 같은 결과가 나오는지 확인해 보세요 Get up |
|
|
|
06:02.770 --> 06:09.070 |
|
하지만 이런 상황에서는 더 정상적일 것 같아요 하나의 특정 작업이 있는데 |
|
|
|
06:09.070 --> 06:15.040 |
|
시스템 프롬프트를 적용할 필요가 없을 때요 그런 경우 기본 변종에서 |
|
|
|
06:15.040 --> 06:16.090 |
|
시작하죠 |
|
|
|
06:16.600 --> 06:23.470 |
|
소개를 마쳤으니 이제 안아주는 얼굴로 넘어가죠 오픈 leaderboard에서 모델들을 살펴볼게요 |
|
|
|
06:23.470 --> 06:24.670 |
|
HOLO
|
|
|