From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
133 lines
3.6 KiB
133 lines
3.6 KiB
WEBVTT |
|
|
|
00:00.770 --> 00:07.670 |
|
제가 아주 빨리 지나갔다는 건 알지만 어쩌면 당신은 아직도 눈을 깜빡이고 있을지도 |
|
|
|
00:07.700 --> 00:08.450 |
|
몰라요 |
|
|
|
00:08.450 --> 00:13.490 |
|
하지만 중요한 건 지금 돌아가서 직접 봐야 한다는 거예요 |
|
|
|
00:13.490 --> 00:17.540 |
|
코드를 실행하고 모드 스크린에서 무슨 일이 벌어지는지 보면 완전히 |
|
|
|
00:17.540 --> 00:18.770 |
|
이해가 될 거예요 |
|
|
|
00:18.950 --> 00:24.470 |
|
포옹하는 얼굴 토큰에 문제가 생길 수도 있으니 Jupyter 연구소에 더 나은 방법을 |
|
|
|
00:24.470 --> 00:25.310 |
|
알려줄게요 |
|
|
|
00:25.310 --> 00:26.570 |
|
아주 명확하죠 |
|
|
|
00:26.570 --> 00:32.540 |
|
네, 그렇게 될 것 같다면 꽤 간단할 겁니다 어떻게 작동하는지 왜 그렇게 |
|
|
|
00:32.540 --> 00:34.820 |
|
빠른지 보실 거예요 |
|
|
|
00:34.850 --> 00:37.010 |
|
처음으로 실행하는 거죠 |
|
|
|
00:37.010 --> 00:38.660 |
|
예열하려면 몇 분 걸려요 |
|
|
|
00:38.660 --> 00:44.120 |
|
하지만 그 후에 모델 무게를 캐시에 넣고 메모리에 로드했기 때문에 |
|
|
|
00:44.120 --> 00:47.390 |
|
방금처럼 빨리 실행될 거예요 |
|
|
|
00:47.450 --> 00:54.650 |
|
이제 모델을 가져다가 프로덕션에 배포하는 법을 배웠습니다 주피터 랩 같은 |
|
|
|
00:54.650 --> 01:03.590 |
|
것의 외부의 응용 프로그램에서 프로덕션 목적으로 파이썬 코드로 호출할 수 있도록요 |
|
|
|
01:04.040 --> 01:07.490 |
|
여러분도 이제 그걸 느끼기 시작하셨길 바라요 |
|
|
|
01:07.490 --> 01:12.350 |
|
이번 주는 중요한 한 주예요 에픽 프로젝트로 할 일이 많죠 |
|
|
|
01:12.350 --> 01:16.790 |
|
사실 다음 날 할 활동이 가장 큰 활동이에요 |
|
|
|
01:16.820 --> 01:18.740 |
|
많은 일이 벌어지고 있어요 |
|
|
|
01:18.860 --> 01:26.700 |
|
하지만 오늘 여러분께 상기시켜 드리자면 이건 서버리스 비 플랫폼 모듈을 이용한 프로덕션의 |
|
|
|
01:26.700 --> 01:30.390 |
|
모델 배포에 관한 거였어요 |
|
|
|
01:30.600 --> 01:37.350 |
|
어떤 면에서는 모델을 배포하거나 얼굴 엔드포인트를 이용해 안는 얼굴에 모델을 배포할 |
|
|
|
01:37.380 --> 01:38.940 |
|
때와 비슷해요 |
|
|
|
01:39.120 --> 01:44.850 |
|
하지만 이것으로 얻는 추가 기능성 코드로 인프라를 구성하는 |
|
|
|
01:44.850 --> 01:49.650 |
|
기능 가격 책정 방식 아주 아주 강력한 플랫폼이죠 |
|
|
|
01:49.920 --> 01:57.690 |
|
다음에는 고급 Wragg 솔루션을 만들 수 있을 거예요 이미 Wragg를 갖고 있다고요? |
|
|
|
01:57.690 --> 01:58.620 |
|
래그, 끝났어요 |
|
|
|
01:58.620 --> 01:59.670 |
|
래그를 잘 알죠 |
|
|
|
01:59.670 --> 02:01.140 |
|
더 잘 알게 될 거예요 |
|
|
|
02:01.140 --> 02:01.650 |
|
다음에요 |
|
|
|
02:01.650 --> 02:03.030 |
|
래그를 쓸 거예요 |
|
|
|
02:03.030 --> 02:05.010 |
|
체인 없이 바로 할 거예요 |
|
|
|
02:05.010 --> 02:05.940 |
|
우린 이제 프로예요 |
|
|
|
02:05.940 --> 02:06.930 |
|
긴 체인은 필요 없어요 |
|
|
|
02:06.930 --> 02:08.070 |
|
우리가 하면 돼요 |
|
|
|
02:08.070 --> 02:14.820 |
|
크롬 데이터 스토어에서 찾아보고 모델에 컨텍스트를 주는 데 사용할 거예요 |
|
|
|
02:14.820 --> 02:18.180 |
|
아주 방대한 데이터 스토어가 되겠죠 |
|
|
|
02:18.180 --> 02:23.790 |
|
앙상블 모델이라는 걸 만들 거예요 여러 모델을 |
|
|
|
02:23.790 --> 02:25.590 |
|
합친 모델이죠 |
|
|
|
02:25.590 --> 02:32.400 |
|
다양한 모델을 포괄하는 생산 준비 코드를 제공할 수 있죠 |
|
|
|
02:32.400 --> 02:39.360 |
|
여러분의 기술을 강화하고 전문성을 구축하는 게 중요합니다 LM 엔지니어링에 |
|
|
|
02:39.360 --> 02:46.140 |
|
관해 아는 것에서 LM 엔지니어링의 달인이 되는 과정에서요 |
|
|
|
02:46.350 --> 02:48.330 |
|
그럼 다음 시간에 뵙죠
|
|
|