From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
163 lines
4.7 KiB
163 lines
4.7 KiB
WEBVTT |
|
|
|
00:00.800 --> 00:01.310 |
|
글쎄요 |
|
|
|
00:01.310 --> 00:02.450 |
|
안녕하세요, 여러분 |
|
|
|
00:02.450 --> 00:06.770 |
|
7주 차까지 살아남아서 정말 다행이에요 |
|
|
|
00:06.800 --> 00:10.670 |
|
정말 굉장하네요 실망시키지 않을 거예요 |
|
|
|
00:10.670 --> 00:12.530 |
|
보상은 충분히 해드리죠 |
|
|
|
00:12.530 --> 00:13.190 |
|
가고 있어요 |
|
|
|
00:13.220 --> 00:15.830 |
|
정말 멋진 콘텐츠가 기다리고 있어요 |
|
|
|
00:15.830 --> 00:22.250 |
|
지난주 실망스러운 결과로 비트가 좀 가라앉았을 거예요 |
|
|
|
00:22.250 --> 00:25.760 |
|
과대광고 끝에 미개척 모델을 다듬었어요 |
|
|
|
00:25.850 --> 00:31.040 |
|
하지만 긴장되고 실망스러운 시기가 있는 좋은 영화와 같다는 건 말씀드릴 |
|
|
|
00:31.040 --> 00:32.210 |
|
수 있어요 |
|
|
|
00:32.420 --> 00:35.870 |
|
구원을 받을 거예요 구원을 받을 거예요 |
|
|
|
00:35.870 --> 00:41.480 |
|
저처럼 계속 노력하는지 두고 봐야죠 결과를 보고도 어느 |
|
|
|
00:41.480 --> 00:45.260 |
|
정도 나아졌는지 확인할 거예요 |
|
|
|
00:45.260 --> 00:50.960 |
|
미세 조정으로 원래의 비튜니티 버전보다 더 나은 결과를 |
|
|
|
00:51.200 --> 00:58.910 |
|
얻을 수 있는 지점에 이르렀죠 큰 차이는 없지만 어제보다 약간 나아졌어요 |
|
|
|
00:58.910 --> 01:02.260 |
|
어쨌든 지금은 빨리 진행할게요 |
|
|
|
01:02.260 --> 01:08.860 |
|
이제 7주 차예요 어떤 주를 준비했다고 했죠? |
|
|
|
01:09.010 --> 01:10.780 |
|
엄청난 한 주예요 |
|
|
|
01:10.780 --> 01:12.400 |
|
정말 중요한 한 주예요 |
|
|
|
01:12.400 --> 01:15.220 |
|
기대치를 높이는 한 주예요 |
|
|
|
01:15.220 --> 01:22.600 |
|
llm의 딥 러닝 영역에서 고급 기술을 습득하는 단계에 |
|
|
|
01:22.600 --> 01:23.920 |
|
이르렀죠 |
|
|
|
01:23.920 --> 01:29.860 |
|
훈련에 더 깊이 들어가면 이미 할 수 있는 건 프론티어 모델, API |
|
|
|
01:29.890 --> 01:35.350 |
|
페이스 오픈 소스 코드로 텍스트와 코드를 생성할 수 있어요 |
|
|
|
01:35.350 --> 01:41.080 |
|
래그 파이프라인을 만들 수 있고 데이터 세트를 만들 수도 있어요 |
|
|
|
01:41.380 --> 01:47.260 |
|
데이터 세트와 기준 모델 개척 모델에 꽤 오랜 시간을 투자했어요 미세 조정할 수 있는 |
|
|
|
01:47.260 --> 01:49.450 |
|
모델이라 결과가 좋진 않았죠 |
|
|
|
01:49.450 --> 01:53.830 |
|
오늘 유스케이스는 Get 케이스예요 |
|
|
|
01:53.860 --> 01:59.160 |
|
로라라는 기술을 이용해 오픈 소스 모델을 미세 조정하는 거죠 |
|
|
|
01:59.160 --> 02:00.870 |
|
퀀타이즈를 설명할게요 |
|
|
|
02:00.870 --> 02:09.480 |
|
Q 로라에 관해 얘기하면서 세 가지 핵심 하이퍼파라미터 R 알파와 표적 모듈에 관해 얘기할 겁니다 처음 마주치는 |
|
|
|
02:09.780 --> 02:13.980 |
|
거라면 스타트렉에서 튀어나온 것 같지만 오늘 저녁이면 |
|
|
|
02:13.980 --> 02:17.460 |
|
완전히 이해하게 될 거예요 |
|
|
|
02:17.580 --> 02:23.550 |
|
시작하기 전에 8주간의 계획을 다시 한번 짚고 넘어가죠 지금 이 시점에서는 지루하게 |
|
|
|
02:23.580 --> 02:29.130 |
|
느껴질 수도 있지만 자신의 성취에 자부심을 갖는 게 중요하다고 생각해요 모든 |
|
|
|
02:29.130 --> 02:33.960 |
|
걸 어디서 배웠는지 어디서 시작했는지 기억해야 하죠 |
|
|
|
02:34.290 --> 02:41.220 |
|
처음 모였을 때 Lms와 프론티어 모델에 대해 이야기하고 두 가지를 비교했습니다. |
|
|
|
02:41.250 --> 02:50.460 |
|
UI 사용도 살펴보고 그래디오와 에이전트 Iization 다중 모듈도 사용했죠. |
|
|
|
02:50.490 --> 02:55.530 |
|
그다음은 페이스 더 파이프라인 포옹 토큰라이저와 모델이었죠 |
|
|
|
02:55.530 --> 03:01.900 |
|
4주 차에는 LMS를 선택해 코드를 생성했죠 작업을 위해서요 |
|
|
|
03:01.900 --> 03:04.060 |
|
5주 차에는 엉망이었어요 |
|
|
|
03:04.060 --> 03:09.580 |
|
크로마와 랑 체인을 이용해 랙 파이프라인을 지었어요 프로젝트를 맡아주셨으면 해요 |
|
|
|
03:09.580 --> 03:12.580 |
|
사람들이 거기서 뭘 할지 정말 기대돼요 |
|
|
|
03:12.820 --> 03:16.510 |
|
지난주에는 개척 시대 모델을 미세 조정했어요 |
|
|
|
03:16.510 --> 03:17.980 |
|
이제 어떻게 하는지 알죠? |
|
|
|
03:17.980 --> 03:19.660 |
|
데이터 집합을 만드는 걸 이해하죠 |
|
|
|
03:19.660 --> 03:23.950 |
|
어떻게 작동하는지 알고 언제 가장 적합한지 알죠 그런 |
|
|
|
03:23.950 --> 03:28.870 |
|
뉘앙스를 다룰 때요 우리 경우에 별로 적합하지 않을 때는 기능성을 |
|
|
|
03:28.870 --> 03:33.820 |
|
구축할 때죠 프런티어 모델은 이미 너무 크니까요 |
|
|
|
03:34.270 --> 03:41.470 |
|
이제 7주 차인데 오픈 소스 모델을 미세 조정할 거예요 프론티어 모델보다 |
|
|
|
03:41.470 --> 03:46.540 |
|
훨씬 작은 모델이죠 어떻게 되는지 보죠 get it |
|
|
|
03:46.540 --> 03:49.120 |
|
8주 차부터 모든 게 합쳐지죠 |
|
|
|
03:49.210 --> 03:55.300 |
|
이 소개로 오늘의 주요 주제는 로라입니다 바로 시작해 보죠
|
|
|