From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
220 lines
6.5 KiB
220 lines
6.5 KiB
WEBVTT |
|
|
|
00:00.530 --> 00:01.130 |
|
글쎄요 |
|
|
|
00:01.130 --> 00:01.730 |
|
안녕하세요 |
|
|
|
00:01.730 --> 00:07.520 |
|
8주 차 중 이틀째예요 지금까지 버텨줘서 정말 고마워요 4일 |
|
|
|
00:07.520 --> 00:11.090 |
|
더 남은 시점에 도달했다는 것도요 |
|
|
|
00:11.090 --> 00:18.050 |
|
한마디만 하자면 오늘 코스가 전체 코스 중 가장 힘들 거예요 |
|
|
|
00:18.050 --> 00:22.250 |
|
오늘 하루를 무사히 넘기고 모든 걸 파악하고 코드를 실행하고 |
|
|
|
00:22.250 --> 00:27.860 |
|
모든 게 말이 된다면 여러분은 이미 LM 엔지니어링을 통달한 거예요 |
|
|
|
00:27.860 --> 00:29.060 |
|
이게 핵심이에요 |
|
|
|
00:29.090 --> 00:30.530 |
|
오늘은 힘들 거예요 |
|
|
|
00:30.710 --> 00:31.940 |
|
준비하세요 |
|
|
|
00:32.060 --> 00:35.780 |
|
하지만 정말 재미있을 거예요 |
|
|
|
00:35.780 --> 00:38.600 |
|
Get in get 멋진 성과를 거두게 될 거예요 |
|
|
|
00:38.600 --> 00:45.020 |
|
LM 마스터링까지 8주 여정이 4일 남았네요 |
|
|
|
00:45.050 --> 00:46.610 |
|
이제 거의 다 왔어요 |
|
|
|
00:46.610 --> 00:52.070 |
|
물론 이미 오픈 소스 모델로 텍스트와 코드를 생성할 수 있고 얼굴을 앞으로 |
|
|
|
00:52.100 --> 00:58.610 |
|
당길 수 있으며 기본 모델을 만들기 어려운 큐레이팅 데이터 집합으로 문제를 해결하는 |
|
|
|
00:58.610 --> 01:04.340 |
|
전략을 따를 수 있고 오픈 소스 LMS를 미세 조정하는 풀-엔드 투-엔드 |
|
|
|
01:04.410 --> 01:07.770 |
|
프로세스를 수행할 수 있죠 |
|
|
|
01:07.860 --> 01:14.640 |
|
마지막으로, 지난번에 한 건 잘 조정된 LMS를 프로덕션에 배포하는 거였죠 |
|
|
|
01:14.670 --> 01:15.750 |
|
우린 모듈을 써요 |
|
|
|
01:15.750 --> 01:20.400 |
|
다른 것도 많지만 Modal도 훌륭합니다 간단한 파이썬 코드를 |
|
|
|
01:20.400 --> 01:23.220 |
|
작성해서 로컬에서 실행할 수 있죠 |
|
|
|
01:23.220 --> 01:28.470 |
|
로컬에서 실행되는 것처럼 보이지만 사실은 클라우드에서 실행되는 모델에 |
|
|
|
01:28.470 --> 01:30.270 |
|
호출하는 거예요 |
|
|
|
01:30.300 --> 01:32.910 |
|
사용료만 지불하는 거죠 |
|
|
|
01:33.360 --> 01:43.770 |
|
오늘은 추가로 가격 모델을 살펴봅니다 최종 가격 모델을 만드는 동안에요 |
|
|
|
01:43.770 --> 01:48.330 |
|
그게 앙상블이 될 거예요 여러 모델을 합친 거죠 |
|
|
|
01:48.330 --> 01:55.230 |
|
다시 Rag로 돌아가 거대한 크롬 데이터 스토어에 대항할 프런티어 모델 |
|
|
|
01:55.260 --> 01:58.110 |
|
솔루션을 개발할 거예요 |
|
|
|
01:58.140 --> 02:00.870 |
|
그리고 전과는 다르게 랑체인을 사용하지 않을 거예요 |
|
|
|
02:00.870 --> 02:06.390 |
|
벡터 스토어에서 직접 찾아보고 프롬프트를 구축하는데 사용합니다, |
|
|
|
02:06.390 --> 02:07.380 |
|
좋은 일이죠 |
|
|
|
02:07.380 --> 02:11.320 |
|
이불 밑의 일을 정확히 이해하게 돼서 좋네요 |
|
|
|
02:11.650 --> 02:17.380 |
|
그런 다음 높은 수준의 전문성을 가진 이 앙상블 모델을 만들 겁니다 그리고 생산 |
|
|
|
02:17.380 --> 02:21.370 |
|
준비 코드를 제공하고 여러 모델을 호출할 수 있죠 |
|
|
|
02:21.370 --> 02:26.680 |
|
여기서 가장 중요한 건 우리가 하는 많은 일이 이전에 해 본 |
|
|
|
02:26.680 --> 02:31.090 |
|
일을 반복하는 것이긴 하지만 좀 더 산업적인 방식으로요 |
|
|
|
02:31.120 --> 02:35.290 |
|
비트를 더 탄탄하게 만드는 거죠 |
|
|
|
02:35.290 --> 02:41.020 |
|
LM 엔지니어링의 다양한 측면에서 상당히 확신하는 지점에서 고급으로 |
|
|
|
02:41.020 --> 02:47.290 |
|
가는 겁니다 그러니 코드를 검토할 시간을 갖고 이걸 기회로 삼아 연습, |
|
|
|
02:47.290 --> 02:54.100 |
|
연습, 연습 진정한 전문 지식을 구축했다는 느낌이 들도록 하세요 |
|
|
|
02:54.850 --> 02:55.390 |
|
좋아요 |
|
|
|
02:55.390 --> 02:59.530 |
|
우리가 작업하는 프로젝트가 뭔지 다시 한 번 보죠 |
|
|
|
02:59.560 --> 03:07.000 |
|
가격은 오른쪽 프로젝트라는 자율적 에이전트 프레임워크를 구축하는 겁니다 에이전트 |
|
|
|
03:07.000 --> 03:14.080 |
|
워크플로는 온라인 거래가 공개될 때를 주시하고 가격을 예측하고 가격에 따라 |
|
|
|
03:14.080 --> 03:20.410 |
|
푸시 알림을 보냅니다 여러 에이전트가 문제를 해결하기 위해 협업할 겁니다 |
|
|
|
03:20.410 --> 03:30.670 |
|
그중에는 개척자 단속 모델인 미세 튜닝 모델도 있습니다 GPT 4와 클로드보다 현저히 뛰어나죠 |
|
|
|
03:30.700 --> 03:37.390 |
|
지난번에 이 다이어그램을 보여드린 걸 기억하실 겁니다 에이전트 워크플로를 보여드렸죠 왼쪽은 사용자 |
|
|
|
03:37.390 --> 03:43.960 |
|
인터페이스 우리가 사용할 프레임워크입니다 에이전트가 활동을 조율하도록 계획하는 거죠 |
|
|
|
03:43.960 --> 03:50.830 |
|
그리고 유망한 계약을 찾아주는 스캐닝 요원 세 명 앙상블 가격 산정 푸시 |
|
|
|
03:50.830 --> 03:54.640 |
|
알림을 보내줄 메시지 요원 한 명요 |
|
|
|
03:54.760 --> 04:01.150 |
|
이건 약간 단순화됐다는 걸 말씀드리고 싶었어요 앙상블 비트 자체가 세 가지 |
|
|
|
04:01.150 --> 04:03.520 |
|
모델을 부를 테니까요 |
|
|
|
04:03.520 --> 04:11.710 |
|
프런티어 에이전트를 호출할 거예요 검색할 수 있는 많은 기존 제품 인벤토리에 기반을 |
|
|
|
04:11.710 --> 04:15.430 |
|
둔 가격 매기는 래그 워크플로우죠 |
|
|
|
04:15.440 --> 04:18.170 |
|
걸레로 쓰기 딱 좋아요 |
|
|
|
04:18.200 --> 04:23.090 |
|
물론 제가 말씀드린 대로 이미 생각해 보셨을 테니 왜 이걸 시도도 안 했나 궁금하실 |
|
|
|
04:23.090 --> 04:24.050 |
|
거예요 |
|
|
|
04:24.080 --> 04:24.800 |
|
그렇게 될 거예요 |
|
|
|
04:24.830 --> 04:31.430 |
|
오늘 앙상블 에이전트는 우리가 이미 만들어둔 특수 에이전트를 사용할 거예요 대표할 |
|
|
|
04:31.460 --> 04:38.330 |
|
특수 에이전트 클래스 같은 거죠 임의 숲 에이전트를 사용할 건데 전통적인 머신 러닝 |
|
|
|
04:38.330 --> 04:42.800 |
|
접근법으로 임의 숲 에이전트를 만들 거예요 |
|
|
|
04:42.830 --> 04:44.690 |
|
반전이 있을 거예요 |
|
|
|
04:44.720 --> 04:49.910 |
|
변압기 구조를 사용할 벡터 내장화를 사용할 거예요 |
|
|
|
04:49.910 --> 04:54.110 |
|
전통적인 ML을 현대적으로 재해석한 거군요 |
|
|
|
04:54.290 --> 05:00.320 |
|
기본적으로 오늘은 저기 빨간 아이콘들을 작업할 거예요 |
|
|
|
05:00.320 --> 05:02.060 |
|
앙상블 에이전트를 만들 거예요 |
|
|
|
05:02.060 --> 05:03.740 |
|
특수 요원은 이미 만들었어요 |
|
|
|
05:03.740 --> 05:09.050 |
|
나머지 둘은 오늘 정복에 참여할 거예요 |
|
|
|
05:09.050 --> 05:15.290 |
|
그리고 오늘 마무리로 앙상블 에이전트가 가격을 계산하고 다른 평가자 여럿을 |
|
|
|
05:15.290 --> 05:16.910 |
|
끌어들일 거예요 |
|
|
|
05:16.940 --> 05:18.230 |
|
그게 도전 과제죠 |
|
|
|
05:18.230 --> 05:20.150 |
|
Get it JupyterLab으로 가죠
|
|
|