From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
148 lines
4.7 KiB
148 lines
4.7 KiB
WEBVTT |
|
|
|
00:00.860 --> 00:04.520 |
|
Hrag와 여정을 계속하는 걸 환영해요 |
|
|
|
00:04.520 --> 00:08.120 |
|
오늘 량천을 공개할 거예요 |
|
|
|
00:08.120 --> 00:12.410 |
|
먼저 Hrag와 관련해 여러분이 이미 할 수 있는 걸 간단히 상기시켜 드리죠 |
|
|
|
00:12.410 --> 00:16.280 |
|
지난 시간에는 Hrag의 단순한 아이디어를 다뤘죠 |
|
|
|
00:16.280 --> 00:21.380 |
|
관련 맥락을 검색해 그걸 프롬프트 안에 포함할 수 있다는 생각이죠 |
|
|
|
00:21.380 --> 00:27.380 |
|
벡터에 대해서도 비트 했죠 텍스트가 의미를 나타내는 벡터에 매핑되는 방법도요 |
|
|
|
00:27.380 --> 00:33.470 |
|
이 벡터를 이용해 프롬프트에 대한 관련 컨텍스트를 어떻게 선택할지 보다 영리해지려고 노력할 |
|
|
|
00:33.470 --> 00:34.340 |
|
수 있어요 |
|
|
|
00:34.520 --> 00:37.220 |
|
오늘은 랑 체인에 대해 얘기해 보죠 |
|
|
|
00:37.220 --> 00:40.400 |
|
프레임워크와 장단점을 설명해 드릴게요 |
|
|
|
00:40.400 --> 00:47.060 |
|
랭 체인을 이용해 지식 기반에서 읽고 관련 정보 덩어리로 나눌 겁니다 나중에 |
|
|
|
00:47.060 --> 00:51.590 |
|
벡터 데이터베이스에 넣고 검색할 정보죠 |
|
|
|
00:51.830 --> 00:54.830 |
|
랑 체인의 배경은 이거예요 |
|
|
|
00:54.830 --> 00:56.810 |
|
비교적 최근에 만들어진 프레임워크예요 |
|
|
|
00:56.810 --> 01:05.870 |
|
2022년 말에 만들어진 이 제품의 주요 목표는 사람들이 LLM 애플리케이션을 빠르게 구축할 수 있게 하는 것입니다 |
|
|
|
01:05.900 --> 01:11.840 |
|
다양한 기능성 비트를 함께 엮어서 일종의 프로세싱 사슬을 만드는 것이죠 |
|
|
|
01:11.930 --> 01:19.860 |
|
그들만의 언어가 있어요 선언어죠 랭 체인 표현 언어예요 |
|
|
|
01:19.890 --> 01:23.280 |
|
LCL이요 이건 사용하지 않을 거예요 |
|
|
|
01:23.280 --> 01:28.110 |
|
특히 제가 보여드릴 텐데요 파이썬 코드로 랑 체인을 이용하는 더 |
|
|
|
01:28.110 --> 01:29.820 |
|
간단한 방법도 있어요 |
|
|
|
01:30.330 --> 01:31.980 |
|
장단점이 뭐가 있죠? |
|
|
|
01:31.980 --> 01:40.890 |
|
어시스트나 Rag 같은 일반적인 작업을 위해 응용 프로그램 생성을 크게 단순화하죠 |
|
|
|
01:40.920 --> 01:44.310 |
|
보다시피 코드 몇 줄로 끝날 거예요 |
|
|
|
01:44.310 --> 01:46.800 |
|
그래서 판매 시간을 단축할 수 있죠 |
|
|
|
01:46.800 --> 01:50.190 |
|
천 조각 같은 건 마법과는 거리가 멀어요 |
|
|
|
01:50.190 --> 01:55.470 |
|
브루트 포스 방식으로 할 수도 있습니다 벡터 데이터베이스를 찾아 프롬프트에 추가하는 거죠 |
|
|
|
01:55.500 --> 02:01.260 |
|
랭 체인은 모든 걸 쉽고 빠르게 표준화하고 단순화해요 |
|
|
|
02:01.290 --> 02:08.520 |
|
일반적인 모델에 관한 유용한 래퍼 코드이기도 하죠 코드를 한 번 작성하고 OpenAI나 클로드 |
|
|
|
02:08.520 --> 02:13.770 |
|
같은 다른 모델을 전환할 수 있어요 API에서의 약간의 차이를 처리할 |
|
|
|
02:13.770 --> 02:17.400 |
|
필요가 없죠 좀 편리하다고 생각하실 거예요 |
|
|
|
02:17.400 --> 02:19.680 |
|
우리가 직접 할 수 있다고 상상해 보세요 |
|
|
|
02:19.680 --> 02:26.040 |
|
래퍼 함수를 쓸 수 있어요 그래디오를 이용해 두 개의 다른 llm을 호출했을 때처럼요 |
|
|
|
02:26.040 --> 02:28.470 |
|
랑 체인이 한 일이 바로 그거예요 |
|
|
|
02:28.470 --> 02:32.140 |
|
일반적인 API 주변에 래퍼를 구축했어요 |
|
|
|
02:32.770 --> 02:39.730 |
|
LMS에 대한 API가 성숙해지면서 점점 유사해지고 이를 위한 일종의 |
|
|
|
02:39.760 --> 02:46.090 |
|
코드 스크립트가 점점 광범위해지면서 랭 체인 같은 기본 프레임워크에 |
|
|
|
02:46.090 --> 02:51.130 |
|
대한 필요성이 적어도 1년 전보다는 줄었어요 |
|
|
|
02:51.370 --> 02:53.020 |
|
비트가 좀 줄었네요 |
|
|
|
02:53.050 --> 02:57.190 |
|
래그 파이프라인을 직접 만드는 사람이 많아요 래그 파이프라인을 |
|
|
|
02:57.190 --> 03:00.880 |
|
직접 만드는 거죠 얼마나 쉬운지 보실 거예요 |
|
|
|
03:01.000 --> 03:04.810 |
|
랭 체인에서 출발하면 유리할 거예요 HMSW HMSW HMSW |
|
|
|
03:04.810 --> 03:08.620 |
|
오늘날 보시게 될 아주 유용한 프레임워크죠 |
|
|
|
03:09.670 --> 03:14.050 |
|
그래서 랭 체인을 이용해 지식 기반을 로드할 거예요 |
|
|
|
03:14.050 --> 03:20.950 |
|
먼저 폴더에 저장된 모든 문서를 읽겠습니다 일부 도구를 이용해서요 |
|
|
|
03:21.340 --> 03:26.590 |
|
그런 다음 문서에 메타데이터를 추가해 어떤 종류의 문서인지 알려줍니다 나중에 |
|
|
|
03:26.620 --> 03:28.150 |
|
유용할 거예요 |
|
|
|
03:28.180 --> 03:34.750 |
|
그런 다음 랭 체인을 이용해 문서를 유용한 청크로 나눌 겁니다 함께 잘 어우러진 |
|
|
|
03:34.750 --> 03:41.500 |
|
텍스트를 나타내는 청크요 벡터화되어 데이터베이스에 들어갈 준비가 된 거죠 |
|
|
|
03:42.010 --> 03:45.490 |
|
그럼 이제 주피터랩으로 돌아가죠 HOLO
|
|
|