From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
286 lines
7.0 KiB
286 lines
7.0 KiB
WEBVTT |
|
|
|
00:00.740 --> 00:01.910 |
|
잘 돌아왔어요 |
|
|
|
00:01.910 --> 00:04.220 |
|
에이전트 프레임워크를 만들 때가 됐어요 |
|
|
|
00:04.220 --> 00:05.630 |
|
정말 기대돼요 |
|
|
|
00:05.660 --> 00:10.490 |
|
지금까지 해 왔던 것처럼 모든 걸 잘 활용하고 있어요 결과에 아주 만족하실 |
|
|
|
00:10.490 --> 00:11.510 |
|
거예요 |
|
|
|
00:11.720 --> 00:13.730 |
|
간단히 정리해 보죠 |
|
|
|
00:13.730 --> 00:14.870 |
|
프레임워크 요원요 |
|
|
|
00:14.960 --> 00:17.840 |
|
에이전트 I는 포괄적인 용어예요 |
|
|
|
00:17.840 --> 00:20.120 |
|
다양한 기술을 참고할 수 있어요 |
|
|
|
00:20.240 --> 00:23.060 |
|
예를 들어 이 다섯 가지 중 아무거나요 |
|
|
|
00:23.090 --> 00:28.250 |
|
복잡한 문제를 여러 모델이 각기 다른 전문화된 작업을 수행하며 작은 단계로 |
|
|
|
00:28.250 --> 00:29.420 |
|
단계화하는 거죠 |
|
|
|
00:29.420 --> 00:33.890 |
|
LLM이 추가적인 기능을 부여할 도구를 갖는 기능일 수 있죠 |
|
|
|
00:33.890 --> 00:41.000 |
|
에이전트 환경에 대해 얘기할 수도 있습니다 에이전트가 협업을 할 수 있는 에이전트 |
|
|
|
00:41.000 --> 00:43.160 |
|
프레임워크죠 |
|
|
|
00:43.190 --> 00:50.270 |
|
하나의 LLM이 플래너 역할을 하는 겁니다 작은 작업들로 나누고 전문가들이 직접 |
|
|
|
00:50.270 --> 00:55.100 |
|
llm이 되거나 소프트웨어 조각을 수행하는 거죠 |
|
|
|
00:55.280 --> 01:00.210 |
|
또 다른 요점은 에이전트 인공지능을 생각할 |
|
|
|
01:00.210 --> 01:07.740 |
|
때 독자적인 기관을 떠올리는데 즉각적인 응답을 넘어서 메모리를 |
|
|
|
01:07.740 --> 01:13.050 |
|
갖고 뉴스 정보를 검색해 웹을 긁고 주식을 매매할지 |
|
|
|
01:13.050 --> 01:19.110 |
|
결정하는 데 사용한다고 보면 돼요 |
|
|
|
01:19.110 --> 01:26.670 |
|
그건 말하자면 요청 응답 채팅의 컨텍스트 밖에 존재하는 무언가예요 |
|
|
|
01:26.670 --> 01:32.100 |
|
이런 식으로∙∙∙ 에이전트 AI와 에이전트의 사용에 대해 얘기할 |
|
|
|
01:32.100 --> 01:34.890 |
|
때 사람들이 언급하는 것들이죠 |
|
|
|
01:34.890 --> 01:39.510 |
|
우리가 여기서 얘기하고 있는 건 1번과 2번이고 3번과 |
|
|
|
01:39.510 --> 01:42.210 |
|
5번도 어느 정도 있어요 |
|
|
|
01:42.300 --> 01:45.090 |
|
하지만 계획을 실행하는 LLM을 만드는 게 아니잖아요 |
|
|
|
01:45.090 --> 01:47.280 |
|
이번 시간엔 그런 걸 안 할 거예요 |
|
|
|
01:47.280 --> 01:57.000 |
|
이건 익숙하실 거예요 채팅 메서드거든요 전에 있던 것과 꽤 비슷하죠 |
|
|
|
01:57.000 --> 01:59.710 |
|
몇 가지 눈에 띄는 게 있어요 |
|
|
|
01:59.710 --> 02:07.210 |
|
이 섹션은 우리가 잘 아는 라디오 채팅 함수예요 |
|
|
|
02:07.210 --> 02:16.180 |
|
메시지와 히스토리를 취하고 그 히스토리를 오픈AI가 기대하는 포맷으로 |
|
|
|
02:16.210 --> 02:20.200 |
|
풀어낸 다음 응답을 호출해요 |
|
|
|
02:20.440 --> 02:26.080 |
|
이 부분도 익숙하실 겁니다 도구를 사용하는 곳이니까요 |
|
|
|
02:26.080 --> 02:32.860 |
|
모델이 도구를 호출하길 원하는지 알고 있다면 그 도구를 다루죠 |
|
|
|
02:33.010 --> 02:38.950 |
|
여기 한 줄 더 있는데요 여기서 말씀 드리고 싶은 |
|
|
|
02:38.950 --> 02:44.710 |
|
건 만약 고객이 티켓 가격을 찾기 위해 툴을 실행해야 |
|
|
|
02:44.710 --> 02:56.200 |
|
한다면 아티스트가 그 도시를 나타내는 이미지를 생성하도록 할 거예요 |
|
|
|
02:56.200 --> 02:58.160 |
|
자, 됐어요 |
|
|
|
02:58.220 --> 03:00.050 |
|
그거 좋네요 |
|
|
|
03:00.050 --> 03:04.160 |
|
그리고 제가 전에 얘기했던 걸 기억하신다면 제가 돌아온 이유를 곧 알게 |
|
|
|
03:04.160 --> 03:04.940 |
|
되실 거예요 |
|
|
|
03:04.970 --> 03:05.690 |
|
여기 있네요 |
|
|
|
03:05.690 --> 03:09.800 |
|
그래서 시가 예술가에게 넘겨야 했어요 |
|
|
|
03:10.130 --> 03:13.880 |
|
그리고 이건 전부 똑같아요 |
|
|
|
03:13.880 --> 03:16.040 |
|
한 가지 더 있어요 |
|
|
|
03:16.040 --> 03:22.760 |
|
여기 있는 이 모델에서 반응을 수집한 다음 토크 커뮤니티에 |
|
|
|
03:22.790 --> 03:26.840 |
|
전화해 반응을 확인하죠 |
|
|
|
03:26.840 --> 03:29.780 |
|
이게 우리 대화예요 |
|
|
|
03:29.960 --> 03:32.270 |
|
그걸 실행해 보죠 |
|
|
|
03:33.920 --> 03:41.420 |
|
비트가 얼마나 쉬운지 늘 자랑했듯이 이 코드는 좀 더 복잡해요 |
|
|
|
03:41.420 --> 03:46.970 |
|
그 이유는 비트를 더 많이 사용하고 이미지를 보여주기 위해서예요 |
|
|
|
03:46.970 --> 03:55.550 |
|
기본 설정 밖으로 나가보죠 규격화된 채팅 사용자 인터페이스 같은 건데 그라디오가 제공해요 |
|
|
|
03:55.550 --> 03:58.120 |
|
인터페이스는 우리가 직접 만들어야 해요 |
|
|
|
03:58.150 --> 04:04.960 |
|
그 결과 이 인터페이스를 구성해야 했어요 input이나 버튼 같은 다양한 구성 |
|
|
|
04:04.960 --> 04:07.090 |
|
요소를 구성하는 거죠 |
|
|
|
04:07.300 --> 04:10.180 |
|
하지만 이건 여전히 아주 간단해요 |
|
|
|
04:10.180 --> 04:11.470 |
|
영어처럼 들려요 |
|
|
|
04:11.470 --> 04:13.030 |
|
무슨 일인지 뻔하죠 |
|
|
|
04:13.030 --> 04:19.330 |
|
여기서 일어나는 모든 일을 볼 수 있어요 읽을 수 있길 바라요 |
|
|
|
04:19.330 --> 04:26.740 |
|
이걸 이용해 더 복잡한 채팅이나 더 복잡한 UI를 만들 수 있어요 |
|
|
|
04:26.740 --> 04:36.850 |
|
이 배경으로 이걸 실행∙∙∙ 실행되고 있어요 불러오죠 |
|
|
|
04:37.240 --> 04:41.650 |
|
새 비서와 대화하는 모습이네요 |
|
|
|
04:41.680 --> 04:43.300 |
|
한번 해 보죠 |
|
|
|
04:47.740 --> 04:48.280 |
|
안녕하세요 |
|
|
|
04:48.280 --> 04:49.630 |
|
무엇을 도와드릴까요? |
|
|
|
04:51.040 --> 04:52.090 |
|
맘에 들어요? |
|
|
|
04:52.240 --> 04:53.650 |
|
우리에게 말을 걸었어요 |
|
|
|
04:53.740 --> 04:54.520 |
|
됐어요 |
|
|
|
04:54.520 --> 04:56.620 |
|
에이전트 사용은 처음이죠 |
|
|
|
04:56.620 --> 05:04.420 |
|
오디오를 만드는 전문 모델이 있었는데 그걸 챗봇과 통합해서 우리에게 |
|
|
|
05:04.420 --> 05:07.510 |
|
말을 걸 수 있게 했어요 |
|
|
|
05:15.760 --> 05:17.020 |
|
탁월한 선택이에요 |
|
|
|
05:17.080 --> 05:20.410 |
|
런던 왕복 비행기 표 가격을 알고 싶으세요? |
|
|
|
05:22.930 --> 05:24.220 |
|
됐어요 |
|
|
|
05:24.250 --> 05:27.220 |
|
재미있다고 해두죠 |
|
|
|
05:34.240 --> 05:35.710 |
|
잠시 멈추죠 |
|
|
|
05:43.090 --> 05:44.080 |
|
시작할게요 |
|
|
|
05:48.040 --> 05:51.220 |
|
런던 왕복 항공권은 799달러예요 |
|
|
|
05:53.120 --> 05:54.920 |
|
다 됐어요 |
|
|
|
05:54.950 --> 05:58.340 |
|
런던 왕복 항공권은 7달러예요 99살요 |
|
|
|
05:58.340 --> 06:00.290 |
|
이미지가 나오네요 |
|
|
|
06:00.290 --> 06:04.220 |
|
정말 장관이에요 |
|
|
|
06:04.370 --> 06:06.290 |
|
런던 버스예요 |
|
|
|
06:06.290 --> 06:07.700 |
|
빅벤도 있어요 |
|
|
|
06:07.700 --> 06:10.400 |
|
다리도 있어요 |
|
|
|
06:10.400 --> 06:11.690 |
|
네 |
|
|
|
06:11.720 --> 06:14.420 |
|
저기 택시가 보여요 |
|
|
|
06:14.450 --> 06:18.950 |
|
여러 이미지의 멋진 몽타주예요 |
|
|
|
06:19.160 --> 06:26.570 |
|
그래서 저는 이 비트가 아주 흥미롭다고 생각합니다 소량의 코드만으로 무엇을 이룰 수 있는지 보여주는 |
|
|
|
06:26.570 --> 06:28.280 |
|
훌륭한 예죠 |
|
|
|
06:28.520 --> 06:37.550 |
|
다중 모듈 앱을 소개합니다 비행기의 인공지능 보조와 통신할 |
|
|
|
06:37.550 --> 06:48.050 |
|
때 음성과 이미지가 포함된 다중 모듈 에이전트 프레임워크죠 |
|
|
|
06:48.140 --> 06:49.280 |
|
수고했어요 |
|
|
|
06:49.310 --> 06:52.790 |
|
이번 주의 도전과 마무리에서 다시 만나요
|
|
|