From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
340 lines
8.2 KiB
340 lines
8.2 KiB
WEBVTT |
|
|
|
00:00.710 --> 00:02.780 |
|
좋아요, 연구실로 돌아가죠 |
|
|
|
00:02.780 --> 00:03.950 |
|
우리 프로젝트로 돌아가죠 |
|
|
|
00:03.980 --> 00:06.230 |
|
도구를 사용할 시간이에요 |
|
|
|
00:06.530 --> 00:11.210 |
|
전 주피터랩의 2주 차 폴더에 있고 4일째를 맞이했어요 |
|
|
|
00:11.240 --> 00:18.110 |
|
이제 지금까지 했던 걸 활용할 차례예요 가상의 항공사의 고객 서비스 담당자를 |
|
|
|
00:18.110 --> 00:19.880 |
|
만드는 거죠 |
|
|
|
00:19.910 --> 00:21.770 |
|
수입품부터 시작하죠 |
|
|
|
00:21.770 --> 00:25.550 |
|
늘 그렇듯 키를 잔뜩 준비해요 |
|
|
|
00:25.580 --> 00:32.870 |
|
오늘은 GPT 4 미니를 사용할 겁니다 오픈AI 초기화가 진행 중이죠 |
|
|
|
00:32.900 --> 00:33.890 |
|
시스템 메시지요 |
|
|
|
00:33.890 --> 00:40.520 |
|
1편인지 2편인지 A편인지 하는 항공사의 조수로 일하죠 |
|
|
|
00:40.610 --> 00:41.630 |
|
저기 있네요 |
|
|
|
00:41.660 --> 00:45.200 |
|
짧고 공손하게 한 문장 이상 대답하지 마세요 |
|
|
|
00:45.200 --> 00:46.400 |
|
항상 정확해야 해요 |
|
|
|
00:46.400 --> 00:48.770 |
|
모르면 모른다고 하세요 |
|
|
|
00:48.800 --> 00:54.290 |
|
이건 아주 좋은 시스템 프롬프트예요 |
|
|
|
00:54.350 --> 01:00.410 |
|
진실성에 대한 환각의 부재에 집중하고 싶다면요 |
|
|
|
01:00.410 --> 01:01.790 |
|
그걸 실행하죠 |
|
|
|
01:01.820 --> 01:04.370 |
|
그럼 이제 아주 익숙한 거예요 |
|
|
|
01:04.370 --> 01:08.540 |
|
이건 그라디오가 예상하는 채팅 함수예요 |
|
|
|
01:08.570 --> 01:14.630 |
|
메시지와 역사를 취하고 오픈AI에 기대되는 스타일을 구축하죠 |
|
|
|
01:14.660 --> 01:16.940 |
|
비트가 전보다 좀 짧아진 걸 느끼실 거예요 |
|
|
|
01:16.940 --> 01:19.850 |
|
이번엔 결과를 스트리밍하지 않기 때문이죠 |
|
|
|
01:19.850 --> 01:20.900 |
|
그 정도면 충분한 것 같아요 |
|
|
|
01:20.900 --> 01:25.400 |
|
짧은 응답을 받는 거라 스트리밍은 과잉 대응이에요 |
|
|
|
01:25.400 --> 01:27.230 |
|
어떻게 작동하는지 보죠 |
|
|
|
01:27.260 --> 01:28.280 |
|
올라와요 |
|
|
|
01:28.280 --> 01:29.870 |
|
우린 이제 그라디오를 잘 알아요 |
|
|
|
01:29.870 --> 01:33.440 |
|
자랑할 필요 없이 인사만 하면 돼요 |
|
|
|
01:34.700 --> 01:36.680 |
|
안녕하세요, 무엇을 도와드릴까요? |
|
|
|
01:36.710 --> 01:41.360 |
|
제 고향인 런던에 가고 싶어요 |
|
|
|
01:41.360 --> 01:42.170 |
|
늘 가고 싶어요 |
|
|
|
01:42.200 --> 01:42.950 |
|
탁월한 선택이에요 |
|
|
|
01:42.950 --> 01:45.800 |
|
런던행 비행기표 구하는 거 도와줄래요? |
|
|
|
01:46.460 --> 01:47.450 |
|
네 |
|
|
|
01:47.450 --> 01:50.300 |
|
한 장에 얼마죠? |
|
|
|
01:52.100 --> 01:56.060 |
|
실시간 가격은 없지만 웹사이트나 앱에서 최신 티켓 가격을 확인해 보세요 |
|
|
|
01:56.090 --> 01:56.480 |
|
런던요 |
|
|
|
01:56.480 --> 01:59.390 |
|
그럼 배운 대로 하는 게 좋다는 걸 알겠군요 |
|
|
|
01:59.390 --> 02:00.920 |
|
가격을 착각하지 않아요 |
|
|
|
02:00.920 --> 02:02.900 |
|
그쪽으로 가지 않아요 |
|
|
|
02:02.900 --> 02:09.200 |
|
우리가 말한 대로 하고 있어요 그리고 우리가 요구한 대로 짧게 한 줄로 응답하고 있죠 |
|
|
|
02:09.230 --> 02:11.600 |
|
좋아요, 다시 가죠 |
|
|
|
02:11.630 --> 02:17.780 |
|
이제 프론티어 LMS가 제공하는 강력한 기능인 툴에 대해 얘기해 보죠 |
|
|
|
02:17.780 --> 02:21.770 |
|
응답의 일부로 함수를 써서 그 함수를 호출하게 할 수 있어요 |
|
|
|
02:21.770 --> 02:24.140 |
|
으스스하게 들리네요 |
|
|
|
02:24.170 --> 02:27.680 |
|
우리 컴퓨터에서 코드를 실행할 힘을 주는 거죠 |
|
|
|
02:27.710 --> 02:33.110 |
|
말씀드렸듯이 그냥 이야기예요 곧 분명하게 알게 되실 거예요 |
|
|
|
02:33.530 --> 02:39.470 |
|
그럼 함수부터 만들어 보죠 알람을 무장하는 |
|
|
|
02:39.470 --> 02:41.510 |
|
유용한 함수요 |
|
|
|
02:41.510 --> 02:45.710 |
|
그 함수는 도시당 티켓 가격 get이라고 불릴 거예요 |
|
|
|
02:45.710 --> 02:49.130 |
|
프린팅으로 시작할 거예요 |
|
|
|
02:49.130 --> 02:52.490 |
|
Get up 목적지 시티 티켓팅하세요 |
|
|
|
02:52.670 --> 02:58.250 |
|
이 함수가 언제 호출되는지 나중에 보기 위해 그렇게 하고 있어요 |
|
|
|
02:58.520 --> 03:03.380 |
|
목적지 도시를 소문자로 만드는 거예요 |
|
|
|
03:03.380 --> 03:10.130 |
|
이건 작동하죠 이 사전에서 찾아볼게요 소문자 도시와 가격이 있죠 |
|
|
|
03:10.130 --> 03:13.190 |
|
못 찾으면 미확인이라고 뜨죠 |
|
|
|
03:13.400 --> 03:15.170 |
|
여기에 하나를 추가할게요 |
|
|
|
03:15.200 --> 03:18.650 |
|
그때그때 바꾸면 되잖아요 |
|
|
|
03:18.680 --> 03:20.180 |
|
아마 다 부서질 거예요 |
|
|
|
03:21.110 --> 03:21.770 |
|
안 그러길 바라요 |
|
|
|
03:21.800 --> 03:28.100 |
|
베를린에 가서 싸고 좋은 특별 할인을 받자고요 베를린으로 가는 비행기요 |
|
|
|
03:28.100 --> 03:29.000 |
|
왜요? |
|
|
|
03:29.330 --> 03:29.900 |
|
네 |
|
|
|
03:29.930 --> 03:31.880 |
|
좋아요, 실행해 보죠 |
|
|
|
03:32.180 --> 03:35.090 |
|
이제 이걸 시험해 보죠 |
|
|
|
03:35.120 --> 03:44.270 |
|
베를린행 항공권 가격을 알아보죠 get it |
|
|
|
03:44.300 --> 03:46.400 |
|
도구, 티켓가격 get |
|
|
|
03:46.400 --> 03:49.490 |
|
베를린에 99달러 걸었어요 |
|
|
|
03:49.520 --> 03:50.990 |
|
이런 생각이 들 거예요 |
|
|
|
03:51.020 --> 03:51.980 |
|
무슨 뜻이죠? |
|
|
|
03:51.980 --> 03:54.080 |
|
이건 도구가 아니라 함수예요 |
|
|
|
03:54.110 --> 03:56.630 |
|
대답은 지금으로선 그냥 함수라는 거죠 |
|
|
|
03:56.630 --> 03:58.490 |
|
도구로 만들 거예요 |
|
|
|
03:58.490 --> 04:02.570 |
|
실제로 그렇게 들리는지 모르겠지만 제 마음속에선 그렇게 들려요 |
|
|
|
04:02.930 --> 04:07.400 |
|
어쨌든, 이게 도구를 만드는 우리 모습이었어요 |
|
|
|
04:07.940 --> 04:15.560 |
|
이런 도구들을 LLM과 인터페이스에 넣는 과정은 좀 복잡해요 비트 |
|
|
|
04:15.560 --> 04:20.420 |
|
그래디오 인터페이스를 불러오는 것처럼 간단하지 않을 거예요 |
|
|
|
04:20.420 --> 04:23.660 |
|
안타깝게도 더 복잡해요 |
|
|
|
04:23.660 --> 04:24.770 |
|
그럴 만한 이유가 있죠 |
|
|
|
04:24.770 --> 04:26.180 |
|
이유를 알아보죠 |
|
|
|
04:26.240 --> 04:28.340 |
|
하지만 비트가 좀 더 복잡해요 |
|
|
|
04:28.460 --> 04:34.940 |
|
좋은 소식은 쿠키 커터 스타일과 비슷해서 다른 도구의 함수 호출에 따라 복제할 |
|
|
|
04:34.940 --> 04:36.830 |
|
수 있다는 거죠 |
|
|
|
04:36.830 --> 04:39.740 |
|
여러분의 프로젝트에 재사용할 수 있어요 |
|
|
|
04:39.740 --> 04:41.390 |
|
꼭 그러길 바라요 |
|
|
|
04:41.420 --> 04:47.630 |
|
이런 유용한 프로젝트가 여기 있는 목적은 이걸 리소스로 갖고 와 여러분 프로젝트에 |
|
|
|
04:47.630 --> 04:51.290 |
|
이 비트의 코드를 사용할 수 있도록 하는 거죠 |
|
|
|
04:51.440 --> 04:55.160 |
|
자신만의 도구를 추가해 보시길 권해드리고 싶어요 |
|
|
|
04:55.160 --> 04:57.980 |
|
그러니 잘 따라 하세요 |
|
|
|
04:58.550 --> 05:04.130 |
|
제일 먼저 말씀드릴 것은 우리가 방금 쓴 함수를 설명하는 데 필요한 |
|
|
|
05:04.130 --> 05:07.700 |
|
특정 사전 구조를 구축해야 한다는 거예요 |
|
|
|
05:07.700 --> 05:09.380 |
|
이렇게 생긴 거예요 |
|
|
|
05:09.410 --> 05:11.150 |
|
가격 함수라고 부를게요 |
|
|
|
05:11.150 --> 05:12.050 |
|
마음대로 부르세요 |
|
|
|
05:12.080 --> 05:15.290 |
|
이름을 지어주고 묘사해 보세요 |
|
|
|
05:15.290 --> 05:21.470 |
|
설명은 그냥 옛날 영어로 해주세요 왜냐하면 이게 LLM에 주어질 것이기 때문에 이 함수를 |
|
|
|
05:21.470 --> 05:25.070 |
|
언제 호출하는 게 적절한지 이해할 수 있거든요 |
|
|
|
05:25.070 --> 05:28.460 |
|
목적지까지 왕복 항공권의 가격을 get get이라고 뜨네요 |
|
|
|
05:28.490 --> 05:30.710 |
|
비행기 표가 궁금하면 언제든 전화해요 |
|
|
|
05:30.710 --> 05:34.940 |
|
예를 들어 도시행 기차표가 얼마냐고 손님이 물으면요 |
|
|
|
05:34.970 --> 05:38.360 |
|
예를 들어주는 건 언제나 좋은 기술이죠 |
|
|
|
05:38.360 --> 05:39.950 |
|
그걸 여기서 사용하고 있어요 |
|
|
|
05:39.950 --> 05:43.640 |
|
그런 다음 이 셋업에서 매개 변수를 제공하죠 |
|
|
|
05:43.640 --> 05:47.060 |
|
함수에는 하나의 매개 변수 대상 도시만 있어요 |
|
|
|
05:47.060 --> 05:50.330 |
|
그게 매개 변수가 하는 일이죠 |
|
|
|
05:50.480 --> 05:54.230 |
|
이게 여러분이 사용하는 함수를 설명하는 방법이에요 |
|
|
|
05:54.230 --> 05:58.070 |
|
보다시피 필수 매개 변수죠 |
|
|
|
05:58.640 --> 06:00.530 |
|
그게 설정이에요 |
|
|
|
06:00.560 --> 06:03.110 |
|
여기서 잠시 멈춰 볼게요 |
|
|
|
06:03.110 --> 06:05.210 |
|
다음 비디오에서도 계속 할 거예요 |
|
|
|
06:05.210 --> 06:09.650 |
|
이 함수로 LLM을 무장시킬 거예요 |
|
|
|
06:09.650 --> 06:10.700 |
|
거기서 봐요
|
|
|