From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
187 lines
5.5 KiB
187 lines
5.5 KiB
WEBVTT |
|
|
|
00:00.080 --> 00:07.220 |
|
정말 멋진 결과예요 첫째 주가 끝나가는데 흥미진진한 프로젝트를 |
|
|
|
00:07.250 --> 00:09.980 |
|
완성했잖아요 |
|
|
|
00:10.010 --> 00:12.350 |
|
물론 어려운 점도 있죠 |
|
|
|
00:12.350 --> 00:14.000 |
|
여기서부터가 재미있어요 |
|
|
|
00:14.030 --> 00:18.860 |
|
우선, 어려운 점이 몇 가지 있습니다 이 프로젝트를 더 좋게 만들 수 있는 방법입니다 |
|
|
|
00:18.860 --> 00:20.990 |
|
조금 전에 말씀드린 것과 비슷하죠 |
|
|
|
00:20.990 --> 00:27.350 |
|
그 후에는 숙제를 내주는 실습이 있습니다 처음부터 다 |
|
|
|
00:27.350 --> 00:29.180 |
|
만들어야 하죠 |
|
|
|
00:29.180 --> 00:33.230 |
|
물론 준비되시면 해결책을 제공하겠지만 필요 없을 것 같네요 |
|
|
|
00:33.230 --> 00:34.610 |
|
이게 있으니까요 |
|
|
|
00:34.610 --> 00:36.230 |
|
과제부터 시작하죠 |
|
|
|
00:36.230 --> 00:42.650 |
|
먼저, 이미 있는 브로슈어 제작기를 만들 때 LMS에 두 번 |
|
|
|
00:42.680 --> 00:44.600 |
|
전화를 걸었어요 |
|
|
|
00:44.600 --> 00:51.830 |
|
첫 번째 호출은 원샷 프롬프트라고 설명했어요 어떻게 응답해야 하는지에 대한 JSON 예제를 보여드렸거든요 |
|
|
|
00:51.860 --> 00:57.530 |
|
아까도 언급했지만 다중 샷 프롬프트라는 표현이 있습니다 여러 개의 |
|
|
|
00:57.530 --> 01:00.110 |
|
예제를 제공하는 것을 말하죠 |
|
|
|
01:00.110 --> 01:05.090 |
|
그게 제가 여러분께 원하는 겁니다 이걸 확장해 멀티 샷 프롬핑으로 진정한 멀티 샷 프롬핑이 |
|
|
|
01:05.090 --> 01:06.350 |
|
되게 하는 거죠 |
|
|
|
01:06.350 --> 01:12.770 |
|
이렇게 하는 거죠 이 링크들을 보여드리면 이렇게 답장하고 JSON을 |
|
|
|
01:12.770 --> 01:19.670 |
|
주는 거예요 어디서 관련 링크만 선택했는지 경로를 어떻게 정정했는지를 |
|
|
|
01:19.670 --> 01:21.650 |
|
분명히 알려주죠 |
|
|
|
01:21.650 --> 01:22.880 |
|
그러니 그렇게 해보세요 |
|
|
|
01:22.880 --> 01:29.090 |
|
예제를 한두 개 더 넣으세요 MultiOut 프롬프트 사용이 될 테니까요 |
|
|
|
01:29.090 --> 01:31.610 |
|
멀티샷 프롬핑을 한 이력서에 추가할 수 있어요 |
|
|
|
01:31.640 --> 01:36.920 |
|
물론 농담이지만 시도해 본 중요한 기술이에요 |
|
|
|
01:36.920 --> 01:43.700 |
|
하지만 이 방법이 유용한 이유는 LLM에 보내는 전화의 품질과 신뢰도를 높일 수 있기 |
|
|
|
01:43.700 --> 01:44.900 |
|
때문이죠 |
|
|
|
01:44.930 --> 01:53.870 |
|
예제를 추가하면 다음 토큰과 무엇을 예측할지 더욱 확실하게 |
|
|
|
01:53.870 --> 01:56.480 |
|
알 수 있죠 |
|
|
|
01:56.480 --> 01:58.940 |
|
좋은 운동이 되겠어요 |
|
|
|
01:58.940 --> 02:03.500 |
|
이 LLM 호출에 더 견고한 걸 추가하는 좋은 방법이죠 |
|
|
|
02:03.500 --> 02:05.690 |
|
코스를 따라 계속 진행할 거예요 |
|
|
|
02:05.690 --> 02:08.810 |
|
여러분의 프로젝트에 포함하고 싶은 것이죠 |
|
|
|
02:08.810 --> 02:13.570 |
|
그러니 그걸 시도해 보세요 그걸 시도해 보세요, 멀티샷이요 |
|
|
|
02:14.560 --> 02:18.700 |
|
제가 말씀드린 것처럼 과정 막바지에는 구조화 출력이라는 기술을 |
|
|
|
02:18.700 --> 02:20.050 |
|
사용할 텐데요 |
|
|
|
02:20.050 --> 02:23.620 |
|
LLM이 특정한 방식으로 반응하도록 강요하는 거죠 |
|
|
|
02:23.620 --> 02:30.160 |
|
그래도 멀티샷 홍보가 도움이 돼요 여러분이 원하는 것에 대해 추가적인 컨텍스트와 개성을 |
|
|
|
02:30.160 --> 02:31.330 |
|
부여하죠 |
|
|
|
02:32.050 --> 02:37.000 |
|
두 번째 통화에서 할 수 있는 일은 책자를 생성하는 거예요 |
|
|
|
02:37.000 --> 02:41.740 |
|
시스템 프롬프트에서 비꼬거나 빈정대는 것을 만드는 것에 대해 이미 얘기했었죠 |
|
|
|
02:41.740 --> 02:46.900 |
|
시스템 프롬프트를 이용해 다른 언어로 생성할 수 있다고 말씀드렸죠 스페인어 |
|
|
|
02:46.990 --> 02:48.010 |
|
같은 거요 |
|
|
|
02:48.010 --> 02:53.290 |
|
다른 방법도 있어요 훨씬 더 흥미로울 거예요 |
|
|
|
02:53.290 --> 02:55.450 |
|
Get it로 더 좋은 결과가 나올지는 모르겠지만요 |
|
|
|
02:55.450 --> 03:00.880 |
|
영어로 책자를 만들고 두 번째 전화를 걸었어요 |
|
|
|
03:01.030 --> 03:08.080 |
|
사실 LLM에 거는 세 번째 전화예요 책자를 영어로 스페인어로 번역하는 거죠 |
|
|
|
03:08.140 --> 03:14.710 |
|
여러 면에서 이런 식으로 한다고 더 나을 건 없을 거예요 |
|
|
|
03:14.710 --> 03:20.080 |
|
하지만 그렇게 하는 연습에 들어가면 번역을 목적으로 특별히 훈련된 모델을 |
|
|
|
03:20.080 --> 03:26.440 |
|
사용할 수 있다고 상상할 수 있어요 그 모델을 그 목적만을 위해 사용할 수 있죠 그럼 더 |
|
|
|
03:26.470 --> 03:31.900 |
|
나은 결과를 확실히 얻을 수 있도록 합니다 브로슈어 생성을 위해 훈련된 |
|
|
|
03:31.900 --> 03:36.730 |
|
모델 하나와 번역을 위해 훈련된 다른 모델을 이용해서요 |
|
|
|
03:36.730 --> 03:41.950 |
|
두 가지 목적으로 GPT 4, 또는 미니를 사용할 테지만 |
|
|
|
03:41.950 --> 03:45.970 |
|
다중 호출을 하는 경험을 확실히 제공하죠 |
|
|
|
03:45.970 --> 03:50.350 |
|
에이전트 인공지능의 미니어처 구현이죠 |
|
|
|
03:50.380 --> 03:55.900 |
|
습관을 들이기 좋은 방법이죠 시스템 프롬프트만 사용해도 1배시 안에 |
|
|
|
03:55.900 --> 03:58.210 |
|
모두 할 수 있어요 get it |
|
|
|
03:58.360 --> 04:00.370 |
|
어쨌든 그런 걸 해야 해요 |
|
|
|
04:00.370 --> 04:08.680 |
|
이런 기술을 익힌 경험과 자신감을 쌓는 데 도움이 될 거예요 앞으로 몇 |
|
|
|
04:08.710 --> 04:12.970 |
|
주간 아주 유용하게 쓰일 거예요 |
|
|
|
04:12.970 --> 04:18.130 |
|
그런 다음 실습을 할 거예요 처음부터 뭔가를 만드는 거죠 |
|
|
|
04:18.130 --> 04:22.030 |
|
그걸 보여드리기 위해 주피터랩의 다음 비디오를 보여드리죠
|
|
|