From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
199 lines
5.6 KiB
199 lines
5.6 KiB
WEBVTT |
|
|
|
00:00.590 --> 00:02.720 |
|
다시 오신 걸 환영해요 |
|
|
|
00:02.720 --> 00:06.200 |
|
2주 차에 오신 걸 환영해요 3일째예요 |
|
|
|
00:06.230 --> 00:13.100 |
|
라디오에 대한 즐거움의 연속이죠 라디오와 사용자 인터페이스에 관한 모든 것을 축하하는 |
|
|
|
00:13.100 --> 00:14.030 |
|
거예요 |
|
|
|
00:14.330 --> 00:19.820 |
|
오픈 인공지능과 인류학 제미니 개발 외에도 여러분의 솔루션에 맞는 |
|
|
|
00:19.820 --> 00:22.130 |
|
UI를 구축할 수 있죠 |
|
|
|
00:22.130 --> 00:24.500 |
|
그러니 기분 좋으시겠어요 |
|
|
|
00:24.530 --> 00:27.230 |
|
오늘 저녁쯤엔 더 많은 걸 할 수 있을 거예요 |
|
|
|
00:27.260 --> 00:32.120 |
|
채팅 UI를 만들 수 있어요 아주 흔한 특정 유형의 UI죠 |
|
|
|
00:32.120 --> 00:38.270 |
|
신속하게 대화 이력을 제공할 수 있고 첫 고객 지원 비서를 만들 수 있습니다 |
|
|
|
00:38.270 --> 00:42.980 |
|
채팅 봇이라고도 하는 인공지능 비서요 |
|
|
|
00:43.010 --> 00:46.280 |
|
아주 흔한 케이스죠 |
|
|
|
00:46.280 --> 00:48.590 |
|
오늘 통달할 거예요 |
|
|
|
00:49.340 --> 00:51.950 |
|
아주 흔한 일이죠 |
|
|
|
00:51.950 --> 00:53.150 |
|
인공지능은 케이스로 사용해요 |
|
|
|
00:53.150 --> 00:55.220 |
|
다들 잘 아실 거예요 |
|
|
|
00:55.250 --> 00:56.810 |
|
채팅봇을 기반으로 한 LM이에요 |
|
|
|
00:56.810 --> 00:59.210 |
|
대화에 아주 효과적이죠 |
|
|
|
00:59.210 --> 01:05.780 |
|
기억하기 힘들지만 불과 몇 년 전만 해도 챗봇 스타일 인터페이스를 웹사이트에서 |
|
|
|
01:05.780 --> 01:11.410 |
|
경험했다면 다른 것에 하나, 둘, 셋, 넷 응답하는 세상에 있었을 |
|
|
|
01:11.410 --> 01:15.820 |
|
거예요 예약 같은 키워드를 사용하거나요 |
|
|
|
01:15.850 --> 01:17.860 |
|
우리가 얼마나 멀리 왔는지도요 |
|
|
|
01:17.860 --> 01:24.280 |
|
고객 서비스 챗봇과 웹사이트에서 정보를 주고받을 수 있어요 자주 그러죠 |
|
|
|
01:24.280 --> 01:29.470 |
|
솔직히 말해서 인간과의 대화보다 챗봇과의 대화가 |
|
|
|
01:29.470 --> 01:36.460 |
|
더 가치 있었던 때도 있었어요 시대상으로는 안타깝고 슬픈 일이죠 |
|
|
|
01:36.640 --> 01:42.040 |
|
하지만 알파벳 A가 문장에 몇 번 나오는지 물어볼 수는 없어요 |
|
|
|
01:42.400 --> 01:46.510 |
|
어쨌든 챗봇 사용 사례 말인데요 |
|
|
|
01:46.510 --> 01:49.030 |
|
아주 친숙하고 중요하죠 |
|
|
|
01:49.030 --> 01:51.280 |
|
llms가 탁월한 것 말이에요 |
|
|
|
01:51.430 --> 01:57.190 |
|
우리에게 익숙한 것들을 상상해 보세요 챗봇에 붙여주는 |
|
|
|
01:57.220 --> 02:06.220 |
|
친근한 가명이나 메시지 사이의 컨텍스트를 유지할 수 있는 모든 가명을요 대화를 나누고 |
|
|
|
02:06.220 --> 02:11.440 |
|
아까 말한 걸 참조할 수 있는 놀라운 방법이죠 |
|
|
|
02:11.440 --> 02:15.790 |
|
그게 속임수라는 건 다들 알잖아요 |
|
|
|
02:15.790 --> 02:19.870 |
|
정말 끈질기게 대화하고 있다는 건 환상이에요 |
|
|
|
02:19.900 --> 02:22.500 |
|
각 단계마다 달라요 |
|
|
|
02:22.500 --> 02:29.280 |
|
모든 대화 기록은 LLM에 제공됩니다 다음 응답을 얻기 위해서죠 |
|
|
|
02:29.520 --> 02:36.450 |
|
또한 이 비서들은 주제와 관련된 전문 지식을 갖추고 지식이 풍부한 답변을 |
|
|
|
02:36.450 --> 02:37.830 |
|
할 수 있죠 |
|
|
|
02:38.730 --> 02:45.480 |
|
비서와의 상호 작용에서 가장 중요한 건 프롬프트 사용의 정확성이에요 |
|
|
|
02:45.480 --> 02:49.590 |
|
대화의 분위기를 결정하는 시스템 프롬프트가 이젠 아주 익숙하죠 |
|
|
|
02:49.590 --> 02:51.180 |
|
기본 규칙을 정할 수 있어요 |
|
|
|
02:51.180 --> 02:56.400 |
|
답을 모르면 모른다고 말하는 데 흔히 쓰이는 기법이 있어요 |
|
|
|
02:56.400 --> 03:01.140 |
|
환각을 보지 않고 진실하도록 장려하는 거죠 |
|
|
|
03:01.470 --> 03:09.690 |
|
컨텍스트는 대화에 추가 정보를 추가하는 방법을 말합니다 대화 내용에 대해 더 많은 |
|
|
|
03:09.690 --> 03:13.140 |
|
컨텍스트를 제공하기 위해서죠 |
|
|
|
03:13.140 --> 03:21.660 |
|
Multi숏 프롬프팅은 프롬프트에 정보를 추가하는 것을 뜻합니다 상호 작용 |
|
|
|
03:21.660 --> 03:29.160 |
|
예제를 여러 개 제공하는 거죠 작업 예제를 제공해 LLM의 성격을 다듬고 |
|
|
|
03:29.160 --> 03:35.390 |
|
나중에 유용할 정보를 프라임으로 함으로써요 |
|
|
|
03:35.420 --> 03:40.160 |
|
훈련 같은 느낌이 드는 게 흥미롭네요 비트 코스트는 여러 예시를 통해 |
|
|
|
03:40.160 --> 03:43.340 |
|
배우지만 데이터 과학적 측면에서는 아니죠 |
|
|
|
03:43.340 --> 03:45.410 |
|
모델은 이미 훈련받았어요 |
|
|
|
03:45.440 --> 03:47.750 |
|
신경망 훈련이 끝났어요 |
|
|
|
03:47.780 --> 03:51.260 |
|
런타임에서 추론 타임이라고 부르는 때죠 |
|
|
|
03:51.260 --> 03:54.770 |
|
과거에 기반해 미래 토큰을 생성하는 거죠 |
|
|
|
03:54.770 --> 04:01.940 |
|
하지만 중요한 것은, 과거의 토큰들이 질문과 답변을 담고 있다면 미래를 예측할 때, |
|
|
|
04:01.940 --> 04:08.810 |
|
미래의 토큰을 선택할 가능성이 더 높다는 것입니다. 과거에 봤던 것과 일관되는 |
|
|
|
04:08.810 --> 04:10.610 |
|
것으로요. |
|
|
|
04:10.610 --> 04:13.670 |
|
그래서 이 장면이 잘 된 거예요 |
|
|
|
04:14.540 --> 04:16.700 |
|
챗봇을 만들 거예요 |
|
|
|
04:16.730 --> 04:17.390 |
|
첫 챗봇이에요 |
|
|
|
04:17.390 --> 04:18.410 |
|
이렇게 될 거예요 |
|
|
|
04:18.440 --> 04:23.690 |
|
일종의 인스턴스 메시지 스타일 인터페이스가 있을 겁니다 저희의 |
|
|
|
04:23.690 --> 04:29.690 |
|
질문과 챗봇의 응답이 있는 이런 종류의 인터페이스죠 꽤나 정교한 겁니다 |
|
|
|
04:29.720 --> 04:35.600 |
|
이 강의에서 전부 다 할 수 있다고 말씀드리는 거예요 미래에 같은 걸 할 |
|
|
|
04:35.720 --> 04:39.020 |
|
수 있는 도구를 줄 거예요 |
|
|
|
04:39.020 --> 04:42.950 |
|
그럼 바로 유피터랩으로 넘어가죠
|
|
|