From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
115 lines
3.6 KiB
115 lines
3.6 KiB
WEBVTT |
|
|
|
00:00.080 --> 00:03.050 |
|
이제 중요한 이정표에 도달했어요 |
|
|
|
00:03.080 --> 00:07.940 |
|
8주간의 여정 중 첫 주가 끝났습니다 많은 걸 다뤄야 했죠 |
|
|
|
00:07.970 --> 00:10.490 |
|
여기까지 온 걸 축하해요 |
|
|
|
00:10.520 --> 00:16.160 |
|
간단히 정리해 보죠 트랜스포머의 역사와 충격적인 지난 몇 년을 설명해야 |
|
|
|
00:16.160 --> 00:17.540 |
|
하는데요 |
|
|
|
00:17.540 --> 00:23.210 |
|
토큰 사용, 토큰화 컨텍스트 윈도우의 중요성 그리고 이것이 정확히 무슨 의미인지 |
|
|
|
00:23.240 --> 00:27.230 |
|
API 비용은 어디서 확인하는지 등 많은 것들이 있죠 |
|
|
|
00:27.410 --> 00:32.780 |
|
빅 식스라는 여러 회사의 모델과 그 안의 모델 그리고 최신 |
|
|
|
00:32.780 --> 00:37.400 |
|
혁신 모델을 직접 살펴본 경험이 많으시잖아요 |
|
|
|
00:37.400 --> 00:42.770 |
|
A가 문장에 몇 번 나오는지 세는 건 Lms에겐 놀라울 정도로 어려운 일입니다 |
|
|
|
00:42.770 --> 00:45.890 |
|
제일 위에 있는 것도 마찬가지죠 |
|
|
|
00:45.920 --> 00:50.660 |
|
이제 토큰화를 이해하셨으니 그 이유도 잘 아실 텐데요 |
|
|
|
00:50.720 --> 00:57.590 |
|
그리고 가장 중요한 건 이 시점에서 OpenAI API를 자신 있게 사용할 수 있길 바라는 |
|
|
|
00:57.620 --> 01:02.070 |
|
겁니다 스트리밍이나 마크다운 같은 걸 추가하는 것도요 |
|
|
|
01:02.070 --> 01:07.920 |
|
과제와 함께 여러분만의 도구를 만들고 우리가 한 연습도 사용했죠 |
|
|
|
01:07.950 --> 01:12.330 |
|
LMS에 여러 번 전화했고 시스템 프롬프트도 조작했죠 |
|
|
|
01:12.330 --> 01:18.900 |
|
시스템 프롬프트를 어떻게 사용하는지 잘 알고 있죠 톤 설정이나 응답 문자 |
|
|
|
01:18.900 --> 01:22.680 |
|
같은 거요 구체적인 지시도 할 수 있고요 |
|
|
|
01:22.800 --> 01:30.330 |
|
그리고 단발과 다발 프롬핑을 LM에서 보다 정확하고 강력하고 반복 가능한 결과를 얻기 위한 방법으로 |
|
|
|
01:30.330 --> 01:33.930 |
|
사용하는 것도 이해하시죠? get it |
|
|
|
01:34.230 --> 01:42.960 |
|
부팅하기 위해 llama API 사용도 추가했어요 컴퓨터에서 직접 실행되는 모델을 호출하기 위해서요 |
|
|
|
01:42.960 --> 01:45.780 |
|
앞으로 그런 일은 없을 거예요 |
|
|
|
01:45.780 --> 01:47.760 |
|
오픈 소스 모델을 사용하게 되면요. |
|
|
|
01:47.760 --> 01:53.340 |
|
Get-Tuck Season 2 닙턱 시즌 2 차라리 포옹하는 얼굴 코드를 사용하죠 내부의 토큰 |
|
|
|
01:53.340 --> 01:54.900 |
|
같은 걸 검사할 수 있다면요 |
|
|
|
01:54.990 --> 01:59.340 |
|
언제든 Ulama API 사용으로 전환할 수 있어요 |
|
|
|
01:59.370 --> 02:02.730 |
|
API 비용을 줄이고 싶다면요 |
|
|
|
02:02.880 --> 02:10.950 |
|
이로써 아주 중요한 한 주 작업이 끝났고 많은 걸 다뤄야 했죠 |
|
|
|
02:11.190 --> 02:16.800 |
|
다음 주에는 모든 프론티어 모델에 API를 사용할 거예요 |
|
|
|
02:16.800 --> 02:21.240 |
|
오픈라이, 앤스로픽 제미니를 쓸 거예요 |
|
|
|
02:21.270 --> 02:23.490 |
|
비트 좀 더 줘요 |
|
|
|
02:23.520 --> 02:30.300 |
|
에이전트 인공지능의 에이전트 아이즈로 가는 스텝으로 에이전트에 좀 더 집중했죠. 비트 |
|
|
|
02:30.300 --> 02:37.470 |
|
하지만 가장 중요한 건 데이터 과학 UI를 구축하는 겁니다 제가 좋아하는 그래디오 플랫폼을 |
|
|
|
02:37.470 --> 02:38.430 |
|
이용해서요 |
|
|
|
02:38.460 --> 02:44.730 |
|
그걸 할 겁니다 그림을 보여주거나 오디오를 만들 수 있는 완벽한 멀티모달 고객 |
|
|
|
02:44.730 --> 02:51.240 |
|
지원 에이전트를 구축하는 것도요 여러분 컴퓨터로 호출되는 툴을 사용하는 거죠 |
|
|
|
02:51.270 --> 02:53.220 |
|
다음 주에 다룰 게 많아요 |
|
|
|
02:53.220 --> 02:56.670 |
|
정말 신나는 한 주가 될 거예요 빨리 보고 싶네요
|
|
|