From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
124 lines
3.5 KiB
124 lines
3.5 KiB
WEBVTT |
|
|
|
00:01.190 --> 00:07.460 |
|
마무리하기 전에 이번 주 과제를 소개하고 뭘 할지 말씀드릴게요 |
|
|
|
00:07.460 --> 00:10.850 |
|
이것도 아주 재미있을 것 같아요 |
|
|
|
00:11.150 --> 00:14.870 |
|
우리가 함께 하는 모든 프로젝트가 즐거웠으면 좋겠어요 |
|
|
|
00:14.960 --> 00:21.410 |
|
여러 방면으로 확장할 흥미로운 프로젝트를 구상 중이에요 |
|
|
|
00:21.770 --> 00:27.440 |
|
지난번에 했을 때 음성으로 몇 분짜리 회의를 생성하는 시스템을 |
|
|
|
00:27.470 --> 00:28.640 |
|
만들었죠 |
|
|
|
00:28.670 --> 00:31.070 |
|
이번에는 완전히 다른 걸 할 거예요 |
|
|
|
00:31.280 --> 00:33.710 |
|
코드 작성에 관한 거예요 |
|
|
|
00:33.710 --> 00:42.020 |
|
특히 아이디어는 코드 변환에 관한 것이 될 겁니다 bloop에서 영감을 받은 |
|
|
|
00:42.020 --> 00:43.430 |
|
것 같네요 |
|
|
|
00:43.430 --> 00:45.710 |
|
정말 기발한 아이디어예요 |
|
|
|
00:46.160 --> 00:54.560 |
|
이 경우에 우리가 하려는 것은 성능을 향상시키기 위해 디자인된 제품을 만드는 것입니다 파이썬 을 C+로 |
|
|
|
00:54.560 --> 00:59.390 |
|
변환함으로써 성능 결정적 코드를 개선하는 것이죠 |
|
|
|
00:59.390 --> 01:00.020 |
|
더 있어요 |
|
|
|
01:00.020 --> 01:01.270 |
|
그게 목적이죠 |
|
|
|
01:01.270 --> 01:05.710 |
|
파이썬 을 C+로 변환하는 방법을 알아보려고 해요 |
|
|
|
01:05.710 --> 01:06.220 |
|
더 있어요 |
|
|
|
01:06.220 --> 01:09.190 |
|
개척자 모델을 사용할 거예요 |
|
|
|
01:09.190 --> 01:12.190 |
|
오픈 소스 모델로도 할 거예요 |
|
|
|
01:12.190 --> 01:15.400 |
|
그리고 그 결과의 성능을 비교해볼 거예요 |
|
|
|
01:15.400 --> 01:21.340 |
|
하지만 작업에 가장 적합한 llms부터 선택해야 해요 |
|
|
|
01:21.340 --> 01:22.960 |
|
그게 어려운 점이죠 |
|
|
|
01:22.990 --> 01:24.430 |
|
재미있을 것 같아요 |
|
|
|
01:24.520 --> 01:31.630 |
|
LLM의 도움으로 코드 최적화를 어떻게 수행하는지 보죠 |
|
|
|
01:33.640 --> 01:37.750 |
|
하지만 먼저, 4주차 둘째 날을 간단히 정리하죠 |
|
|
|
01:37.780 --> 01:40.240 |
|
한 번만 더 할게요 |
|
|
|
01:40.240 --> 01:44.110 |
|
이런 얘기 지겹겠지만 당신이 할 수 있는 모든 걸 상기시켜 주고 싶어요 |
|
|
|
01:44.170 --> 01:49.750 |
|
프론티어 모델과 코드를 만들 수 있습니다 도구를 사용하는 인공지능 조수 제작도 포함해서요 |
|
|
|
01:49.750 --> 01:57.670 |
|
오픈 소스 솔루션도 구축할 수 있습니다 다양한 추론 작업과 얼굴 포옹 얼굴 포옹, 토큰라이저 |
|
|
|
01:57.670 --> 02:03.670 |
|
모델 등을 통찰력 있는 낮은 수준의 API를 통해 진행 상황을 파악할 |
|
|
|
02:03.670 --> 02:10.690 |
|
수 있고 유연성도 커지며 나중에 꼭 필요한 기능이 되겠죠 |
|
|
|
02:10.720 --> 02:12.010 |
|
지금은요? |
|
|
|
02:12.010 --> 02:16.990 |
|
이제 프로젝트에 맞는 LLM을 자신 있게 선택할 수 있는 위치에 |
|
|
|
02:16.990 --> 02:24.400 |
|
서길 바랍니다 리더보드, 아레나스 등 여러 리소스에서 얻은 실제 결과에 기반해서요 |
|
|
|
02:24.430 --> 02:29.530 |
|
올바른 LLM을 선택하라고 하면 보통 올바른 2, 3개의 LLM을 |
|
|
|
02:29.560 --> 02:38.560 |
|
선택하게 됩니다 프로토타입으로 가서 다음 번에 가장 잘 작동하는 것을 선택하기 위해서요 모델의 코딩 능력을 |
|
|
|
02:38.560 --> 02:44.620 |
|
평가하는 방법을 더 깊이 아셔야 합니다 코드 생성하기 위해 선구 모델을 사용했고 |
|
|
|
02:44.620 --> 02:51.370 |
|
코드를 생성하기 위해 LM을 이용해 솔루션을 구축했죠 |
|
|
|
02:51.370 --> 02:57.940 |
|
숙련된 LLM 엔지니어가 되려면 배워야 할 또 다른 기술이 |
|
|
|
02:57.940 --> 02:59.530 |
|
되는 거죠 |
|
|
|
02:59.530 --> 03:00.700 |
|
거기서 봐요
|
|
|