From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
259 lines
7.4 KiB
259 lines
7.4 KiB
WEBVTT |
|
|
|
00:00.050 --> 00:05.870 |
|
올라마의 파워를 이용해 다양한 LMS를 실험해보면서 즐거우셨길 |
|
|
|
00:05.870 --> 00:07.400 |
|
바라요 |
|
|
|
00:07.430 --> 00:10.040 |
|
여러분도 저와 비슷한 경험을 했을 거예요 |
|
|
|
00:10.040 --> 00:16.130 |
|
퀸 2를 찾았어요 5는 다른 언어를 이해하는 데 있어서 가장 강력한 모델일 |
|
|
|
00:16.130 --> 00:16.820 |
|
거예요 |
|
|
|
00:16.820 --> 00:20.300 |
|
다른 모델들은 설명을 더 잘하더군요 |
|
|
|
00:20.360 --> 00:22.820 |
|
여러분의 의견을 듣고 싶어요 |
|
|
|
00:22.820 --> 00:26.750 |
|
강의랑 같이 post로 보내거나 저한테 직접 보내주세요. |
|
|
|
00:26.780 --> 00:31.370 |
|
뭘 발견했는지 듣고 싶어요 다양한 모델로 실험하면서 본인 |
|
|
|
00:31.370 --> 00:34.460 |
|
문제에 가장 잘 맞는 걸 찾는 것도요 |
|
|
|
00:34.460 --> 00:37.160 |
|
달 착륙선 엔지니어에겐 중요한 기술이죠 |
|
|
|
00:37.160 --> 00:39.560 |
|
귀중한 시간을 보냈어요 |
|
|
|
00:39.590 --> 00:40.370 |
|
좋아요 |
|
|
|
00:40.370 --> 00:42.620 |
|
앞으로 8주 동안의 일을 얘기해 보죠 |
|
|
|
00:42.620 --> 00:50.570 |
|
그래서 저는 지금 이 자리에서 8주 안에 LM 엔지니어링의 달인이 되게 해드리고 |
|
|
|
00:50.570 --> 00:51.650 |
|
싶어요 |
|
|
|
00:51.650 --> 00:53.090 |
|
이렇게 하는 거예요 |
|
|
|
00:53.120 --> 00:59.150 |
|
이번 주에는 현대 기술의 한계를 시험하는 모델들을 살펴볼 |
|
|
|
00:59.150 --> 01:00.200 |
|
거예요 |
|
|
|
01:00.260 --> 01:09.230 |
|
GPT 4001 프리뷰나 클로드 3 같은 거요 5개와 다른 선구적인 모델도 많이 있습니다 비공개 소스로 놀라운 |
|
|
|
01:09.240 --> 01:11.730 |
|
걸 성취할 수 있는 모델이죠 |
|
|
|
01:11.730 --> 01:16.800 |
|
챗GPT 같은 웹 사용자 인터페이스를 통해 작업하고 API를 통해서도 하죠 |
|
|
|
01:17.280 --> 01:22.410 |
|
상업 프로젝트를 만들 거예요 당장 유용한 거죠 흥미로운 |
|
|
|
01:22.440 --> 01:25.290 |
|
상업 활동도 준비돼 있고요 |
|
|
|
01:25.410 --> 01:31.380 |
|
다음 주에는 사용자 인터페이스를 그 위에 덧붙일 겁니다 제가 좋아하는 플랫폼을 사용해서요 그래디오라는 |
|
|
|
01:31.380 --> 01:32.160 |
|
거죠 |
|
|
|
01:32.160 --> 01:34.980 |
|
정말 재미있을 거예요 제가 좋아하는 걸 알게 될 거예요 |
|
|
|
01:34.980 --> 01:40.260 |
|
제가 좀 떠들긴 했지만 사용하기 정말 쉬워요 저처럼 프런트 엔드에 서툰 사람들이 |
|
|
|
01:40.260 --> 01:45.300 |
|
멋지고 날카로운 사용자 인터페이스를 아주 빨리 빌드하기 정말 쉽죠 |
|
|
|
01:45.300 --> 01:53.400 |
|
JNI의 전형적인 사용 사례를 해결하기 위해 할 겁니다 인공지능 비서, 챗봇을 만드는 거요 하지만 |
|
|
|
01:53.400 --> 01:57.120 |
|
오디오와 영상이 있는 방식으로 할 거예요 |
|
|
|
01:57.120 --> 02:03.720 |
|
멀티모달이고 도구를 사용할 수 있어요 컴퓨터에서 실행되는 코드를 호출할 수 있다는 뜻이죠 |
|
|
|
02:03.720 --> 02:07.650 |
|
좀 오싹하게 들리지만 우리가 하면 말이 돼요 |
|
|
|
02:07.650 --> 02:08.760 |
|
그게 다예요 |
|
|
|
02:08.760 --> 02:09.690 |
|
2주 차예요 |
|
|
|
02:10.290 --> 02:16.380 |
|
3주 차에는 오픈 소스로 넘어갑니다 포옹형 얼굴 플랫폼을 어디에나 사용할 수 있습니다 데이터 |
|
|
|
02:16.380 --> 02:21.870 |
|
과학자와 LM 엔지니어들이 전반에 걸쳐 사용하고 둘 다 구축할 때 사용하죠 |
|
|
|
02:21.960 --> 02:27.270 |
|
얼굴을 안는 간단한 API 파이프라인 API를 사용하고 좀 더 고급 API를 |
|
|
|
02:27.270 --> 02:32.040 |
|
사용합니다 얼굴을 안는 토큰라이저와 모델도 탐색하고요 |
|
|
|
02:32.280 --> 02:38.460 |
|
4주 차에는 인공지능 분야에서 특히 골치 아픈 문제를 다룰 |
|
|
|
02:38.460 --> 02:42.840 |
|
겁니다 선택할 모델이 너무 많다는 거죠 |
|
|
|
02:42.840 --> 02:47.220 |
|
주어진 작업에 적합한 모델을 어떻게 선택하나요? |
|
|
|
02:47.220 --> 02:52.650 |
|
벤치마크나 leaderboard 같은 걸 작업해 결정 경로를 어떻게 할지 |
|
|
|
02:52.650 --> 02:53.940 |
|
알아내는 거죠 |
|
|
|
02:53.940 --> 02:59.160 |
|
그리고 특히 다른 종류의 상업적 문제를 다룰 겁니다 코드 생성이죠 |
|
|
|
02:59.160 --> 03:06.330 |
|
파이썬 코드를 다시 쓸 수 있는 응용 프로그램을 만들겠습니다 C++ 고성능 C++ |
|
|
|
03:06.330 --> 03:07.380 |
|
코드로요 |
|
|
|
03:07.380 --> 03:11.010 |
|
비공개 소스와 오픈 소스 모델로 시도해 볼게요 |
|
|
|
03:11.010 --> 03:12.270 |
|
그중 한 명이 우승자가 되겠죠 |
|
|
|
03:12.300 --> 03:15.390 |
|
파이썬 테스트 코드를 가져가는 것이 승자가 되는 것이죠 |
|
|
|
03:15.390 --> 03:22.620 |
|
다시 쓸 거예요 새 코드는 60,000배 더 빨리 실행되죠 충격적이에요 |
|
|
|
03:22.650 --> 03:24.210 |
|
직접 보시게 될 거예요 |
|
|
|
03:24.270 --> 03:28.760 |
|
다른 종류의 코드 생성 도구를 만드는 연습도 할 거예요 |
|
|
|
03:29.210 --> 03:35.780 |
|
5주 차에는 현재 아주 핫한 주제 중 하나로 넘어갈 겁니다 쓰레기 회수, |
|
|
|
03:35.780 --> 03:43.490 |
|
증강 세대 정보 저장소를 이용해 전문 지식을 더하는 거죠 LLM은 자체 쓰레기 |
|
|
|
03:43.490 --> 03:49.640 |
|
파이프라인을 구축해 조직과 관련된 질문에 답할 거예요 |
|
|
|
03:49.640 --> 03:54.860 |
|
상업적으로 어려운 과제를 수행할 때 자신의 정보에 |
|
|
|
03:54.890 --> 03:56.480 |
|
적용해야 해요 |
|
|
|
03:56.480 --> 04:01.640 |
|
사람들이 어떻게 생각할지 정말 기대되네요 직접 만든 랙 파이프라인을 |
|
|
|
04:01.670 --> 04:03.860 |
|
어떻게 재건할지도요 |
|
|
|
04:04.790 --> 04:10.400 |
|
6주 차에는 이 과정의 3주 간판 프로젝트를 시작하죠 |
|
|
|
04:10.400 --> 04:13.250 |
|
6주 차에는 사업 문제를 다룰 거예요 |
|
|
|
04:13.250 --> 04:19.340 |
|
데이터 작업을 많이 할 겁니다 그런 다음 전통적인 머신 러닝 모델을 만들 거예요 기준선을 |
|
|
|
04:19.340 --> 04:21.410 |
|
구축하는 게 아주 중요하죠 |
|
|
|
04:21.410 --> 04:26.720 |
|
거기서 모델을 만들어 보고 사업상 문제를 해결하기 |
|
|
|
04:26.750 --> 04:29.810 |
|
위해 최대한 노력할 거예요 |
|
|
|
04:29.810 --> 04:33.110 |
|
7주째에는 오픈 소스에 적용할 거예요 |
|
|
|
04:33.110 --> 04:38.080 |
|
오픈 소스 모델을 도입할 겁니다 처음에는 성능이 형편없었지만 미세 |
|
|
|
04:38.080 --> 04:44.440 |
|
조정으로 오픈 소스 모델을 개선하는 것이 우리의 임무입니다 GPT 4와 경쟁할 수 |
|
|
|
04:44.440 --> 04:46.000 |
|
있을 때까지요 |
|
|
|
04:46.210 --> 04:47.680 |
|
개척지의 모델이죠 |
|
|
|
04:47.680 --> 04:52.810 |
|
결과는 말씀 못 드리지만 이 말은 해드릴 수 있어요 그 결과가 여러분을 놀라게 |
|
|
|
04:52.810 --> 04:53.770 |
|
할 거예요 |
|
|
|
04:53.800 --> 04:54.880 |
|
그건 확실해요 |
|
|
|
04:54.880 --> 04:59.080 |
|
7주 차에 어떻게 될지 지켜보는 게 좋겠어요 |
|
|
|
04:59.350 --> 05:05.200 |
|
하지만 8주 차 최종회에서 모든 게 맞아떨어져요 8주 동안 완전한 |
|
|
|
05:05.230 --> 05:13.060 |
|
자율형 인공지능 해결책을 개발할 겁니다 7명의 요원이 협력해서 진짜 상업적 문제를 |
|
|
|
05:13.060 --> 05:15.430 |
|
해결할 거예요 |
|
|
|
05:15.730 --> 05:17.170 |
|
끝이죠 |
|
|
|
05:17.200 --> 05:21.400 |
|
인터넷에서 다양한 걸 스캔할 뿐 아니라 푸시 알림도 |
|
|
|
05:21.400 --> 05:24.880 |
|
보내죠 발견되는 것들과 함께요 |
|
|
|
05:24.940 --> 05:27.340 |
|
정말 멋질 거예요 |
|
|
|
05:27.340 --> 05:30.100 |
|
결국 멋진 결과가 나올 거예요 |
|
|
|
05:30.130 --> 05:35.830 |
|
매주 배운 모든 것의 정점이 될 수 있는 좋은 기회예요 지난주 배운 |
|
|
|
05:35.830 --> 05:41.710 |
|
걸 바탕으로 해서 당장 본업에서 실행할 수 있는 진정한 상업 프로젝트가 |
|
|
|
05:41.710 --> 05:45.100 |
|
탄생하는 거죠 Put
|
|
|