From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
295 lines
8.3 KiB
295 lines
8.3 KiB
WEBVTT |
|
|
|
00:00.050 --> 00:05.660 |
|
강의 첫 주에는 개척자 모델을 살펴볼 겁니다 첫날에 무엇이 가능한지 |
|
|
|
00:05.690 --> 00:10.880 |
|
최전선에서 살펴볼 겁니다 환경을 설정하고 첫 LM 솔루션을 |
|
|
|
00:10.880 --> 00:13.310 |
|
구축할 거예요 |
|
|
|
00:13.310 --> 00:17.000 |
|
앞으로 몇 주 동안 어떻게 하면 성공할 수 있을지 얘기해 보죠 |
|
|
|
00:17.000 --> 00:21.320 |
|
그리고 최첨단 모델을 비교해 볼 거예요 |
|
|
|
00:21.320 --> 00:23.900 |
|
당신이 잘 아는 것도 있고 처음 보는 것도 있어요 |
|
|
|
00:23.930 --> 00:29.030 |
|
다음은 트랜스포머에 관해 이야기할 거예요 이번 수업에서 다룰 |
|
|
|
00:29.030 --> 00:32.210 |
|
거의 모든 모델의 핵심 구조물이죠 |
|
|
|
00:32.270 --> 00:38.090 |
|
마지막으로 여러분이 사용할 수 있는 상업 프로젝트로 마무리할 거예요 여러분 것으로 만들 |
|
|
|
00:38.090 --> 00:40.310 |
|
수 있는 연습 과제를 드릴게요 |
|
|
|
00:40.310 --> 00:44.540 |
|
다양한 비즈니스 영역에 적용하세요 본업에서 바로 사용할 수 있는 거죠 |
|
|
|
00:44.540 --> 00:49.580 |
|
프로젝트로 사용할 수도 있고 예제로 가질 수도 있어요 |
|
|
|
00:50.240 --> 00:55.910 |
|
이제 만족스러운 즉석 결과를 얻게 될 거예요 get it |
|
|
|
00:55.940 --> 01:00.080 |
|
라마는 이미 여러분 컴퓨터에서 재미있는 걸 했었죠 이번엔 |
|
|
|
01:00.080 --> 01:03.890 |
|
한 단계 더 높일 겁니다 API를 직접 호출해서요 |
|
|
|
01:03.980 --> 01:11.630 |
|
하지만 먼저 필요한 건 여러분의 환경을 설정하는 겁니다 앞으로 진행할 8주 프로그램을 모두 통과할 |
|
|
|
01:11.630 --> 01:17.450 |
|
수 있을 만큼 충분한 마력을 갖춘 데이터 과학 환경을 만드는 거죠 |
|
|
|
01:17.450 --> 01:22.190 |
|
그 지점에 도달하기 위해 설치해야 할 게 꽤 많아요 |
|
|
|
01:22.400 --> 01:28.580 |
|
이 말을 해야겠네요 비트 박스를 하다 보면 가끔 답답할 때가 있어요 |
|
|
|
01:28.580 --> 01:32.090 |
|
대부분은 아주 매끄럽게 진행되고 모든 게 제자리에 들어맞아요 |
|
|
|
01:32.090 --> 01:33.560 |
|
5분이면 다 익어요 |
|
|
|
01:33.560 --> 01:38.600 |
|
하지만 어떤 사람들은 어떤 이유에서든 과속 방지 턱에 부딪히죠 |
|
|
|
01:38.630 --> 01:41.720 |
|
시스템 문제나 새로운 효과 때문에요 |
|
|
|
01:41.780 --> 01:47.720 |
|
힘들 수도 있지만 제가 차근차근 설명해 드릴게요 성공적으로 진행되도록요 |
|
|
|
01:47.720 --> 01:50.420 |
|
그래야 비트가 순조롭죠 |
|
|
|
01:50.420 --> 01:55.280 |
|
곧 뒤로 물러날 겁니다 실제 프로젝트로 넘어가 앞으로 8주간은 |
|
|
|
01:55.280 --> 01:58.250 |
|
환경 설정 걱정을 안 해도 돼요 |
|
|
|
01:58.250 --> 02:04.590 |
|
전체 스펙 데이터 과학 환경을 만드는 건 생각만큼 쉽지 않아요 |
|
|
|
02:04.950 --> 02:07.860 |
|
할 일이 좀 있지만 빨리 끝낼 거예요 get it get it |
|
|
|
02:07.860 --> 02:11.910 |
|
먼저, 깃을 잘 아는 사람들을 위해 압류 차량을 복제할 거예요 |
|
|
|
02:11.910 --> 02:16.500 |
|
그건 쉽죠 하지만 제가 꼭 알려드릴게요 이게 새로운 것일 수 있으니까요 |
|
|
|
02:16.620 --> 02:21.930 |
|
그런 다음 읽기 설명서를 통해 환경을 설정하죠 |
|
|
|
02:21.960 --> 02:27.180 |
|
아나콘다라는 걸 사용하길 권해드립니다 이미 사용해본 분들도 계실 거예요 |
|
|
|
02:27.180 --> 02:30.960 |
|
힘이 세고 꽤 묵직해요 |
|
|
|
02:30.960 --> 02:37.140 |
|
이 과정을 위해 여러분 컴퓨터에 전용적이고 격리된 환경을 만들어줍니다 |
|
|
|
02:37.140 --> 02:43.200 |
|
여러분이 하는 것과 제가 하는 것, 그리고 다른 모든 과정 사이에 높은 |
|
|
|
02:43.200 --> 02:46.590 |
|
호환성을 보장하는 거죠 |
|
|
|
02:46.680 --> 02:48.900 |
|
아주 잘하죠 |
|
|
|
02:49.170 --> 02:50.550 |
|
하지만 꽤 묵직해요 |
|
|
|
02:50.550 --> 02:55.110 |
|
인터넷에서 많이 다운로드 받고 설치도 많이 해야 해요 모든 걸 처음부터 |
|
|
|
02:55.110 --> 02:56.130 |
|
만들거든요 |
|
|
|
02:56.520 --> 02:59.100 |
|
그게 문제가 된다면 대안이 있어요 |
|
|
|
02:59.100 --> 03:01.080 |
|
더 간단한 방법을 쓸 수도 있어요 |
|
|
|
03:01.080 --> 03:06.440 |
|
Pip의 표준 파이썬 가상 환경 접근 방법에 대한 설명도 가지고 있어요 |
|
|
|
03:06.470 --> 03:13.580 |
|
더 빠르고 단순하고 아나콘다만큼 호환이 확실하지 않아요 가능하면 아나콘다를 |
|
|
|
03:13.580 --> 03:15.740 |
|
시도해 보려고요 |
|
|
|
03:15.770 --> 03:17.150 |
|
대체로 잘 작동해요 |
|
|
|
03:17.150 --> 03:18.380 |
|
아무 문제 없었어요? |
|
|
|
03:18.380 --> 03:20.900 |
|
파이썬 가상 환경은 대체책이죠 |
|
|
|
03:20.930 --> 03:24.620 |
|
OpenAI 키를 설정해야 하는데 나중에 더 얘기할게요 |
|
|
|
03:24.620 --> 03:28.310 |
|
API 비용에 대해 얘기할게요 그게 여러분께 문제가 될 경우 어떻게 해야 할지요 |
|
|
|
03:28.400 --> 03:29.930 |
|
그때 가서 얘기하죠 |
|
|
|
03:29.930 --> 03:35.960 |
|
EMV 파일이라는 걸 만들어야 해요 개인 키가 들어 있는 거죠 |
|
|
|
03:35.960 --> 03:40.460 |
|
파일이 정확히 .MV로 불려야 한다는 게 중요해요 |
|
|
|
03:40.460 --> 03:45.410 |
|
설명할게요, 하지만 키즈. EMV. EMV.Txt는 안 돼요 |
|
|
|
03:45.440 --> 03:47.600 |
|
정확히 .MV라고 불러야 해요 |
|
|
|
03:48.050 --> 03:53.840 |
|
마지막으로 환경을 활성화하고 주피터랩을 실행해 프로그램을 시작해요 |
|
|
|
03:54.560 --> 03:59.720 |
|
말씀드렸듯이 대부분은 다 잘 될 거예요 |
|
|
|
03:59.930 --> 04:06.190 |
|
대부분은 모든 게 잘 진행된다고 보고하지만 그렇지 않다면 마음대로 |
|
|
|
04:06.190 --> 04:09.460 |
|
쓸 수 있는 비밀 병기가 있죠 |
|
|
|
04:09.490 --> 04:15.490 |
|
그 중 첫 번째는 문제 해결 공책입니다 깃허브 리포에 있는 걸 보여드릴게요 |
|
|
|
04:15.520 --> 04:20.650 |
|
문제를 단계별로 진단하고 뭐가 잘못됐는지 코드를 |
|
|
|
04:20.650 --> 04:24.340 |
|
실행해 하나씩 고쳐요 |
|
|
|
04:24.340 --> 04:25.900 |
|
저기 있네요 |
|
|
|
04:25.930 --> 04:31.840 |
|
두 번째 자원은 챗GPT와 클로드에 있는 놀라운 자원이에요 |
|
|
|
04:31.870 --> 04:34.840 |
|
얼마나 잘하는지 소름 끼쳐요 |
|
|
|
04:34.870 --> 04:42.670 |
|
문제를 말하고 스택 트레이스처럼 붙여넣기를 하면 아주 인상적이에요 해야 할 일에 대해 |
|
|
|
04:42.670 --> 04:45.310 |
|
아주 미묘한 답을 주거든요 |
|
|
|
04:45.340 --> 04:48.970 |
|
인프라 문제와 마주칠 때마다 허를 찔린 적이 있는데 이건 너무 심하다고 |
|
|
|
04:48.970 --> 04:49.870 |
|
생각했어요 |
|
|
|
04:49.870 --> 04:52.300 |
|
Get up OVERflow 스택도 못 맞히겠어요 |
|
|
|
04:52.480 --> 04:55.570 |
|
클로드가 절 구해줬어요 |
|
|
|
04:55.660 --> 04:57.400 |
|
클로드가 더 강한 것 같아요 |
|
|
|
04:57.430 --> 04:57.640 |
|
하지만요 |
|
|
|
04:57.640 --> 04:59.440 |
|
하지만 둘 다 좋은 답을 내놓았죠 |
|
|
|
04:59.440 --> 05:04.990 |
|
그러니 가끔은 그냥 붙여서 문제를 해결할 수 있다는 걸 아셔야 해요 |
|
|
|
05:05.020 --> 05:06.670 |
|
시도해 볼 만해요 |
|
|
|
05:06.730 --> 05:12.140 |
|
하지만 그 두 가지가 실패하거나 아니면 바로 이 세 번째 선택지를 선택해도 돼요 |
|
|
|
05:12.140 --> 05:15.770 |
|
세 번째 방법은 저한테 연락하는 거예요 |
|
|
|
05:15.890 --> 05:17.780 |
|
당신을 도우려고 대기 중이에요 |
|
|
|
05:17.780 --> 05:19.070 |
|
그게 제 일이에요 |
|
|
|
05:19.130 --> 05:20.990 |
|
그러니 제발 연락 좀 주세요 |
|
|
|
05:20.990 --> 05:23.900 |
|
저한테 연락하실 거면 플랫폼에서 메시지로 하세요 |
|
|
|
05:23.900 --> 05:25.130 |
|
이메일로 보내주세요 |
|
|
|
05:25.160 --> 05:28.700 |
|
제 이메일 주소는 읽기 안에 있어요 저와 링크할 수도 있고요 |
|
|
|
05:28.700 --> 05:30.500 |
|
그나저나 전 링크트인 연결망이 좋아요 |
|
|
|
05:30.560 --> 05:36.650 |
|
LinkedIn도 물론 있고요 거기도 메시지를 보내주세요 제가 아주 반응하는 걸 보실 수 있어요 |
|
|
|
05:36.740 --> 05:41.900 |
|
잠을 자지 않거나 여행을 가지 않으면 다른 답변을 보면 금방 답이 와요 |
|
|
|
05:41.990 --> 05:47.210 |
|
그걸 고치고 get up 작동시키는 게 제 일이라고 생각하죠 |
|
|
|
05:47.210 --> 05:48.320 |
|
난 실패한 적이 없어요 |
|
|
|
05:48.320 --> 05:55.340 |
|
하지만 5천 명이 모두 작업 환경을 갖추고 있어요 |
|
|
|
05:55.340 --> 05:59.570 |
|
과속 방지턱에 부딪히면 이 두 가지 옵션을 선택하세요 |
|
|
|
05:59.570 --> 06:00.860 |
|
나한테 바로 와도 돼요 |
|
|
|
06:00.860 --> 06:01.670 |
|
제가 해결할게요 |
|
|
|
06:01.670 --> 06:03.200 |
|
무슨 일인지 알아볼게요 |
|
|
|
06:03.200 --> 06:05.690 |
|
금방 다시 시작할 수 있어요 |
|
|
|
06:05.840 --> 06:06.680 |
|
좋아요 |
|
|
|
06:06.680 --> 06:11.630 |
|
이제 여러분 환경을 설정하는 데 필요한 걸 보여드리죠
|
|
|