From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
112 lines
3.4 KiB
112 lines
3.4 KiB
WEBVTT |
|
|
|
00:00.110 --> 00:05.300 |
|
마지막 배경 정보로 API 비용에 대해 다시 한 번 얘기하고 싶네요 |
|
|
|
00:05.300 --> 00:07.910 |
|
전에 말씀드린 건데요 |
|
|
|
00:07.940 --> 00:11.870 |
|
리드미에 이것에 관한 부분도 있어요 |
|
|
|
00:12.110 --> 00:15.260 |
|
아까도 말씀드렸지만 이게 있어요 |
|
|
|
00:15.290 --> 00:23.060 |
|
챗 웹 인터페이스와 관련된 프로 계획이라는 게 혼란스럽습니다 챗GPT 같은 |
|
|
|
00:23.150 --> 00:29.900 |
|
거요 미국에서는 월 20달러죠 다른 지역도 금액이 비슷하고요 월간 |
|
|
|
00:29.900 --> 00:36.140 |
|
구독을 하면 요금은 제한적이지만 한 통당 요금은 없어요 |
|
|
|
00:36.140 --> 00:41.390 |
|
채팅 인터페이스를 통해 모델을 호출할 수 있는 거의 무한한 기능이 있는 |
|
|
|
00:41.390 --> 00:42.350 |
|
것 같아요 |
|
|
|
00:42.350 --> 00:44.540 |
|
API는 달라요 |
|
|
|
00:44.540 --> 00:51.110 |
|
API는 월간 구독을 하지 않지만 호출당 지불을 하고 지불하는 비용은 사용하는 모델에 |
|
|
|
00:51.110 --> 00:56.990 |
|
따라 다르고 입력 토큰의 개수와 출력 토큰의 개수에 따라 달라지죠 |
|
|
|
00:56.990 --> 00:58.340 |
|
요금을 청구하죠 |
|
|
|
00:58.340 --> 01:01.040 |
|
총비용은 그 둘을 합친 거예요 |
|
|
|
01:01.070 --> 01:06.140 |
|
입력 토큰의 개수에 따라 전하가 더 적고 출력 토큰의 개수에 따라 |
|
|
|
01:06.140 --> 01:07.550 |
|
전하가 더 높죠 |
|
|
|
01:07.550 --> 01:13.250 |
|
하지만 개인 통화의 총비용은 전반적으로 아주 낮다는 점을 강조해야겠네요 |
|
|
|
01:13.250 --> 01:17.600 |
|
많은 양의 호출을 하는 시스템을 구축하고자 한다면 그 숫자가 쌓일 것이고 아주 |
|
|
|
01:17.600 --> 01:20.930 |
|
세심하게 스케일을 조정할수록 그것을 인식해야 하죠 |
|
|
|
01:20.960 --> 01:26.030 |
|
하지만 우리가 작업할 프로젝트는 비용이 아주 적게 들죠 그게 어떤 건지 |
|
|
|
01:26.030 --> 01:27.980 |
|
잠시 후에 보여드릴게요 |
|
|
|
01:28.340 --> 01:34.670 |
|
일반적으로 말씀드리고 싶은 건 여러분이 염려하는 한 이 과정에선 API |
|
|
|
01:34.670 --> 01:41.960 |
|
비용에 관해 가장 중요한 건 요즘 이런 플랫폼들은 최소 비용이 필요한 것 같아요 |
|
|
|
01:41.960 --> 01:47.810 |
|
오픈아이와 클로드의 경우 현재 미국에서는 최소 5달러의 신용카드를 |
|
|
|
01:47.810 --> 01:50.480 |
|
빌린 후 돈을 써야 해요 |
|
|
|
01:50.480 --> 01:55.820 |
|
이 코스에선 그 5달러의 표면을 긁진 않겠지만 초기 금액을 입력해야 합니다 |
|
|
|
01:55.820 --> 02:02.030 |
|
하지만 여러분의 프로젝트에서 다양한 방식으로 사용할 기회가 많을 거예요 |
|
|
|
02:02.030 --> 02:08.270 |
|
저는 교육과 능력 면에서 큰 투자를 하는 거라고 봅니다 이런 모델을 활용해 새로운 |
|
|
|
02:08.270 --> 02:13.130 |
|
프로젝트를 구축하고 교육과 경험을 쌓을 수 있으니까요 |
|
|
|
02:13.160 --> 02:18.080 |
|
하지만 만약 라마를 사용하는 것이 불편하다면 라마를 |
|
|
|
02:18.080 --> 02:24.140 |
|
사용하는 법을 봤고 지난 시간에 만들었으니 오픈라이, 클로드, |
|
|
|
02:24.140 --> 02:30.290 |
|
제미나이 대신 라마를 사용할 수 있을 거예요 |
|
|
|
02:30.380 --> 02:35.870 |
|
지난 번 연습으로 연습했으니 원하면 실행에 옮길 수 있어요. Tool karaoke Tool karaoke. |
|
|
|
02:35.900 --> 02:38.810 |
|
API 비용이 불편하다면 말이죠 |
|
|
|
02:38.810 --> 02:45.080 |
|
이제 다른 사이트로 가서 API 비트와 컨텍스트에 대한 통찰력을 |
|
|
|
02:45.080 --> 02:47.360 |
|
보여드릴게요 |
|
|
|
02:47.360 --> 02:48.020 |
|
창문요
|
|
|