From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
100 lines
3.9 KiB
100 lines
3.9 KiB
WEBVTT |
|
|
|
00:00.110 --> 00:05.300 |
|
そして、 最後の背景情報として、 APIのコストについてお話ししたいと思います。 |
|
|
|
00:05.300 --> 00:07.910 |
|
前にも言ったことだけどね。 |
|
|
|
00:07.940 --> 00:11.870 |
|
もちろん、 Readmeにもこれに関するセクションがある。 |
|
|
|
00:12.110 --> 00:15.260 |
|
だから、 前にも言ったように、 これがある。 |
|
|
|
00:15.290 --> 00:23.060 |
|
通常、 ChatGPTのようなチャット・ウェブ・インターフェイスには、 プロ・プランがあり、 |
|
|
|
00:23.150 --> 00:29.900 |
|
米国では月額20ドル、 他の地域でも同額で、 月額のサブスクリプションでは、 |
|
|
|
00:29.900 --> 00:36.140 |
|
多少料金が制限されますが、 基本的に通話料はかかりません。 |
|
|
|
00:36.140 --> 00:42.350 |
|
それに、 チャットのインターフェイスを通してモデルに電話をかけることが、 ほとんど無制限にできるような気がするんだ。 |
|
|
|
00:42.350 --> 00:44.540 |
|
APIが違う。 |
|
|
|
00:44.540 --> 00:51.110 |
|
APIは月額制ではなく、 コールごとに支払う。 支払うコストは、 使用するモデルや、 |
|
|
|
00:51.110 --> 00:56.990 |
|
入力トークンの数、 出力トークンの数に依存する。 |
|
|
|
00:56.990 --> 00:58.340 |
|
料金も請求される。 |
|
|
|
00:58.340 --> 01:01.040 |
|
総費用はこの2つの組み合わせとなる。 |
|
|
|
01:01.070 --> 01:07.550 |
|
インプット・トークンの数に応じた少ないチャージと、 アウトプット・トークンの数に応じた若干高いチャージだ。 |
|
|
|
01:07.550 --> 01:13.250 |
|
しかし、 個々の通話に関しては、 トータルコストは全体的に非常に低いことを強調しておきたい。 |
|
|
|
01:13.250 --> 01:17.600 |
|
大量の電話をかけるシステムを構築しようとしているのであれば、 その数はどんどん増えていくので、 |
|
|
|
01:17.600 --> 01:20.930 |
|
規模を拡大するにつれて非常に敏感になり、 それを意識しなければならない。 |
|
|
|
01:20.960 --> 01:27.980 |
|
しかし、 私たちが取り組むプロジェクトでは、 そのコストはかなり小さくなる。 |
|
|
|
01:28.340 --> 01:34.670 |
|
一般的に、 このコースに関して言えば、 おそらくAPIコストに関して言えば、 |
|
|
|
01:34.670 --> 01:41.960 |
|
最も重要なのは、 最近のプラットフォームは最低限を要求しているようだということです。 |
|
|
|
01:41.960 --> 01:47.810 |
|
OpenAIとClaudeの場合、 現時点ではアメリカでは、 少なくとも5ドル相当のクレジットを付ける必要があり、 |
|
|
|
01:47.810 --> 01:50.480 |
|
そのクレジットを引き出して使用する。 |
|
|
|
01:50.480 --> 01:55.820 |
|
このコースでは、 その5ドルの表面には触れませんが、 最初の金額を投入する必要があります。 |
|
|
|
01:55.820 --> 02:02.030 |
|
しかし、 自分のプロジェクトでその5ドルをさまざまな方法で使用する機会がたくさんあります。 |
|
|
|
02:02.030 --> 02:08.270 |
|
そして、 自分の教育や経験を積み重ねるだけでなく、 これらのモデルを使って自分のために新しいプロジェクトを立ち上げる能力という点でも、 |
|
|
|
02:08.270 --> 02:13.130 |
|
素晴らしい投資だと思う。 |
|
|
|
02:13.160 --> 02:18.080 |
|
とはいえ、 もしラマを使うことに抵抗があるのであれば、 |
|
|
|
02:18.080 --> 02:24.140 |
|
前回の練習でラマを作ったのですから、 オープンAIやクロード、 |
|
|
|
02:24.140 --> 02:30.290 |
|
ジェミニを使う代わりにラマを使うこともできます。 |
|
|
|
02:30.380 --> 02:35.870 |
|
前回の練習でそれを実践する練習を積んだだろう。 |
|
|
|
02:35.900 --> 02:38.810 |
|
APIコストに抵抗があるなら。 |
|
|
|
02:38.810 --> 02:47.360 |
|
このような背景を踏まえて、 APIのコストとその背景についてもう少し詳しく説明できるサイトを紹介しよう。 |
|
|
|
02:47.360 --> 02:48.020 |
|
ウィンドウズ
|
|
|