From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
265 lines
9.4 KiB
265 lines
9.4 KiB
WEBVTT |
|
|
|
00:00.080 --> 00:01.760 |
|
今、 あなたが何を考えているか分かる。 |
|
|
|
00:01.790 --> 00:04.190 |
|
私たちは長い間、 環境を構築してきた。 |
|
|
|
00:04.220 --> 00:05.330 |
|
まだ終わっていないのか? |
|
|
|
00:05.360 --> 00:06.740 |
|
あと少しだ。 |
|
|
|
00:06.770 --> 00:07.940 |
|
あと少しだ。 |
|
|
|
00:07.940 --> 00:13.100 |
|
あと2つステップを踏んで、 環境のセットアップを終えてプロジェクトに入る。 |
|
|
|
00:13.100 --> 00:21.440 |
|
そこで次にしなければならないのは、 オープンAIを使用するためのキーをセットアップすることで、 JupyterLab環境から接続して、 |
|
|
|
00:21.440 --> 00:26.420 |
|
地球上で最もパワフルなモデルを使って実行できるようにすることだ。 |
|
|
|
00:26.690 --> 00:33.320 |
|
GitHubリポジトリのReadmeを少し下にスクロールすると、 |
|
|
|
00:33.320 --> 00:41.480 |
|
主要なプロバイダーへのリンクがあります。 |
|
|
|
00:41.480 --> 00:46.820 |
|
そのリンクをクリックすると、 オープンAIのページに移動します。 |
|
|
|
00:46.820 --> 00:53.930 |
|
一度も利用したことがない場合は、 Googleの認証情報を使ってサインアップするか、 アカウントを作成する必要がある。 |
|
|
|
00:54.260 --> 00:59.720 |
|
さて、 先に進む前に、 かなり紛らわしいことを説明しなければならない。 |
|
|
|
00:59.720 --> 01:11.550 |
|
それは、 OpenAIやクラウドのanthropic、 GeminiのGoogleのような主要なクローズド・ソース・プロバイダーには、 2つの異なるタイプのプランがあり、 |
|
|
|
01:11.550 --> 01:19.980 |
|
それらは完全に別個のもので、 お互いに何の関係もない、 ということだ。 |
|
|
|
01:20.010 --> 01:30.720 |
|
そのうちのひとつはウェブ・ツール、 つまりフロント・エンド・ツールに関するもので、 私たちがよく知っているChatGPTのようなチャットに使うことができる。 |
|
|
|
01:30.750 --> 01:37.980 |
|
ChatGPTにはプロプランがあり、 後ほど紹介する最新モデル、 例えばOh one previewやGPT |
|
|
|
01:37.980 --> 01:42.990 |
|
four with canvasなどが使えるようになります。 |
|
|
|
01:43.050 --> 01:46.020 |
|
それは場合によってはプロのプランが必要だ。 |
|
|
|
01:46.050 --> 01:52.440 |
|
ええと、 Proプランはアメリカでは月額約20ドルで、 他の地域でも似たような価格設定です。 |
|
|
|
01:52.770 --> 01:57.420 |
|
月額固定料金で、 その機種にほぼ無制限にアクセスできる。 |
|
|
|
01:57.420 --> 01:59.220 |
|
人間性についても同じことが言える。 |
|
|
|
01:59.250 --> 02:00.660 |
|
ええと、 同じようなことだよ。 |
|
|
|
02:00.660 --> 02:03.180 |
|
それと、 グーグル双子座も。 |
|
|
|
02:03.830 --> 02:08.720 |
|
しかし、 これはAPIの世界とはまったく別の話だ。 |
|
|
|
02:08.720 --> 02:11.810 |
|
APIの世界は、 あなたが使用できる場所です。 |
|
|
|
02:11.810 --> 02:20.390 |
|
コードを使ってモデルに直接呼びかけることができ、 モデルはクラウド上で動いていて、 あなたの質問に対する答えを返してくれる。 |
|
|
|
02:20.390 --> 02:23.330 |
|
異なるタイプの料金プランだ。 |
|
|
|
02:23.330 --> 02:25.880 |
|
毎月の購読料がないのだ。 |
|
|
|
02:25.880 --> 02:28.670 |
|
毎月の支払いは一切ない。 |
|
|
|
02:28.670 --> 02:32.240 |
|
しかし、 APIリクエストごとに支払う必要がある。 |
|
|
|
02:32.240 --> 02:39.680 |
|
リクエストごとの支払いは、 後でAPIのコストについて詳しく説明する。 |
|
|
|
02:39.680 --> 02:44.390 |
|
でも、 このコースで取り組むプロジェクトにとっては、 本当に小さなものなんだ。 |
|
|
|
02:44.390 --> 03:04.550 |
|
そのため、 これらのAPIのいくつかを試してみても本当に損はない。 |
|
|
|
03:04.550 --> 03:16.980 |
|
これらのフロンティア・クローズド・ソース・モデルは、 おわかりのように超強力であるため、 これらの反応を生成するための処理の背後にあるコンピュートに対して少額を支払わなければならないのは理にかなっている。 |
|
|
|
03:17.190 --> 03:20.400 |
|
しかし、 そうはいっても問題がある。 |
|
|
|
03:20.430 --> 03:26.310 |
|
この価格設定については、 場合によっては新しいもので、 地域によって違うかもしれませんが、 |
|
|
|
03:26.340 --> 03:36.180 |
|
私やOpenAIの場合、 APIを使うために最低限支払わなければならないものがあります。 |
|
|
|
03:36.180 --> 03:39.480 |
|
私の場合は最低5ドルだ。 |
|
|
|
03:39.480 --> 03:41.880 |
|
だから、 少なくとも5ドルは入れなければならない。 |
|
|
|
03:41.880 --> 03:46.020 |
|
そして、 APIを使用するにつれて、 その5ドルをチャージするようになる。 |
|
|
|
03:46.020 --> 03:54.660 |
|
でも、 その5ドルの使い道は他にもたくさんある。 |
|
|
|
03:54.660 --> 03:55.500 |
|
断言するよ。 |
|
|
|
03:55.500 --> 03:57.390 |
|
たくさんのプロジェクトがある。 |
|
|
|
03:57.390 --> 04:05.010 |
|
本当に役に立つこと、 それを使って良い結果を得るための方法など、 たくさんの練習があるはずだ。 |
|
|
|
04:05.010 --> 04:08.450 |
|
だから、 私の売り文句は、 それだけの価値があるということだ。 |
|
|
|
04:08.450 --> 04:12.950 |
|
私ならそうするが、 もちろん個人の選択だ。 |
|
|
|
04:13.220 --> 04:19.400 |
|
もし、 5ドルを置くことに抵抗があったり、 むしろ置きたくないのであれば、 それでも構わない。 |
|
|
|
04:19.520 --> 04:26.600 |
|
オープンソースのモデルを使う方法をお見せします。 |
|
|
|
04:26.600 --> 04:29.330 |
|
その代わり、 ラマを使うことができるだろう。 |
|
|
|
04:29.360 --> 04:35.570 |
|
私たちが一番最初にやったことで、 フロンティアモデルを使う代わりにそれを使うことができる。 |
|
|
|
04:35.570 --> 04:38.240 |
|
もちろん、 結果は同じではない。 |
|
|
|
04:38.360 --> 04:44.420 |
|
GPT4が約10兆のパラメータを使うと噂されているのに比べ、 |
|
|
|
04:44.420 --> 04:52.940 |
|
ラマ・モデルは20億のパラメータを使うことになる。 |
|
|
|
04:52.940 --> 04:58.190 |
|
そのため、 モデルの質は異なるが、 5ドルを前払いする必要がある。 |
|
|
|
04:58.190 --> 05:00.200 |
|
だから、 それが君の決断なんだ。 |
|
|
|
05:00.290 --> 05:03.590 |
|
そして、 繰り返しになるが、 私の考えは、 それだけの価値があるということだ。 |
|
|
|
05:04.070 --> 05:11.040 |
|
そのためには、 OpenAIのプラットフォームに入ってログインし、 ここまで来ればOKです。 |
|
|
|
05:11.190 --> 05:12.750 |
|
やるべきことは2つだけだ。 |
|
|
|
05:12.780 --> 05:15.990 |
|
まず、 ここにある設定ボタンをクリックする。 |
|
|
|
05:15.990 --> 05:20.520 |
|
そしてこちらの設定から課金に行き、 課金に行く。 |
|
|
|
05:20.520 --> 05:26.910 |
|
ここで、 GPTフォーゼロを利用するためには、 ある程度のクレジット残高が必要となる。 |
|
|
|
05:27.060 --> 05:30.420 |
|
最低でも5ドル必要だ。 |
|
|
|
05:30.420 --> 05:33.600 |
|
クレジット残高に追加を押して、 クレジットカードを打ち込まなければならない。 |
|
|
|
05:33.600 --> 05:37.410 |
|
そして5ドルで、 オートリチャージはオフにしておく。 |
|
|
|
05:37.440 --> 05:42.030 |
|
あなたの許可なくカードからスナップされたくないでしょう。 |
|
|
|
05:42.030 --> 05:44.340 |
|
こう言っている間にも、 これがそうだった。 |
|
|
|
05:44.550 --> 05:56.910 |
|
GPTフォーミニ(廉価版)をこのプロジェクト、 このコースでほぼ独占的に使用しているからだ。 |
|
|
|
05:57.000 --> 05:57.510 |
|
だから |
|
|
|
05:57.510 --> 06:03.870 |
|
だから、 この5ドルでも十分すぎるし、 きっと有効に使えるはずだ。 |
|
|
|
06:03.870 --> 06:09.270 |
|
だから、 もしそうすることに抵抗がないのであれば、 課金に行き、 5ドルを支払えばいい。 |
|
|
|
06:09.510 --> 06:17.040 |
|
そして次に、 ダッシュボードに行き、 APIキーのところに行く。 |
|
|
|
06:17.490 --> 06:24.330 |
|
そして、 ここに来て、 ここにある新しいシークレットキーを作成するボタンを押してください。 |
|
|
|
06:24.810 --> 06:26.850 |
|
ええと、 あなたに設定されています。 |
|
|
|
06:26.850 --> 06:28.560 |
|
お望みなら名前をつけてもいい。 |
|
|
|
06:28.560 --> 06:32.850 |
|
すべての権限を与え、 シークレットキーの作成ボタンを押す。 |
|
|
|
06:32.850 --> 06:37.830 |
|
そうすると、 あなたが作成した新しい秘密鍵が表示されます。 |
|
|
|
06:37.830 --> 06:41.610 |
|
そして、 その秘密鍵をクリップボードにコピーするチャンスを与えてくれる。 |
|
|
|
06:41.610 --> 06:44.610 |
|
そうする必要がある。 |
|
|
|
06:44.640 --> 06:47.250 |
|
この秘密鍵はもう二度と見ることはないだろう。 |
|
|
|
06:47.280 --> 06:51.450 |
|
それはあなたの秘密であり、 コピーして安全な場所に保管しなければならない。 |
|
|
|
06:51.450 --> 06:53.490 |
|
すぐに使います。 |
|
|
|
06:53.520 --> 06:57.780 |
|
それができたら、 このキーを実際に使う準備ができる。 |
|
|
|
06:57.780 --> 06:59.010 |
|
そして、 あと少しだ。 |
|
|
|
06:59.010 --> 07:00.540 |
|
あと少しで終わる。 |
|
|
|
07:00.540 --> 07:04.080 |
|
運がよければ、 これで秘密鍵がコピーできたことになる。 |
|
|
|
07:04.080 --> 07:09.570 |
|
5ドルまたは現地通貨相当額を支払い、 準備は整った。 |
|
|
|
07:09.570 --> 07:14.190 |
|
それではまた次のビデオで、 環境構築の最後のステップをお見せしよう。
|
|
|