From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
283 lines
9.5 KiB
283 lines
9.5 KiB
WEBVTT |
|
|
|
00:01.400 --> 00:02.420 |
|
お帰りなさい。 |
|
|
|
00:02.420 --> 00:06.980 |
|
そうして約10分後、 あるいは15分後、 走りは完了した。 |
|
|
|
00:06.980 --> 00:08.090 |
|
なぜそんなことが分かるのか? |
|
|
|
00:08.120 --> 00:08.900 |
|
いくつかの方法がある。 |
|
|
|
00:08.900 --> 00:16.910 |
|
そのひとつは、 OpenAIからメールをもらったことだ。 メールにあるように、 僕のファインチューニングの仕事を教えてくれた。 |
|
|
|
00:16.940 --> 00:22.490 |
|
"ブラブラブラ "が成功裏に完了し、 新しいモデル "ブラブラブラ "が誕生した。 |
|
|
|
00:22.490 --> 00:30.680 |
|
このモデルの名前にワープロが含まれていることにお気づきだろう。 |
|
|
|
00:30.740 --> 00:32.840 |
|
ええと、 どのように機能するかを示しただけだよ。 |
|
|
|
00:32.840 --> 00:38.390 |
|
微調整のための技の名前、 そしてコロン・パーソナル・コロン・プロセッサーで取り組んできたGPT |
|
|
|
00:38.390 --> 00:43.850 |
|
4ミニバリアントの名前、 そして最後にコードだ。 |
|
|
|
00:43.850 --> 00:45.740 |
|
これが私のメールだ。 |
|
|
|
00:45.770 --> 00:48.110 |
|
これがJupyterLabだ。 |
|
|
|
00:48.110 --> 00:50.090 |
|
ええと、 これは僕らがやっていたことなんだ。 |
|
|
|
00:50.180 --> 00:59.240 |
|
そして今、 ステータスの最後の10個のメッセージを見ている。 |
|
|
|
00:59.390 --> 01:01.940 |
|
じゃあ、 最後の5つのステップだ。 |
|
|
|
01:01.940 --> 01:04.110 |
|
モデルを微調整。 |
|
|
|
01:04.140 --> 01:08.070 |
|
有効にする前に、 当社の使用ポリシーに照らしてモデルを評価する。 |
|
|
|
01:08.070 --> 01:11.040 |
|
それが、 私があなたに言ったことだ。 |
|
|
|
01:11.250 --> 01:17.340 |
|
ええと、 その後、 使用ポリシーが完了し、 仕事は正常に完了しました。 |
|
|
|
01:17.340 --> 01:24.960 |
|
そして、 それがどのように見えるか、 ウェイトとバイアスでお見せしようということだ。 |
|
|
|
01:24.960 --> 01:27.690 |
|
これが最終的なウェイトとバイアスのチャートである。 |
|
|
|
01:27.840 --> 01:33.870 |
|
本当に重要なのは、 トレーニングの損失と検証の損失であることがおわかりいただけると思います。 もちろん、 検証の損失は、 |
|
|
|
01:33.870 --> 01:40.470 |
|
トレーニングの損失が計算されたときほど定期的に発生していないか、 発生していないことがおわかりいただけると思います。 |
|
|
|
01:40.710 --> 01:46.530 |
|
というのも、 1エポックしか行っていないため、 トレーニングデータはすべて新しいものだからだ。 |
|
|
|
01:46.530 --> 01:54.000 |
|
つまり、 トレーニングロスも、 検証ロスも、 常に同じセットで計算されるので、 我々にとって有用なのだ。 |
|
|
|
01:54.030 --> 01:57.960 |
|
特にトレンドの見極めに役立つ。 |
|
|
|
01:58.080 --> 02:04.500 |
|
検証の結果、 一見したところ、 あまりトレンドがないように見える。 |
|
|
|
02:04.500 --> 02:05.520 |
|
これを持ち出すことはできる。 |
|
|
|
02:05.520 --> 02:08.510 |
|
このパネルを編集し、 ズームインすることができる。 |
|
|
|
02:08.510 --> 02:10.940 |
|
ここでY軸を変えることができる。 |
|
|
|
02:10.970 --> 02:12.920 |
|
最小値はゼロであるべきだ。 |
|
|
|
02:12.920 --> 02:15.590 |
|
そして、 最大でも3人くらいにしよう。 |
|
|
|
02:15.590 --> 02:17.600 |
|
だからズームインするんだ。 |
|
|
|
02:18.620 --> 02:23.240 |
|
そして、 特に改善されているようには見えないことがわかるだろう。 |
|
|
|
02:23.240 --> 02:32.000 |
|
実際、 望むのであれば、 わずかに増えていると主張することもできるだろう。 |
|
|
|
02:32.120 --> 02:39.080 |
|
ええと、 でも、 このチャートで利用できる平滑化関数が、 |
|
|
|
02:39.080 --> 02:46.910 |
|
必ずしも平滑化されたものだと言えるかどうかはわかりません。 |
|
|
|
02:47.450 --> 02:54.080 |
|
そうだね、 確かに上がってはいないけど、 少し改善されたように見えるし、 |
|
|
|
02:54.080 --> 02:57.080 |
|
その後は横ばいになっている。 |
|
|
|
02:57.080 --> 03:00.620 |
|
しかし、 300ポイントまでは改善が見られたようだ。 |
|
|
|
03:01.100 --> 03:07.150 |
|
つまり、 これらはすべて、 あなたが自分自身に目を向け、 もっと時間を費やすためのものなんだ。 |
|
|
|
03:07.150 --> 03:12.950 |
|
しかしこの時点で、 テストデータに対してこのモデルを評価する必要がある。 |
|
|
|
03:13.340 --> 03:18.260 |
|
だから、 それをキックオフして、 それが完了したらビデオに切り替える。 |
|
|
|
03:18.380 --> 03:20.960 |
|
それではJupyter Labに戻ろう。 |
|
|
|
03:20.960 --> 03:24.020 |
|
これが微調整されたモデルだ。 |
|
|
|
03:24.260 --> 03:29.060 |
|
ジョブIDを取得し、 微調整されたモデルを収集することができます。 |
|
|
|
03:29.060 --> 03:30.830 |
|
では、 その内容を簡単にお見せしよう。 |
|
|
|
03:30.860 --> 03:47.810 |
|
これをお見せすると、 ここに新しい属性のファイン・チューンド・モデルがあり、 メールにあったファイン・チューンド・モデルと同じ名前が含まれていることがわかります。 |
|
|
|
03:47.810 --> 03:53.180 |
|
メールからコピー&ペーストすることもできるが、 コードで抜き出すほうがいいだろう。 |
|
|
|
03:53.180 --> 03:54.380 |
|
だから、 こうする。 |
|
|
|
03:54.980 --> 04:04.310 |
|
ええと、 私が提案したときにそれが実行されることを示すために、 これを実行すると、 明らかに同じ名前になります。 |
|
|
|
04:05.540 --> 04:07.100 |
|
分かった。 |
|
|
|
04:07.100 --> 04:13.470 |
|
だから、 このメッセージの機能をもう一度やり直そう。 |
|
|
|
04:13.530 --> 04:20.400 |
|
ええと、 今回は、 ええと、 答えを明らかにしない方を使っているんだ。 |
|
|
|
04:20.430 --> 04:24.270 |
|
もちろん、 そのような情報は与えたくない。 |
|
|
|
04:24.540 --> 04:29.010 |
|
ああ、 それが実際にうまくいくと自分自身を納得させよう。 |
|
|
|
04:29.400 --> 04:30.960 |
|
そうだ。 |
|
|
|
04:30.990 --> 04:35.280 |
|
という疑問が湧く。 |
|
|
|
04:35.280 --> 04:37.260 |
|
価格は明らかにしていない。 |
|
|
|
04:37.260 --> 04:41.190 |
|
そして、 我々のモデルにとっての課題は、 これを仕上げることだ。 |
|
|
|
04:41.820 --> 04:48.840 |
|
前回、 我々が持っている効用関数を覚えているだろう。 |
|
|
|
04:49.260 --> 04:54.960 |
|
ええと、 前回これをやったとき、 値段はだいたい99だったと記憶している。 99歳は、 ブラブラ、 ブラブラだからだ。 |
|
|
|
04:54.990 --> 04:59.610 |
|
そして、 それを実行すれば、 もちろん "get price "関数はそこから価格を取り除くだけだ。 |
|
|
|
04:59.820 --> 05:01.920 |
|
ええと、 よくご存知だと思いますが。 |
|
|
|
05:02.370 --> 05:10.020 |
|
これがこれからテストする関数だ。 |
|
|
|
05:10.020 --> 05:18.270 |
|
GPTの微調整された応答は、 OpenAI ChatGPTの完了を作成し、 通常のGPTの4つのために、 あなたがそれを呼び出すのと同じように、 |
|
|
|
05:18.270 --> 05:20.010 |
|
それを呼び出します。 |
|
|
|
05:20.040 --> 05:21.570 |
|
ああ、 同じAPIだ。 |
|
|
|
05:21.600 --> 05:22.470 |
|
その通りだ。 |
|
|
|
05:22.470 --> 05:27.000 |
|
たった一つの違い、 ほんの小さな違い、 微細な違いだ。 |
|
|
|
05:27.030 --> 05:30.330 |
|
GPT4ミニではパスしない。 |
|
|
|
05:30.360 --> 05:38.850 |
|
この名前をOpenAIに送ります。 |
|
|
|
05:38.850 --> 05:44.160 |
|
そして、 それが微調整されたバージョンを使いたいことを意味することを自動的に認識する。 |
|
|
|
05:44.670 --> 05:47.430 |
|
私たちは返事を撤回し、 代金を受け取る。 |
|
|
|
05:49.080 --> 05:51.510 |
|
では、 1つだけ例をプリントしてみよう。 |
|
|
|
05:51.510 --> 06:01.380 |
|
テストセットの最初のもの、 つまり200ドルもするものと、 意表を突かれたものをプリントしてみよう。 |
|
|
|
06:01.380 --> 06:04.620 |
|
そして、 GPTを初めて微調整したと呼ぶことにする。 |
|
|
|
06:04.620 --> 06:06.480 |
|
結果をひとつ見てみよう。 |
|
|
|
06:07.410 --> 06:12.780 |
|
そう、 つまり、 さっきの数字はトレーニングの値段なんだ。 |
|
|
|
06:12.780 --> 06:15.120 |
|
これは最初のテスト品の価格である。 |
|
|
|
06:15.280 --> 06:18.010 |
|
では、 最初のテスト項目を見てみよう。 |
|
|
|
06:19.120 --> 06:19.330 |
|
だから |
|
|
|
06:24.880 --> 06:26.620 |
|
見てみよう。 |
|
|
|
06:26.710 --> 06:32.290 |
|
フォード用のACコンプレッサー修理キットです。 |
|
|
|
06:32.290 --> 06:42.130 |
|
そして、 これは僕自身がやらなければならなかったことなんだけど、 そう、 明らかに最初のデータポイントについてはあまりいい仕事をしていない。 |
|
|
|
06:42.130 --> 06:48.490 |
|
重要なのは、 ロット全体でそれを行うことであり、 少なくとも私たちがすべてのテストで一貫して使用してきた250本である。 |
|
|
|
06:48.490 --> 06:53.410 |
|
では、 さっそく実行してみよう。 |
|
|
|
06:53.410 --> 06:58.540 |
|
だから、 最初の2、 3回は少し赤く見え、 その後少し良くなって緑になるが、 |
|
|
|
06:58.540 --> 07:00.160 |
|
その後は赤一色だ。 |
|
|
|
07:00.160 --> 07:04.630 |
|
そのため、 いくつかの結果が混在している。 |
|
|
|
07:05.440 --> 07:11.470 |
|
この時点で、 私は250人のためにあなたを吊るし上げるつもりはない。 |
|
|
|
07:11.470 --> 07:13.150 |
|
私は一時停止する。 |
|
|
|
07:13.150 --> 07:16.510 |
|
そして次のビデオで結果を明らかにする。 |
|
|
|
07:16.510 --> 07:17.770 |
|
そこで会おう。
|
|
|