WEBVTT

00:00.680 --> 00:05.210
アクション満載のトレーニングの時間へ、 おかえりなさい。 

00:05.210 --> 00:16.100
それで、 同じようにイベントをリストアップする機能を実行すると、 5分ほど待たされた後、 いろいろなものが表示されるようになった。

00:16.100 --> 00:19.520
この10大会を見てわかるのは、 トレーニングが行われているということだ。 

00:19.520 --> 00:26.240
このメッセージには、 500のうちステップ0、 ステップ1、 ステップ2、

00:26.240 --> 00:30.380
ステップ3が表示されている。

00:30.380 --> 00:32.750
そして、 ここでもトレーニングロスが見られる。 

00:32.780 --> 00:41.660
トレーニング・ロスというのは、 私たちが減らしたいものであり、 それは私たちに良い結果を示してくれるものだ。

00:41.660 --> 00:51.440
そして、 これを再実行するたびに、 すでにステップ118に進んでいることがわかるだろう。

00:51.440 --> 00:55.970
だから、 これで我慢しなければならないとしたら、 これはちょっと難しいことだ。 

00:55.970 --> 01:06.440
しかし、 私たちはウェイトとバイアスを使うので、 そうしない。 ここにあるのは、 トレーニングに沿ったフォローができるゴージャスなウェイトとバイアスの画面だ。

01:06.770 --> 01:12.290
そして私たちが見ることができるのは、 トレーニングの成果であり、 何が起こっているかを見ることだ。 

01:12.290 --> 01:14.900
ページが更新されたから更新されただけだ。 

01:15.110 --> 01:18.980
そして、 何が起こっているのかを見たり、 洞察したりすることができるだろう。 

01:18.980 --> 01:28.430
さて、 この種のトレーニングを実施しているときに必ず目にするのが、 最初の数バッチステップで劇的な低下が見られるということだ。

01:28.670 --> 01:33.590
うーん、 それは必ずしも興奮することではないんだ。 

01:33.620 --> 01:39.770
通常、 そこで起こっていることは、 モデルが、

01:39.770 --> 01:44.780
ドル記号があるという事実や、 小数点以下をどこに置くかといった、

01:44.780 --> 02:03.590
ほとんど言うまでもないような構造の部分を、 非常に素早く学習しているということです。

02:03.590 --> 02:09.590
これは全くの憶測だが、 そのようなこと、 つまり構成に関する明白な事柄があるからこそ、

02:09.590 --> 02:21.390
トレーニングは最初の数ステップを非常に素早く下り、 明白な事柄を片付けて、 まともなパターンに従うようになるのだ。

02:21.420 --> 02:28.290
あなたが本当に求めているのは、 その時点からの継続的な進歩であり、 一般的には、 トレーニングがうまくセットアップされていれば、

02:28.290 --> 02:32.430
正解も不正解もない。

02:32.430 --> 02:35.250
だから、 私が今言っていることすべてに例外がある。 

02:35.250 --> 02:38.460
しかし、 一般的に言えば、 ある程度のバリエーションは欲しいところだ。 

02:38.460 --> 02:49.230
最適化を図り、 さまざまな可能性を模索しているのだから。

02:49.440 --> 02:57.000
そして、 あなたが求めているのは、 時間の経過とともに、

02:57.000 --> 03:04.980
個々のバッチステップが上がったり下がったりする一方で、

03:05.250 --> 03:18.310
損失が徐々に減少していくような傾向です。

03:18.310 --> 03:28.840
これは、 推測という点で、 あるデータポイントが他のデータポイントよりうまくいっているという事実を表している。

03:28.840 --> 03:35.770
しかし、 まだ改善傾向やトレンドがあるようには思えない。 

03:36.070 --> 03:39.310
少なくとも、 そう見える。 

03:39.490 --> 03:45.970
だから、 願わくば君たちもこれを実行して、 何が起こるか注意深く見守っていてほしい。 

03:45.970 --> 03:53.290
ええと、 全部通すと10分か15分くらいかかると思うけど、 このリストの中で今どの位置にあるか見てみよう。

03:54.910 --> 03:57.130
もう半分が終わったところだ。 

03:57.160 --> 04:02.890
最後に到達すると、 結果を検証するステップを経て、 OpenAI側でいくつかの確認チェックが行われ、

04:02.890 --> 04:10.840
ステータスに表示されます。

04:10.930 --> 04:17.260
ええと、 そして実際に、 この実行が完了すると同時に、 完了したことを伝えるメールが届く。

04:17.260 --> 04:20.560
そして、 次のビデオでピックアップするときには、 もう走っている。 

04:20.560 --> 04:21.760
そこで会おう。