その時が来た｡
さあ､ 始めよう｡
微調整中だ｡
微調整を行う｡
電車だ｡
ここには､ 終了後にハブにプッシュするためのラインもある｡
では､ それを始めよう｡
キックオフの間に､ ちょっと見てみよう｡
GPUは6時から始まる｡
モデル自体に必要な量と同じくらいだ｡
その間にウォーミングアップを行い､ このトレーニングの準備をするんだ｡
せっかくなので､ これまで触れなかった他のトレーニングパラメーターについても話しておこうと思う｡
あの､ 評価戦略｡
このようなトレーニングを行う場合､ 評価用のデータセット､ つまりトレーニングには使用しない一定のデータセットを繰り返し持ち､
モデルが進歩していることを検証するために使用するのが一般的です｡
今､ 私はそのようなことはしていない｡
ええと､ トレーニングデータがたくさんあるので､ トレーニングするのに十分だと思うからというのもある｡
ただ､ 1つのエポックに限れば､ そしてパフォーマンスのためでもあるが､ トレーニングのスピードはとても重要だった｡
このような繰り返しで検証を行うことを止めてほしくなかった｡
しかし､ 検証データセットを持つことはベストプラクティスである｡
そのためのデータはたくさんある｡
テストデータ2000点を用意しましたので､ 検証ステップのテストセットとしてお使いください｡
そこで､ ベストプラクティスに近い改善策としては､ evalストラテジーを使い､ トレーニングデータだけでなく検証データも渡すことだ｡
ええと､ でも､ でも､ 今回は超必要なことではなかったので､ やりませんでした｡
うーん､ わかった｡
GPUメモリが40GBから38GBに増えていることにお気づきだろうか｡
2が現在使用されている｡
だから､ 16のバッチステップ､ 16のバッチサイズで､
GPUをほとんど使い切ってしまうくらいに絞ったんだ｡
では､ 下にスクロールして､ 何が見えるか見てみよう｡
そう､ だから､ もう始動しているし､ いろいろなことが起こっているのがわかる｡
そして今､ 3つのエポック全体を実行するには､ この見積もりによれば､ 24時間強かかる｡
26時間くらいかな｡
トレーニング・データが膨大なので､ この高性能なマシンでも1エポックあたり8時間くらいかかりますが､
厳密に40万件すべてのトレーニング・データを調べる必要はありません｡
そして､ 私が言うように､ これをもっと低価格のマシンで走らせてもいいし､ しばらく走らせてもいい｡
ええと､ でも､ ここに表示されているのは､ 設定した通り､ 50ステップごとにオフになっています｡
これまでのトレーニングのロスを示す出力が出た｡
ええと､ これでウェイトとバイアスを出力しているところです｡
次のビデオでは､ その様子をお見せしよう｡