そこで今回は､ トレーニング・プロセスにおける5つの重要なハイパーパラメーターについてお話しします｡
そのうちのいくつかは､ 以前にも簡単に話したことがある｡
しかし､ これらの多くは､ この種の他のデータ・サイエンス・プロジェクトに携わったことがない限り､ あなたにとってやや目新しいものだろう｡
そして､ 最初に挙げるのは､ 少し前に少し触れたエポックだ｡
つまりエポックとは､ トレーニング・プロセスの一環として､ データセット全体を何回処理するかということだ｡
だから､ トレーニングするときに､ それぞれのトレーニング・データ・ポイントを取って､ そのセットを1回通して､
それで終わりだと想像するかもしれない｡
しかし実際には､ 2度目に戻ってすべてのトレーニングデータをもう一度モデルで調べ直すことで､
より多くの走行距離を得られることが判明した｡
と思うかもしれない｡
モデルがすでに一度見ているのに､ なぜ2度目を通すことが助けになるのか？
では､ 同じデータを2度目に与えるだけなのか？
トレーニングの最適化プロセスでは､ これらのポイントをひとつひとつ確認し､
モデルを少し良くする方向にごく小さな一歩を踏み出す｡
だから､ すべてのトレーニング・データ・セットを経験するたびに､ 私たちはほんの少し上達する機会を得ることになる｡
そして恐らく､ それが完了した時点で､ モデルの状態は少し変わっている｡
そうすれば､ 再びそれを見たときに､ より洗練された､ より良いプレーができるようになる｡
複数のエポックを持つことがしばしば理にかなっている理由はもう一つあり､ それはバッチサイズに行き着く｡
次のハイパーパラメーター・バッチサイズは､ 1つのデータポイントを次のトークンを予測するモデルのフォワードパスにかけて､ 損失を計算し､
それから逆戻りして､ その損失がどの程度なのかの勾配を把握する､ ということをしないことが多い､
ということです｡
モデルのパラメーターの重みが違うことが影響しているのでしょうか？
そして､ 正しい方向に少しずつステップを踏んでモデルを最適化する？
多くのデータポイントを同時に扱うことは､ 理にかなっていることもあるんだ｡
よくあるように､ 4人とか8人とか16人を選んで､ 16人全員でやるんだ｡
そうする理由のひとつは､ パフォーマンスだ｡
全部一緒にできる｡
もしGPUに16個のデータポイントを収めることができるなら､ それは良いことだ｡
一歩一歩やるより､ まとめてやったほうがいい理由は他にもいくつかある｡
うーん､ でも､ でも､ でも､ 基本的な理由はパフォーマンスのためだよ｡
各エポックで複数のエポックを行う場合､ リゾートするか､ すべてのバッチをジャグリングするのが一般的だ｡
つまり､ エポックごとに異なるバッチ､ 異なる16点のデータセットをモデルが見ることになる｡
エポックごとに異なるデータを見ているのですから｡
それが､ 複数のエポックが良い理由でもある｡
各エポックの終了時にモデルを保存するという､ 非常に一般的なテクニックがある｡
多くのエポックを実行し､ 各エポックの終了時にモデルのパフォーマンスをテストするのはよくあることです｡
多くの場合､ モデルは各エポックで学習を重ねるにつれてどんどん良くなっていきます｡
そしてテストすると､ トレーニングデータセット外のポイントを想定していないため､ パフォーマンスが悪化する｡
だから､ より良い､ より良い､ より良い､ より良い､ より悪い､ より悪い､ より悪い､ より悪い､ というように見えてくる｡
そして結果は悪化の一途をたどる｡
そしてこれを実行し､ 単純に最良のモデル､ 最良の結果をもたらしたエポックを選ぶのだ｡
そして､ それがトレーニングの成果だと考えるものだ｡
それが微調整モデルのバージョンであり､ それを前進させるものだ｡
そのため､ より多くのエポック数を実行し､ そのようなテストを使ってどれがベストなモデルかを選ぶのが一般的だ｡
これで一旦中断し､ 次のビデオでこれらのパラメータについて続けることにする｡