私にとっても､ おそらくあなたにとっても､ 一晩中走り続けてきたColabに戻ってきた｡
そして､ どちらかといえば､ 私のように､ この映画に釘付けになっているはずだ｡
だから､ これはコラブの中で逃げ惑う部分を示していて､ カチカチと音を立てているのがわかるだろう｡
4つのエポックを経て､ この時点で半分以上｡
そのために4つのエポックは必要ない｡
もちろん､ エポックは1回だけでいい｡
そしてただ､ 私はこの手のものが好きで好きでたまらない｡
だから､ 刻々と時間が過ぎていく｡
それでは､ ファビュラス・ウェイトとバイアスをご覧いただこう｡
これが我々の走りだ｡
ウェイトとバイアスで覚えている
上部のナビゲーションで､ さまざまなプロジェクトを見ることができます｡
そして､ 私のプライサープロジェクトを見ている｡
GPTを微調整するためのプライサーGPTプロジェクトもあるんだ｡
ええと､ それから､ ここでは､ キックオフされた日時にちなんで､ コード内のランに名前をつけている｡
そんなことをする必要はない｡
呼び方は自由だ｡
そうすることで､ いつ､ 何をしたのか､ 走ったのかなどを思い出すことができるからだ｡
だから､ これはとても便利なトリックだと思った｡
でも､ どんな走りをするのかを表す名前をつけることもできる｡
右クリックして名前を変更することもできます｡
ええと､ 現在の滑走はこの青い滑走です｡
これが私たちが走らせてきたものだ｡
トレーニングのロスを拡大してみると､ これが本当に重要な図であることがわかる｡
そして､ これが最初のエポックであることがわかるだろう｡
これは､ 2回目のデータを見たときにオーバーフィッティングが起こり始めた可能性がある｡
私がやっていないことで､ ベストプラクティスとしてやるべきことは､
検証データセットを持つことです｡
想像するに､ ここで少し減少するだけで､ すぐに増加し始めるのではないだろうか｡
それは推論モードでモデルを走らせればわかりますが､ 検証結果を見たほうがいいでしょう｡
そして願わくば､ それがあなたのやっていることであってほしい｡
ところで､ そのグラフをぜひ見せてほしい｡
だから､ この上に､ 私が完了まで走らせたときに行った前の走行を重ねることもできる｡
さあ､ 始めよう｡
両者の走りをもう一度拡大して見てみよう｡
そして､ この2つの走りは実によく似ていることがわかるだろう｡
もちろん､ 同じハイパーパラメーターを使い､ ランダムなシードを設定した｡
だから､ 大きな驚きというわけではないが､ 複雑でいろいろなことが起こっているにもかかわらず､
同じ数字が得られるということを示している｡
だから､ 多少は慰めになる｡
ええと､ これでお見せできるのは全部だと思います｡
学習率という点から見ると､ 今は､ いや､ 以前は､ 青い線だけを見ていると､ えー､ ちょっとだけだが､
以前見ていたのと同じように､ 青い線が点滅しているのがわかる｡
以前は......これを上に持ってくれば､ 前回はここまでの高さだったことがわかるだろう｡
そして､ 本当に滑らかなカーブを描いているのかどうか､ 懐疑的だったのではないだろうか｡
そして今､ とてもいい形で降りてきているのがはっきりとわかる｡
つまり､ コサイン学習率スケジューラーは､ バッチの過程で学習率を変化させる良い方法なのだ｡
オーケー｡
そして最後に見せるのは､ ハグする顔への反転だ｡
このモデルを見れば､ そのタイムスタンプで11秒後にこの名前が終わっていることがわかるだろう｡
ハブのハギング・フェイスに行くと､ いろいろなモデルがあるんだ｡
そして､ 11秒で終わるこの1本は､ もちろん､ 今走っている問題のランだ｡
そして実際､ 2時間前に更新されたとさえ書かれている｡
だから､ 私たちはそれが正しいものだと知っている｡
私が言ったように､ ある人はただ1つのレポを持ち､ そのレポに書き込むだけだ｡
私はこのやり方が好きなので､ 異なるランを完全に分けている｡
このレポに入り､ ファイルとバージョンをクリックすると､ このレポに関連するファイルが表示される｡
安全なテンソルをもう一度実行する｡
それがビジネスだ｡
そこですべてが起こる｡
これは109MB分のパラメーターで､ 我々のLoraアダプターのパラメーターだ｡
そして､ こちらには9つのコミット履歴があります｡
これをクリックすると､ 私がセットアップのパラメータで要求したように､ ハギング・フェイスがこれをハブに保存し､
アップロードし､ 5000ステップごとに異なるリビジョンのモデルウェイトを作成していることが表示される｡
それで､ そのコミットのどれかに戻って推論を行いたければ､ そのコミットにアクセスすることができる｡
そして､ 私がなぜそれを別のレポとして残しておきたいのか､ お分かりいただけると幸いだ｡
だから､ トレーニングのバージョンが違っても､ 走行中のセーブを混同しないようにしている｡
さて､ 僕らが今いる場所のツアーはこれで十分だと思う｡
ええと､ 推論に入る前にもう1度スライドに戻ってください｡