トレーニング・ロスに関するこの満足のいくチャートを見て､ トレーニング・ロスが減少していくのを見たところで､
ここでお別れだ｡
一日中眺めていても飽きない｡
あー､ でも､ 他のチャートに移ろう｡
もう一度､ この図に戻ってみよう｡
ええと､ すでにご覧になったかもしれませんが､ これを指摘したいと思います｡
これが学習率である｡
爆破しよう｡
でも､ さっき言ったように､ ウエイトとバイアスを見ると､
もっとはっきり見えるんだ｡
これは､ 4つのエポックの初めから終わりまで､ つまりほぼ4つのエポックの終わりまでは学習率がどのように変化したかを示しています｡
そしてご覧いただけるのは､ 学習率がゼロから始まっていることだ｡
その後､ ここまで暖かくなったので､ 上昇した｡
そうすると､ 最初はゆっくりで､ だんだんとスムーズになっていくのがわかるだろう｡
そして最後は尻すぼみになる｡
そして､ 4つのエポックが終わったときに､ ちょうどゼロになるという考え方だ｡
しかし､ 私は第4エポックの終わりには間に合わなかった｡
そして､ 1つのエポックを選択した場合､ その1つのエポックのチャート全体が表示される｡
設定したエポック数を受け取り､ その数のエポックにわたって学習率を平滑化するだけだ｡
ええと､ つまり､ これはまさにそのポイントを示しているんだ｡
そして､ 現在のバッチを表す青い線がこの一番上にあるのがわかるだろう｡
私たちには平坦に見えたが､ それは私たちが一番上にいたからだ｡
しかし､ そのうちに､ 前任者がそうであったように､ スムーズに降りてくるだろう｡
それから､ もうひとつ言っておきたいことがあるんだけど､ ここでいろいろな走りを見ているときに､
この目のアイコンを使って何を見るかを決めることができるんだ｡
そして､ その間にあるこの1本には目を入れていなかった｡
さて､ これはどういうことかというと､ 私のこのバッチがグーグルによってインスタンスから蹴落とされた後､ 残酷にもグーグルによってインスタンスから蹴落とされたのだ｡
私は腹が立ったので､ その続きをして､ もう2､ 3エポック走ってみようと思った｡
結果が悪くなっても､ 何が起こったのか見たかった｡
極端な話､ 4回目のエポックで結果が悪くなったのは単なる異常ではないことを確かめたかった｡
第5エポックになれば､ 急に良くなるかもしれない｡
だからせめて､ そのプレーを少しは見たかった｡
では､ それをお見せしましょう｡
また始めたので､ ちょっと混乱しそうだ｡
このまま右に外れることはない｡
左から始まるよ｡
だから､ それが最初のトレーニングステップであるかのように見られることを念頭に置いておく必要がある｡
しかし実際には､ これからお見せするのは､ この紫の線の右側にあるものだ｡
見てみよう｡
さて､ これはこれは｡
そして､ そこにある｡
では､ これを爆発させてみよう｡
だから､ こっちの方が本当にあるべきだということがはっきりすればいいんだけどね｡
それを右に寄せることができるはずだ｡
というのも､ SFTのトレーナーをここで中断したところから再開したら､ こうなったのだ｡
そして､ おわかりのように､ これは基本的に第5の､ もうひとつの完全なエポックである｡
そして､ これは第6エポック全体のようなものだ｡
そして､ もうひとつは､ 6番目のエポックが始まったときと､
この時点で､ 間違いなく非常に疑わしい領域にある｡
損失が少なすぎるように見える｡
そして案の定､ これらのバージョンのモデルを使ってテストしてみると､
どれもこのあたりで切り落としたモデルよりも性能が劣っていた｡
だから､ やる価値のあるテストだった｡
ただ運が悪かったのではなく､ 本当にオーバーフィッティングで､ もう有益な結果が得られていないのだと納得する必要があった｡
そして､ それが証明された｡
だから､ いいテストになった｡
なぜなら､ もしフル・モンティでこの大きなバージョンのモデルで走ると決めたなら､
3つのエポックを超えない方がいいということがわかるからだ｡
私の経験では､ ハイパーパラメーターを変えてみて何か違うものを発見しない限り､ その使い道はない｡
それから､ 最後にお見せするのは､ 他のチャートやウェイト､ バイアスをいろいろと弄ってみることだ｡
探検することはたくさんある｡
グラデーションそのものを見ることもできるし､ それはかなりのウサギの穴だ｡
そして､ 自分が見ているものを理解し､ そこから何かを学ぶには､ 少し､ あー､ 掘り下げて研究する必要がある｡
そして理想的には､ 勾配がゼロになるような状況に陥らないようにすることだ｡
ええと､ つまり､ あなたはもう学んでいないということです｡
勾配がゼロであれば､ モデルはもはや学習しておらず､ 学習プロセスを続ける意味がない｡
つまり､ 勾配がゼロにならないように気をつけたいし､
勾配が吹っ飛んで高くなりすぎないように気をつけたい｡
あー､ あなたのモデルは､ あー､ 生産的な方法で学んでいない｡
ウェイトとバイアスの勾配を見る際には､ このような点に注意する必要がある｡
でも､ 最後に見せたかったのは､ ハグする顔だった｡
このモデルは､ 私がすべてのエポックについて実行したPricerモデルのバージョンです｡
これが見える？
ランの名前は､ 日付と時間から私が組み立てたものだ｡
ええと､ 39で終わるんだ｡
秒数｡
ああ､ そのことは頭の片隅に置いておいてくれ｡
ハグ顔になったら､ アバターメニューから自分の名前に移動する｡
モデルやデータセットがあれば､ スペースが表示されます｡
私が1つか2つ持っているのがわかるだろう｡
プライサーに関しては､ 1､ 2度実行したことがある｡
ええと､ ええと､ これらはそれぞれ､ 異なるプライサー・ランのひとつを表す異なるレポを表している｡
そして､ 私は､ この1つのレポの中にすべての異なるエポックとすべてを持つことができるように､
それぞれの実行を別々のレポとして管理したいんだ｡
だから､ この139番は､ 4つ､ 3つ半のエポックに登場した大物だと思う｡
この中をクリックすると､ モデルのページが表示され､ ファイルとバージョンに移動すると､ ここで見ているのは基本的にgitで､
モデルに関連するファイルがあるレポを見ていることになります｡
ええと､ 先日もお話したように､ ここでのビジネスはこのファイル､ セーフ・テンソルであることがお分かりいただけると思う｡
そしてそのファイルは109MBで､ これは我々が使っているアダプターが32に設定されているサイズだ｡
計算すると､ 109MB分のウエイトになる｡
それがこのファイルのすべてだ｡
ここは安全な時制だ｡
それに､ 他にもいくつか見ることができるものがあるんだ｡
アダプティブ・コンフィグ｡ jsonは､ Loraの微調整に使っているアダプターの情報です｡
例えば､ ここにはターゲット・モジュールが格納されており､ R 32という値が表示されている｡
ロラのトレーニングを使っていると書いてある｡
それで､ ベースモデルの名前は......ラマ3｡ 180億ドルがそこにある｡
それで､ このモデルに保存されているすべての情報を知ることができる｡
ただ､ もうひとつ指摘したかったのは､ この16人のコミットメントだ｡
これはコミット履歴を示している｡
そして基本的に5000ステップごとに､ ええと､ あなたが見たコードは保存されていた｡
これは我々のモデルをハブへと押しやるものだった｡
これはトレーニング・パラメーターで設定したものだ｡
つまり､ 5000歩ごとに保存されていたわけだ｡
つまり､ これらのモデルのどれでもロードしてテストできるということだ｡
こうして､ 最も良いパフォーマンスを発揮しているものを選ぶことができるんだ｡
それぞれのチェックポイントがある｡
そして､ これらはいくつでもできる｡
それを使って､ モデルがトレーニングのその時点に戻った瞬間を再現することができるんだ｡
そして､ 私のさまざまなトレーニングのすべてを､ このレポジトリの異なるリビジョン､
異なるバージョン､ 異なる価格として､ このレポジトリに置くことができる｡
でも､ そうするととても散らかってしまう｡
そのため､ それぞれのレポを独立させた｡
そして､ さまざまなバッチステップが､ コミットのさまざまな履歴としてここに表示される｡
それは組織的でいい方法だと思う｡
これがHuggingfaceのハブでモデルを見る方法だ｡
そうだろうね｡
これが今走っているものだ｡
15分前に更新されました｡
それで､ このファイルとバージョンに入るんだ｡
そうだろう｡
はい､ すでにバージョンを保存しています｡
我々は5000のステップを踏まなければならない｡
つまり､ 最初のコミットがあったので､ 1つのバージョンか2つのコミットということになる｡
そしてステップ5000は15分前に保存されたばかりだ｡
だから､ すでに動いているモデルがある｡
そして､ もしあなたが私と同じ時期にこれをやっていたなら､ 同じような境遇にあり､
私が話している間にこのモデルのバージョンがHuggingfaceのハブにアップロードされていることだろう｡
そして実際に､ すぐにテストすることができる｡
トレーニングが終わるのを待つ必要はない｡
うーん､ そうだな｡
トレーニングは進行中だが､ ちょっと理解しがたい敗戦がここにある｡
重みとバイアスが美しく可視化され､ モデルそのものがハブに保存されるのも見たことがある｡
そしてこれがトレーニングの経験だ｡
何時間でもできるんだ｡
それを何時間も続けてきた｡
実際､ このコースの一番最初に､ あそこにあるウェイトとバイアスが表示されている画面と､
さっきお見せしたチャートは､ ええと､ このチャートは､ 一番最初にあそこにあったチャートだと申し上げました｡
今はこのグラフが表示されている｡
それで､ このコースを作り始めてから数週間の間､ その様子を見ていたんだ｡
とても楽しいよ｡
トレーニングの様子を見たり､ モデルのバージョンがハブにアップロードされるのを見たり｡
あとは走りきるだけだ｡
そして明日､ 私たちがこのモデルを評価し､ 私たち自身の垂直モデルの微調整がどのように行われたかを確認するために来てもらう｡
うーん､ でも今日はこれで終わりにしよう｡
スライドに戻る｡