そして､ いくつかの図をお見せすることで､ このことを実感していただこう｡ 特に今､ チュローラを使ったトレーニングがどのように機能するのかを見てみよう｡
ではまず､ このフォワードパスについて｡
というわけで､ 以前私が使ったのと同じ図なので､ お馴染みのはずである｡
これがラマ3世だ｡ 1ベースモデルは､ 80億のパラメーターと白を持つ4ビットにまで量子化され､
そのすべてが凍結されている｡
トレーニングの一環としてウェイトを変更するつもりはない｡ なぜなら､ 80億ものパラメーターを変化させ､
微調整し､ 最適化しようとするのは､ 作業量が多すぎるし､ メモリも多すぎるし､ 時間もかかりすぎるからだ｡
ここにあるのは凍結されたウェイトの列で､ 黄色いものも凍結されているが､ これはターゲット・モジュールを表している｡
どの色を塗るのか｡
そして､ ローラのアダプターを持ち込もう｡
あそこだ｡
技術的に正確を期すために､ 実際には､ それぞれの異なるウム・ターゲット・モジュールに対してAとBと呼ばれる2つのアダプターがあることを覚えているかもしれない｡
次元はRで与えられ､ アルファはスケーリング係数であることを覚えているだろう｡
そして､ これらがターゲット・モジュールに適用される方法は､ アルファ×A×Bという単純なものだ｡
簡単なことだ｡
これが私たちがよく知っているニューラルネットワークだ｡
そして､ このローラ・アダプターでウェイトトレーニングを行うのだが､ 我々の場合､
約109MB分のウェイトがある｡
ああ､ わかった｡
では､ どうなるのか？
左側に入力プロンプトがあります｡
値段はドルで､ 次のトークンという感じだ｡
私たちは､ モデルが予測を得意にすることを望んでいる｡
フォワード・パスとは､ それを推論モードにして､ 次のトークンを予測してくださいというモデルに通すことです｡
そして､ それがモデルを通って､ 反対側に出てくるのが､ 次のトークン価格の予測だ｡
そして99｡
そしてまた､ 我々はラマ3のこのシンプルさを利用している｡ 1 実際には99は1つのトークンである｡
うーん､ そうじゃない｡
そしてそれは､ どんな3桁の数字でも常にそうである｡
それが重要だというわけではないが､ 僕らにとっては少しシンプルになる｡
それがフォワードパスだ｡
分かった｡
さて､ 次は損失計算だ｡
だからまたここに来た｡
私たちは次のトークンを予測した｡
これでモデルは､ トレーニングの過程でモデルが何をしたかを調べることができる｡
SFTのトレーナーは上を見ている｡
次のトークンは何だったのだろう｡
トレーニングデータを得たので､ 実際の次のトークンはわかっている｡
それは何だったのか？
仮に89歳だとしよう｡
もっと低かった｡
だから我々は間違っていた｡
10ドルの間違い｡
うーん､ あるいは間違っている｡
別の言い方をすれば､ これが10ドルであることを知らない｡
ただ､ それが別のトークンだと知っているだけなのだ｡
だから､ 何らかの損失がある｡
その損失が何なのか､ なぜトークンが違うだけという単純なものではないのか､
これから説明する｡
技術的なことは後ほど説明するが､ 今は99を予測したと思ってくれればいい｡
実際の値は89である｡
負けた｡
これが損失計算だ｡
ステップ3はバックワードパスで､ バックプロップとかバックワードプロパゲーションと呼ばれている｡
逆伝播｡
バックプロップでは基本的に､ ネットワークを振り返って､ 戻って､ こう言うんだ｡ もしこの重みを少しいじったら､
どのくらい損失に影響するだろうか？
その重さに対して､ ロスはどの程度敏感なのか｡
これにより､ パラメーターの重みの勾配と呼ばれるものが得られる｡
だから､ ウェイトというのはパラメーターと同義なんだ｡
ええと､ それで､ ええと､ どうやって？
グラデーションとは？
もしウェイトを変えたとしたら､ 損失はどうなる？
少しは改善したいと思っているからだ｡
赤い三角形はデルタを表すもので､ そこで起こったグラデーション計算を表している｡
そして最後のステップ､ ステップ4の最適化だ｡
来たぞ｡
グラデーションができた｡
そして今､ 私たちに必要なのは､ 正しい方向に小さな一歩を踏み出すことだ｡
そこで､ ローラ行列のパラメータを少しだけ更新したい｡
そうすれば､ 次に同じ入力プロンプトが表示されたとしても､ 損失はもう少し少なくなる｡
もう少しうまくいくだろう｡
私たちは正しい方向に一歩を踏み出し､ 学習率を使ってどの程度踏み出すかを決めているわけです｡
前にも言ったように､ 小さなステップを踏むことにも大きなステップを踏むことにも長所と短所があるからだ｡
私たちが使っているオプティマイザー､ アダムWオプティマイザーは､ 単に勾配を使うだけでなく､
事前の勾配のローリング平均のようなものを保持することで､ 物事を改善する可能性が最も高い方法でステップを踏む方法について本当に賢くなるのです｡
また､ オーバーフィッティングなど､ 前にも話したような危険なことをしないようにするためでもある｡
だからそうするんだ｡
そして､ ローラ・アダプターが改良され､ 将来的に我々のベースモデルに適用されることで､
少し良い結果が得られるというわけだ｡
そのため､ トレーニングの損失が減少し､ チャートがぐねぐねしているのがわかるだろう｡
もちろん､ ウェイトやパラメータが変更されるのは､ ローラ・アダプタのパラメータ､
つまり緑色のものであり､ ラマ3ではパラメータを変更することはない｡
大きすぎる1ベース､ 多すぎるパラメータ｡
普通のトレーニング､ 微調整､ ローラベースではなく､ 普通のトレーニングをしているのであれば､
ラマ3全体になるだろう｡ 勾配を計算する必要があり､ 最適化中にシフトさせる必要がある1つのモデル｡
そしてそれはもちろん､ これらの大企業が好むメタである｡
これがラマ3のトレーニング方法だ｡ そのため､ 我々はローラ・アダプターを代わりに使っている｡
これが､ トレーニング・プロセス全体における最適化の簡単なまとめだ｡
そして､ それはおそらく､ すでにあなたにとってほとんど明確なものだったと想像している｡ しかし､ この図があなたにとってそれを結晶化させ､
すべてがうまくいったことを意味することを期待している｡
そして次のビデオでは､ もうひとつ技術的なことを説明しようと思う｡ 予想と損失計算の意味について､
とても重要な技術的なことだ｡
ではまた