みなさん､ こんにちは｡
あなたがどれほど興奮しているかは私も知っているからだ｡
一晩中､ 私のように走り続け､ その結果を見たがっているに違いない｡
でも､ やるべき内容はある｡
まず第一に､ データセットのキュレーション､ ベースラインと微調整､ フロンティアモデル､ そして現在実行中のフロンティアモデルを使って､
フロンティアモデルやオープンソースモデルに対してコーディングするなど､ すでに多くのことができる｡
Q ローラ､ ええと､ 今日､ 私は以前､ 2つの弾丸になると言っていたのですが､ トレーニングがどのように機能するかというところから始めて､
ここにもう1つの弾丸を入れました｡
トレーニングのプロセス自体について､ 私はかなり手探り状態だったことに思い当たる｡
そしてこの時点で､ ローラを実際に走らせ､ トレーニングし､ 活躍する姿を目の当たりにしたのだから､
少し時間を割いてでもきちんと説明する価値がある｡
だから､ その根拠はある｡
もう全部知っているかもしれない｡
それは､ この時点であなたが拾ったものかもしれないし､ すでに出会っていたものかもしれない｡
いずれにせよ､ それをはっきりさせることは超重要だと思う｡
そのために2､ 3分時間を取る｡
そして､ あなたが最初にランニングのトレーニングを経験したことは本当に素晴らしいことだと思う｡
その後､ 微調整されたモデルの推論を行い､ 第7週の締めくくりとなる｡
よし､ 始めよう｡
そこで､ トレーニングのプロセス､ つまりモデルを改良して､ あるタスクをこなすのがよりうまくなるようにするプロセスには､
4つのステップがあることを説明したい｡
最初のステップはフォワードパスと呼ばれるもので､ これは一種のランニング推論の別名に過ぎない｡
あるデータ､ データセットのあるポイント､ 特定のトレーニングデータがあり､ そのトレーニングプロンプトをニューラルネットワークに通して､
次のトークンの予測を得る｡
これはフォワード・パスと呼ばれるもので､ 入力が入力され､ それを通過し､
出力がトランスの端から飛び出してくると考えているからです｡
それから､ 損失計算と呼ばれるものがある｡
これについては後でもう少し詳しく話そう｡
でも､ これはオーケーと言っているんだ｡
つまり､ ネットワークはこれが出力されると予測したわけだ｡
そして実際､ これが本当の意味での次の形なんだ｡
そのため､ データには実際に次に何が起こったかを含む実例がある｡
そして､ 予想と真実を手に入れた今､ 損失を計算する方法を考え出すことができる｡
精度の逆をいくようなロスのひどさだった｡
つまり､ ロスの数字が大きければ大きいほど､ 事態は悪化したということだ｡
これがステップ2だ｡
損失の計算
ステップ3はバックワードパスと呼ばれる｡
これについては､ さまざまな言い方がある｡
これはバックプロップ逆伝播と呼ばれる｡
そして､ この後方パスでは､ この損失を受け取り､ ニューラルネットワークを振り返って､ このニューラルネットワークの各パラメータをほんの少し微調整したらどうなるだろうかと質問するのです｡
そうすれば､ この損失は大きくなっただろうか､ それとも小さくなっただろうか？
損失はどのように左右されるのか？
この重さはどうですか？
それで損失がどう変わるんだ？
ええと､ この体重によるロスの差は？
その感度をグラデーションと呼ぶんだ｡
もちろんだ｡
ええと､ 数学では一般的にそうであるように､ "as"､ "as"､ "as"､ "as"｡
つまり､ すべてのウエイトの勾配を計算することで､ そのウエイトに少し手を加えただけで､
ロスにどのような影響が出るかを確認するわけだ｡
そして最後に､ 4段階目の最適化ですが､ これは､ 私たちが特定のトレーニングのために､ ウェイト減衰を伴うアダム､
アダムWオプティマイザを選択したことです｡
最適化とは､ よし､ これですべてのグラデーションを計算したぞ､ ということだ｡
私たちが今やりたいことは､ 次に同じプロンプトが出されたときに､ もう少しうまくいく可能性が高くなるように､
すべてのウエイトをほんの少し微調整することだ｡
損失はもう少し少ないだろう｡
そこで､ ロスが少なくなるように､ 勾配と反対方向に微調整を加える｡
そして､ その小さな一歩は､ 学習率に基づくもので､ どれだけの一歩を踏み出すかは､
学習率の大きさに基づく｡
そして常に､ うまく一般化できるようなやり方でやってみたいものだ｡
この入力プロンプトだけを解くことは避けたい｡
モデルには､ 将来的にそのようなプロンプトに対応できるよう､ 少しずつ学習していってほしい｡
もちろん､ このプロセスはすべてミニバッチで同時に行われ､
データが1つのエポックになるまで何度も何度も繰り返される｡
その繰り返しがトレーニングというわけだ｡
次のビデオでは､ それを図で説明しよう｡