やあ､ みんな｡
何を考えているかは分かる｡
今週はトレーニングウィークのはずだった｡
フロンティア・モデルを微調整するために､ 私はすべてを設定した｡
私たちは何をしなかったのか？
私たちはフロンティアモデルを微調整していない｡
だが､ いいニュースがある｡
今日がその日だ｡
しかし､ 今日もまた､ 私たちと同じように､ ある意味で失望させられるかもしれないことを覚悟しておかなければならない｡
いずれ分かるだろう｡
うーん､ でも､ 勇敢な新世界に乗り出すのだから､ その覚悟はしておいてほしい｡
簡単にまとめると､ すでにフロンティア・モデルを使ってテキストやコードを生成したり､ APIを使ったり､ パイプラインと下位レベルのトランスフォーマーAPIの両方を通してオープンソースのモデルを抱き合わせで使ったりすることができる｡
モデルを直接使用するのと同様に､ ランゲ・チェインを使用して高度なラグ・パイプラインを作成することも､ ランゲ・チェインを使用しないこともできます｡
そして最も重要なことは､ 問題解決のための5つのステップ戦略に従うことができるようになったことだ｡
その結果､ 多くの時間をデータのキュレーションに費やし､ ベースラインモデルを作成することが判明した｡
トレーニングも行ったが､ それはベースラインモデルのトレーニングだった｡
伝統的なMLは､ 私たちがまだ行っていない､ 訓練された､ 微調整された､ フロンティアモデルである｡
そして､ それが今日私たちがやろうとしていることだ｡
ファイン・チューニングのプロセスをモデルの前で理解し､ そのためのデータセットを作成し､ ファイン・チューニングを実行し､
そしてファイン・チューニングされた新しいモデルをテストする｡
この種のモデルの文脈では､
微調整はトレーニングと同義なのです｡
つまり私たちは常に､ 訓練済みの既存のモデル（事前訓練済みモデル）を使って､ 転移学習を利用しながら訓練を重ねているのです｡
転移学習とは､ 事前訓練済みの既存のモデルを使い､ もう少し訓練を重ねれば､ 新しいタスクに対してより優れた訓練ができるようになるという理論です｡
そしてそれは微調整とも呼ばれる｡
それでは､ OpenAIで微調整を行うための3つのステップについて説明しよう｡
GPT4ゼロ､ あるいはGPT4ミニを獲得し､ 微調整するためには､ 3つのことを守る必要がある｡
最初のステップは､ トレーニングに使用するトレーニングデータを準備することだ｡
従来のモデル､ 線形回帰などの文脈では､ 明らかにトレーニングデータを使用する｡
我々はいくつかのトレーニング例を得て､ それを線形回帰モデルにかけた｡
だから､ トレーニングデータを作らなければならない｡
そしてそれをOpenAIにアップロードしなければならない｡
そして､ JSON L（JSON行の略）と呼ばれる特定のフォーマットでトレーニング・データを受け取る｡
これからトレーニング､ 微調整を行い､ これらのチャートはすべて下向きになる｡
あなたを悩ませるかもしれない｡
物事がうまくいっていないように見えるが､ とんでもない｡
トレーニングの損失｡
そしてもちろん､ あなたは損失が減ることを望んでいる｡
つまり､ 状況は良くなっているということだ｡
だから私たちはタカのようにチャートを注視し､ 損失が減少していることを確認しようとする｡
そして最も重要なのは､ バッチの過程でトレーニングのロスを調べ､
さらに検証のロスを調べることだ｡
ええと､ それも降りてくるんですか？
トレーニングの損失を見るだけでは､ トレーニングデータにオーバーフィットする可能性があるからだ｡
なぜなら､ トレーニング・データを1エポック実行するだけだからだ｡
そしてエポックとは､ あなたがそう呼ぶものだ｡
そして､ 同じデータで2回目を行う｡
これはトレーニングの第2のエポックと呼ばれるものだ｡
なぜなら､ 我々はトレーニングデータをたくさん持っているからだ｡
もう少し多くのトレーニングデータを使って､ 1エポックやったほうがいいかもしれない｡
そして､ すべてのデータは常に新しいデータであるため､ トレーニング損失は検証損失と同様に我々にとって有用である｡
そして最後に結果を評価する｡
そして､ その結果に基づいて微調整をし､ 繰り返し､ 続けていく｡
これがその段階だ｡
その第一は､ データを準備することだ｡
だからOpenAIは､ JSON Lと呼ばれるフォーマット､ つまりJSONデータの一連の行でそれを期待する｡
JSONデータと同じじゃないか､ と思うかもしれない｡
それは違う｡
コレクションの中には入っていない｡
だからリストには入っていない｡
カンマ付きの角括弧では始まらない｡
このファイルの各行は､ 中かっこで始まり､ 中かっこで終わる別々のJSONオブジェクトである｡
これは微妙な違いだが､ JSONオブジェクトを記述していないことを想定していない場合､
リストに囲まれてしまうため､ 注意を引くことができる｡
あなたはこのファイルにJSONの行を書き､ それぞれの行は私たちにとって非常に馴染みのあるものになる｡
メッセージという属性を持つ｡
そしてそこに入るのは､ 私たちがよく知っている辞書のリストであり､ 各辞書には役割と内容がある｡
それは会話だ｡
つまり､ これが各列に入るものだ｡
おわかりのように､ この特殊なデータセットをアップロードするために細工をする｡
分かった｡
雑談はこれくらいにしておこう｡
Jupyter Labに行ってみよう｡
実際に走らせてみよう｡
そして初めてフロンティアモデルをトレーニングする｡
そうしよう｡