さて､ 何が起こったかを事後報告する前に､ ここにある順位表の立ち位置を簡単に見ておこう｡
だから､ 平均値に基づいて一定の走りをしたとき､ 平均予測差146という誤差が出たことを覚えているだろう｡
従来の機械学習では139点だった｡
ランダムフォレストは97だった｡
その人間､ 特にある人間､ 名前は伏せるが､ GPT4かミニを初めて走らせたときは127､
残念ながら80ドルだった｡
GPT4は76で､ 今戻ってきたのは91だった｡
というのも､ 実際に前評判より改善された点もあったのだが､ 理由はともあれ､ まあ､
そういうことなのだ｡
結果はごまかせない｡
残念なことに､ 我々が最も注目しているビジネス指標は､
微調整がやや甘かった｡
それについて話そう｡
それは私たちにとって明らかに気が引き締まる瞬間であり､ 旅の重要な学びだった｡
ちょっと時間がかかるんだ｡
フロンティアモデルによる微調整の目的は何なのか？
ファインチューニングはよく使われるもので､ パラメータが少ないオープンソースのモデルを､ データセットで訓練してフロンティアモデルに匹敵するようにするために使います｡
しかし､ すでに何兆ものパラメータを持ち､ 膨大なデータセットで訓練されたフロンティアモデルがある場合､
その目的は何でしょうか？
フロンティアモデルを微調整する主な目的は5つある｡
これらは基本的にOpenAIのウェブサイトから引用した｡
これらは､ GPTのようなものを微調整する訓練を多くの人が受けたいと思う理由についてのOpenAIの理由である｡
返答のスタイルやトーンに工夫を凝らしたいのであれば､ 返答に皮肉を加える例を挙げています｡
もしあなたが､ 特定のタイプのフォーマット（構成）を確実に上達させたいのであれば､ そのフォーマットは特定のスタイルや方法､
構造である必要がある｡
うーん､ 3つ目は､ モデルが難しい､ あるいは挑戦的なプロンプトに従えない場合の修正です｡
非常に複雑なことを要求されているのに､ ジョークが通じず､ 見逃している｡
エッジケースの処理というのは､ モデルの中に時折露呈する欠陥のようなものがあって､ それを修正する必要がある場合に､
何か新しいことを実行することだ｡
そして､ これこそが私たちがやろうとしていたことであり､ 新しい課題なのだが､ プロンプトで明確に表現するのは難しい｡
OpenAIがサイトで強調しているのは､ 優れたプロンプトで解決できないことを解決しようということです｡
GPT 4やminiのようなものでは､ 多くの場合､ プロンプトだけで非常に高いレベルのパフォーマンスを得ることができるので､
できる限りプロンプトに取り組むことから始めるよう､ 本当に促しています｡
フロンティア・モデルにとって､ それが重要なんだ｡
ええと､ 私たちはプロンプトの中で､ 手元の質問と出力のスタイルを非常に明確に指定することができます｡
そして実際､ 事前の結果を思い起こせば､ GPT4ミニは適切な構成という点で的確な反応を示していた｡
どのケースでも､ 数字を引き出せないことはなかった｡
そして､ その数字は常に､ 誤差の範囲内だった｡
推測だから､ 課題や出力形式を理解することに問題はなかったんだ｡
GPT4とGPT4ミニは､ 世界的な知識を持つトレーニングデータのサイズが非常に大きいことを忘れてはならない｡
そして､ 少し前に話した､ 壊滅的な忘却､ 忘却と呼ばれる､ より細かい調整を加えることで､
事前のトレーニングで得たより深い知識が損なわれてしまうことがある､
ということがある｡
だから､ 微調整をすることが必ずしもいいこととは限らない｡
このわずかな落ち込みの原因が､ 壊滅的な忘れ物なのか､ それとも単に運が悪かっただけなのか､
システム内にノイズがあり､ たまたまテストセットでうまくいかなかっただけなのかはわからない｡
うーん､ でも､ 状況が改善したようには見えなかった｡
これが結論だ｡
そして､ 私の見解では､ そして私の理解や実験が示すところでは､ 私たちはすでに必要なことを明確に促すという素晴らしい仕事をしていたからだ｡
GPT4は､ 多くの場合､ すでにそのことをよく理解していたし､ 結果の質もすでに非常に良かった｡
とはいえ､ あなたにとっての挑戦は､ これに取り組み続けることだ｡
ハイパーパラメーターを最適化したり､ 試行錯誤したりして､ 少しは改善できるようになった｡
うーん､ でもそれほどでもない｡
そして､ この微調整が､ 少なくとも以前より少しはマシになる､ 少しはマシになるというところまで到達できないのであれば､
私はショックを受けるだろう｡
それがあなたへの挑戦です｡
つまり､ OpenAIは大規模なデータセットの投入を推奨しているわけではないのですが､
特に無料で投入できる間は､ より大規模なデータセットを試してみたいと思っています｡
1000または2000のトレーニングデータセットを試す｡
もう少しエポック数を増やしてみようか｡
でも､ 何か違うことを試してみてほしい｡
他にもハイパーパラメーターを調べることができる｡
OpenAIのウェブサイトで調べることができる｡
あなたが望むなら､ 変えてみることができるカップルがある｡
それを同じハイパーパラメーターの辞書に渡すだけだ｡
それから､ 別のトレーニングデータを入れてみたり､ プロンプトで遊んでみたりすることもできる｡
つまり､ OpenAIのウェブサイトで最も強調されているのは､ プロンプトを改善することで最大の効果が得られるということだ｡
これは明らかに､ 私たちがデータのキュレーションとプロンプトの完成に少し時間を費やしたものですが､
もっともっとできることがあるはずです｡
だから､ それも試してみてほしい｡
あなたの課題は､ ハイパーパラメーターを最適化し､ プロンプトを弄って､ 少なくとももっとうまくやることだ｡
自分たちがいた場所を振り返ってみよう｡
あなたの挑戦は76より良い結果を出すことだ｡
ええと､ 76よりいいタイムを出したこともあるんだ｡
だから､ あまり多くの変更を加えなくても､ 76年よりもいい結果を出すことは可能だとわかっている｡
大幅に良くなったわけではないが､ 良くなった｡
そして､ それがあなたにとっての挑戦でもある｡
ぜひそうしてください｡
そして､ もし最適化されたプロンプトやハイパーパラメータが得られたら､
コードをプッシュしてPRしてください｡
そして､ 76歳以上の成績を収めたとき､ それがあなたの挑戦の達成となる｡
分かった｡
これで第6週の結論が出た｡
AIとLMエンジニアリングをマスターした熟練LMエンジニアになるまでの道のりの4分の3､
75%に達している｡
僕と同じように､ 君たちも楽しみにしていてほしい｡
あなたが学んだことすべてを誇りに思うべき､ 素晴らしい進歩だ｡
明らかに､ フロンティアモデルのアシストでテキストとコードを生成し､ 抱擁顔トランスフォーマー､
ライブラリ､ あー､ ラングチェーンラグでオープンソースモデルを使用している｡
そして最近では､ データをキュレーションする問題解決のための5つのステップ戦略だ｡
私たちはデータのキュレーションをたくさん行った｡
でもね､ LMエンジニアの生活には多くのデータキュレーションが含まれるんだ｡
それはコツであり､ 最も重要な部分のひとつだ｡
確かに､ 私が行ったすべての実験において､ データ構造を変えることが何よりも針を動かした｡
すでに多くの実験が行われている｡
うーん､ でも君なら......もっとうまくやれると思うよ｡
ええと､ あなたは従来の機械学習で遊んだことがありますね｡
ええと､ ただ､ 僕らが楽に勝ってきたという基準値を知るためにね｡
あなたはフロンティアモデルの解を作り､ 今はフロンティアモデルを微調整している｡
だから結果は少し残念だった｡
本当だよ｡
しかし､ それにもかかわらず､ これはあなた自身のプロジェクトで使えるものだ｡
また､ スタイルを変えたいとか､ 難しいエッジケースが問題を引き起こしているといった状況であれば､
微調整が答えとなる｡
そして今､ 少なくともあなたは良いレシピを持っている｡
やり方は知っているし､ 走りを見たこともあるだろう｡
あなたはそのステータスをチェックし､ ウェイトやバイアスを観察してきた｡
関係することはすべて知っているはずだ｡
さて､ 来週からまた新たな一歩を踏み出し､ オープンソースモデルに目を向ける｡
オープンソースのモデルを微調整することは､ フロンティアモデルを微調整すること､ オープンソースのモデルを微調整することとはまったく異なる提案である｡
私たちがやろうとしているのは､ 私たちが扱っている大型モデルよりもはるかに小さいものから始めることだ｡
つまり､ まだ何十億ものパラメーターがある｡
しかし､ GPT4やGPT4ミニの何兆ものパラメータとは比較にならない｡
オープンソースのモデルを微調整し､ Loraと呼ばれるものを使用する予定です｡ Loraについては何度か触れたので聞いたことがあるかもしれませんが､
おそらくLoraの例をいくつか見たことがあるかもしれませんし､ Loraの同類でLoraの量子化バージョンであるLoraについても聞いたことがあるかもしれません｡
私たちはこの2つに取り組み､ 最後にはこの2つについて一から十まで知ることになる｡
ええと､ 次のセッションではベースモデルを選びますが､ それが何かはもうお分かりですね｡
でも､ でも､ 本当に選ぶんだ｡
それがGPT4と競争するモデルになるだろう｡
リーダーボードの現在の勝者｡
それが来週の課題だ｡
大きな挑戦になるだろうけど､ 挑戦するのが待ちきれないよ｡
そして､ あなたも待ちきれないことを願っている｡
それではまた｡