結果を並べてみよう｡
私たちは1ドルのコンスタントモデルから旅を始めた｡ 全データの平均からの誤差46｡
トレーニングデータセットでは､ 数個の特徴を持つ従来の機械学習モデルを見た｡
1.0になった｡ 39.
平均的なランダムフォレストを上回った｡
私たちの伝統的な機械学習モデルの最高峰が97に到達した｡
人間は127ドル､ GPT4は76ドル､ そして我々の微調整されたカスタマイズモデルは47ドルに達した｡
そして､ これはもちろん､ あなたへの挑戦につながる｡
あなたの課題は､ この47ドルを改善することだ｡
これはハイパーパラメーターの最適化で解決できることだ｡
そうして今手元にあるタスクは､ ハイパーパラメータを実験的に弄って､ 重みとバイアスを使うことだ｡
異なるオプティマイザー､ 異なる学習レート､ 異なるバッチサイズを検討し､ この数値を改善するために何ができるかを見てみよう｡
また､ 推論時にモデルを実行する方法を変えて､ それが改善されるかどうかを調べることもできる｡
そして､ おそらく最も小さな変化で結果に大きな影響を与えることができる方法のひとつが､
データセットとデータ・キュレーションのステップをもう一度見直し､ より良い結果を得るために情報を促したり整理したりする別の方法を考えられないか､
自分自身に挑戦することである｡
そして最後にもうひとつ､ より大きなステップになるが､ とてもエキサイティングなことがある｡
もしあなたがやらないなら､ 私は絶対にやるつもりだ｡
ジャマを試し､ パワーハウスのクォンを試し､ フィの3人を試し､ 彼らのパフォーマンスを見る｡
トークンを正しい数として予測できないかもしれないからだ｡
それ以外は問題ないかもしれない｡
でも､ それを試してみて､ それがとても美味しいということだと自分自身を納得させる必要がある｡
だから､ いろいろなモデルを試してみてほしい｡
また､ 4ビットではなく8ビットに量子化されたllama threeのバージョンで全体をやってみることもできる｡
もっと大きなモデルもある｡
確か140億のパラメータを持つ53のバージョンがあったと思うが､ それを試してみて､ 改善されるかどうかを確認することができるだろう｡
それが目的だ｡
これを40以下にできる最初の人の意見を聞きたい｡
それは可能なはずだ｡
価格決定の不確実性という現実を考えれば､ どこまで安くできるかは難しい限界のようなものがあると思う｡
テストセットの251番目のアイテムで40ドル以内に収まるモデルを作るんだ｡
だから､ 40を切ったら､ ぜひ私に連絡して､ あなたのハイパーパラメーターとモデルを教えてください｡
私はそれが大好きだ｡
それでは､ 今週を締めくくろう｡
もちろん､ フロンティアAPIを使ってテキストやコードを生成したり､ オープンソースのモデルやハグフェイスを使って､
データセットのキュレーションやベースラインモデル､ 微調整などの問題を解決することもできる｡
そしてこの時点で､ フロンティアを凌駕するオープンソースモデルの選択とトレーニングの全プロセスを自信を持って実行することができる｡
そしてそれは大きな成果だ｡
来週がこのコースのフィナーレだが､ 約束しよう｡
勝利になるだろう｡
来週はとても楽しくなりそうだ｡
ここまで来たのだから｡
最後まで頑張って､ すべてがひとつになるのを見届けよう｡
僕らがやってきたことをパッケージングして､
APIの後ろにデプロイできるようにして､
本番で使えるようにする｡
そしてその時点で､ 商業的な問題に対する自分自身のエンド・ツー・エンドの解決策を生み出すことができるようになる｡
画期的なllmsを使い､ 自分でトレーニングできるようになる｡
来週が待ちきれないよ｡
そしていつものように､ そこで会おう｡