Llmsで可能なことのフロンティアで､ 世界の知識を必要とする特殊な問題を解決し､
前回のリマインダーのように､ すべてのパフォーマンスから見えたものをお見せする｡
まあ､ 実際はランダムモデルから始めたんだけど､ それはバカバカしいから忘れよう｡
最初の出発点は､ ただ平均的な数字を予測する一定のモデルだった｡
もっとうまくやれたのは確かだが､ それ以上ではなかった｡
フィーチャーエンジニアリングを使ったモデルでは､ より良い機能でそれを改善したかもしれない｡
ええと､ でも私たちのベストは､ 単語の袋ではなく､ ランダムフォレストモデルをベースにしたものでした｡
vecベクトル化に一言｡
400次元ベクトルのプロンプトを見てください｡
そして､ それがエラーを招いた｡
400,000例のデータで学習させた結果､ 商品の説明に基づく予測値と実際の価格の差は平均97ドルまで縮小した｡
そして､ 今日､ その人間のお披露目をした｡
それが最初のモデルだった｡
エラーという点では､ 人間が127点｡
だから､ 原始的なフィーチャーエンジニアリングよりは､ 少なくともうまくやれたと思う｡
そして少なくとも､ コンスタントな成績よりは良かった｡
一定数以上の成績が残せなければ､ 全試合を収録しなかったかもしれない｡
でも､ 明らかに､ 次のクロードは､ 僕よりかなり良かった｡
そしてクロードはランダムフォレストと非常によく似ていた｡
そしてまた､ クロードはトレーニングデータを見ずにこれをやっていることを念頭に置かなければならない｡
純粋に世界の知識に基づいているだけだ｡
そしてこの製品を渡された｡
個人的な苦い経験から言わせてもらえば､ それは難しい仕事だ｡
しかし､ GPT4ミニの方がうまくいき､ 80ドルの誤差になった｡ GPT4はさらにうまくいき､ その差は76ドルまで縮まった｡
つまり､ フロンティア・モデルとAPIを使うことで､ 問題に対するソリューションを構築することができるということだ｡
そうではない｡
数値的な問題だ｡
そうではない｡
必ずしもテキスト補完だけで解決できるようなものではありません｡
しかし､ GPT four miniは､ そのような問題であっても､ 従来の機械学習モデルであるランダムフォレスト・モデル（400,000の学習データを持つモデル）を凌駕することができる｡
つまり､ これらのモデルがいかに強力で､ いかに多くの種類の商業的問題に適用できるかを示しているのだ｡
しかし､ これでようやくトレーニングの世界に移ることができる｡
次のテーマは､ フロンティアモデルを微調整することによって､ それをさらに発展させ､ 学習例を使ってより良い結果を出す方法についてです｡
これまでなかったもの｡
だから､ これは大きな､ そしてエキサイティングな話題なんだ｡
来週までに今週中に完了する予定だ｡
私たちはそれをまったく別の世界に持ち込み､ 自分たちのオープンソースモデルを微調整し､
競合できるかどうかを試す｡
だから､ まったく違う世界だ｡
そして､ 従来の機械学習やフロンティアモデルに勝てる見込みがあるかどうかを見極める｡
興奮することがたくさんある｡
その前に､ 微調整のためにまた明日会おう｡