皆さん､ こんにちは｡
私が第7週をとても楽しみにしているのは､ この時期から実際に独自のモデルを構築し始めるからだ｡
私たちが独自のAIを作り始めるのは､ フロンティア・モデルと競争できるようなものを作ろうとするときであり､
そう､ 少なくともいくつかのフロンティア・モデルを凌駕できるかどうかを試してみるときでもある｡
このようなことが可能なのは､ データがたくさんある特定の問題を解決しようとしているからで､
フロンティア・モデルよりもかなり小さいモデルを採用できる可能性があるからだ｡
80億のパラメーターのようなモデルを使うことができる｡
そして､ 1つの集中したタスクを非常に得意にすることで､ GPTフォーゼロのような巨大なジャイアンツ､
巨人軍に対抗することができる｡
なぜなら､ GPT4は何兆ものパラメーターを持っているにもかかわらず､ 大統領候補について気の利いた詩を書くなど､
実にさまざまなことができるように設計されているからだ｡
しかし､ 商品の価格を予測することに関しては､ 本当に､ 本当にうまくやろうと思っている｡
それが僕らの仕事だ｡
それが我々のビジネス上の問題だ｡
それを解決するのが私たちの目的だ｡
この最初のステップは､ 微調整のためのベースモデルとしてどのモデルを使うかを決めることで､
これは時間をかける価値のあることだ｡
それ自体､ 巨大なハイパーパラメーターのようなものだと考えればいい｡
別のベースモデルを試してみて､ その結果を見ることもできる｡
その一環として､ 私たちはそのモデルのオリジナルの事前訓練されたバージョン､ まさにベースモデルを使うかどうかを決めなければならない｡
チャット用に微調整されたもので､
インストラクトバリアントと呼ばれることもあります｡
あなたが覚えているその入力スタイルは､ プロンプトのさまざまなセクションを区切る一連のトークンに変わる｡
だから､ それについて決断しなければならない｡
もちろん､ 長所も短所もある｡
そうしたら､ ベースモデルをそのまま使って､
我々の挑戦に対してどうなのかを見てみるべきだ｡
そして､ フロンティアモデルと競争していないとしても､ これが無料になること､ 少なくとも私たちの負担になることを忘れないでほしい｡
計算を実行することで､ 自分たちのオープンソース版のモデルを実行するときにAPIコストを支払う必要がなくなる｡
だから､ 私たちが正しい領域にいるとしても､ オープンソースを使うべき理由はまだたくさんある｡
この特定のビジネス問題に特化した独自のモデルにするという話をする前から､
だ｡
とにかく､ それを念頭に置いて､ どのモデルを使うべきかを話す時が来た｡
ええと､ まず最初に､ いくつのパラメーターを使うかを決める必要がある｡
それに､ 多ければ多いほどいいというものでもないだろう｡
パラメーターを増やせば､ 問題を解決する可能性が高まる｡
特に今のような世界では､ 多くのトレーニングデータがあり､ 40万もの例がある｡
だから大量のトレーニングデータがある｡
その点で私たちが制限されているわけではない｡
そして､ やろうと思えばいつでももっと生み出せる｡
というわけで､ 私たちの制約となるのは､ メモリの容量ということになる｡
もっと小さな箱に収めたい｡
この時点で､ 私たちは80億のパラメーターを持つモデルを作ることができることをすでに知っている｡
パラメータは70億から80億｡
それ以上は無理だろう｡
パラメータが小さいモデルがある一方で､ ジェンマのようにパラメータが20億か30億のモデルもある｡
ええと､ すぐに見てみましょう｡
ええと､ おそらく､ 余裕がある箱に収まる､ 可能な限り大きなモデルとして8つを選びたいんだ｡
だから､ ベースやインストラクターのバリエーションに関しては､ そういうアプローチになるだろう｡
長所も短所もあるし､ 試してみる価値はある｡
一般的に言えば､ 特定のプロンプトを使用し､ 特定の方法での応答を期待するような､
ある問題に特化した微調整を行うのであれば､ インストラクターのバリアントではなく､
ベースモデルから始めた方がよいでしょう｡
だから､ ベースとなる1つを微調整して､ その1つのタスクだけが本当に得意になるようにしたほうがいい｡
それがデフォルトの答えだ｡
さて､ インストラクターのバリエーションから始めることにはいくつかの利点がある｡
そのひとつは､ とてもおいしいということだ｡
システムプロンプトやユーザーアシスタントのインタラクションなどを認識するようにすでに訓練されている｡
システム・プロンプトを使うことで､ ペルソナを学習させるのではなく､
ペルソナを学習させ､ トレーニング・データを通してペルソナを学習させることができる｡
だから､ インストラクターのバリエーションがより良い出発点になる状況もある｡
僕らの場合､ 直感的にはベースの方がスタート地点としてはいいんじゃないかと思うんだ｡
実際に両方試してみたが､ ベースはインストラクターのバリエーションより若干良かったが､ 非常に僅差だった｡
ええと､ 両方試してみて､ 私と同じ結果が出るかどうか見てみるのもいい｡
でも､ 僕らのような状況では､ ある特定のタスクがあり､ システムプロンプトなどを適用する必要がない場合､
ベースのバリアントから始めるのが普通だと思う｡
しかし､ その紹介をした上で､ ハグする顔､ あー､ オープンリーダーボードに向かい､ いくつかのモデルを見てみよう｡