そして､ 我々はハグ顔オープンLLMリーダーボードに戻る｡
トレーニングのベースとなるモデルを選ぶ際､ 最初に行く場所｡
そこでまず最初にやることは､ パラメーターのサイズが最大でも9のモデルに焦点を絞ることだ｡
そして､ 私たちは少し下がってもいいし､ まずはベースモデル以外のすべてを除外してみよう｡
ええと､ パラメーターの数も表示させましょう｡
下の表を見てみよう｡
というわけで､ これらのさまざまな指標に従った最強モデルの結果がこれだ｡
そして､ この2人を含め､ 何度も述べたあの強豪クランを目にすることになるだろう｡ 52. 5はとても新しい｡
ええと､ 70億のバリエーション｡
ウーはこの中で最も得点力のある選手だ｡
ええと､ ジェンマはジェンマの90億パラメータ変種であることがわかるだろう｡
ミストラルのすぐ上だ｡
それと､ 僕らがよく話したいと思っているのが､ この話なんだ｡
そういえば､ マイクロソフトのファイ2がありましたね｡
ええと､ ラマ3｡ 1はもう少し先だ｡
この数字には若干の差があるが､ 上位はほぼ拮抗している｡
ラマ3世が気になるかもしれないね｡ あなたが知っている1が､ 私たちが最終的に選ぶことになるものです｡
でも､ それには何か理由があるんだ｡
このようなさまざまなスコアを見る場合､ 訓練されたバージョンを取り入れる必要がある｡
インストラクター・バリアントと呼ばれるものは､ 同じモデルだが､ 特定のチャット・インストラクター・スタイルに対応できるよう､
さまざまな強化学習テクニックを使ってより訓練されたものだ｡
このような枠組みがあれば､ さまざまなテストに対応できる可能性が高くなる｡ なぜなら､
異なるタスクに適応するように訓練されることを期待されるよりも､ 与えられた指示に反応するようになるからだ｡
つまり､ ベースモデルであっても､ ベンチマークやインストラクターのバリエーションを見れば､
より現実的な能力がわかるということだ｡
そうすると､ ラマ3世が見えてくる｡ 180億ドルは本当にトップグループだ｡
ええと､ ファイ3もあそこにある｡
あの､ ジャマー｡
それからメタ・ラマ3｡ 1.
だから､ インストラクターのバリアントを見ると､ とてもうまくいっている｡
そして､ さっきも言ったように､ ちょっと変な言い方だが､ インストラクターのバリエーションを実際に使おうとは言っていない｡
私たちはそれを望んでいないのだから､ 基本バージョンに固執することを提案しているのだ｡
システムのプロンプトやユーザーのプロンプトなどについて学習し､ 思考プロセスやトレーニングの力を使い果たすことは避けたい｡
ただ､ その練習を経験すれば､ これらのスコアすべてで好成績を収めていることがわかると言っているのだ｡
そして､ ベースモデルがこれらの異なるベンチマークに対応できるよう適応する能力に優れていることを感じさせてくれる｡
つまり､ リーダーボードの結果をよりニュアンス的に解釈する方法だ｡
インストラクターのバリアントを見て､ そのパフォーマンスを確認することができる｡
さて､ 私がラマを選んだのにはもうひとつ微妙な理由がある｡ 5人組の3人､ ジェマ､ あるいはグウェンのいずれかが､
多くの面でより高いスコアを獲得しているように見えるかもしれないのに､ だ｡
リャマにはリャマの便利さがある｡
ただそれだけだ｡
しかし､ これによってコードが少しシンプルになり､ llamaのタスクも少し楽になります｡
llamaのトークナイザを見ると､ llamaでは0から999までのすべての数字､
つまり3桁の数字が1つのトークンにマッピングされることがわかります｡
同じことが3や4､ あるいはクアンにも言えるかというと､ 実はそうではない｡
そのほかの3つのモデルでは､ 基本的に1桁につき1トークンというような形になっている｡
つまり､ 999という数字は3つのトークンとして扱われることになる｡
では､ 何の違いもないはずのことに､ どんな違いがあるのかと聞かれるかもしれない｡
だから､ トレーニングをするときに､ トークンを生成するモデルを使い､ 回帰モデルのような考え方をさせようとしているんだ｡
私たちは､ 次のトークンを予測するのがどんどんうまくなるように､ そしてそれが価格に対応するように解決しようとしてほしいのです｡
だから問題が単純化される｡
価格が､ モデルが生成しなければならないトークン1個に正確に反映されている場合｡
つまり､ この特定の状況､ 私たちが解決しようとしている特定の問題では､
ラムダ3のトークン化戦略が必要なのです｡ 1が非常にうまく機能するのは､ トークンが生成する1つの次のトークンが､
それ自体で価格のすべてを反映するからだ｡
つまり､ 次のトークンは9ドルであるべきで､ それは9ドルかもしれないし､ 99ドルかもしれないし､
999ドルかもしれないと予測することはない｡
そして､ それが実現するのは､ トークンを行ったときだけだ｡
その後だ｡
そうではなく､ 次のトークンとして提示される1つのトークンは､ 1つのトークンに商品の全価格が反映されることになる｡
つまり､ ニュアンスの違いではあるが､ 我々がラマ3を選択する方向に傾く理由なのだ｡ この場合は1｡
しかし､ ぜひとも他のモデルを選び､ そのパフォーマンスを見ることができるようになるだろう｡
しかし､ llamaはトークン化する方法でこの利便性から少し優位に立つ｡
ですから､ モデルを選択し､ リーダーボードを見て､ リーダーボードをもう少し深く見て､ インストラクターのバリアントとベースモデルのパラメータサイズについて考え､
さらにトークン化の方法などのニュアンスについて考える､ その背後にある思考プロセスについていくらかご理解いただけると思います｡
その結果､ ラマ3世を選ぶという決断に至った｡ 180億ドルを基本モデルとしている｡
さて､ それではコラブに行ってベースモデルを試してみよう｡