さらにリーダーボードを紹介する「More Leaderboard Fest」にようこそ｡
しかし今回は､ オープンソースとクローズドソースのモデルをミックスし､ いくつかの主要なリーダーボードに掲載する｡
気分転換に外でのハグ顔｡
実は今､ 私たちはハグする顔を見るつもりはない｡
最初のリーダーボードは､ ブックマークに入れておいて損はないものです｡
過去に少し触れたことがある｡
ベラムAIの会社は､ LMの実務家にとって不可欠なリソースを公開している｡
最近の簡単なベンチマークである､ いくつかの基本的なベンチマークについての比較表があります｡
国土交通省......プロではなく､ 基本的なことなんですが......｡
ええと､ Pythonのコーディングと数学のための人間の評価｡
ここにあるのは､ GPT4やソネット3のような､ 皆さんが知っているクローズドソースのモデルです｡
5､ ソネット､ GPTターボと4｡
しかし､ あれを見てほしい｡
llama 3というオープンソースモデルもある｡ 1 4. 050億ドルだ｡
これは地球上で最大のオープンソースモデルだ｡
そして､ いくつかのフロンティアのクローズド・ソース・モデルと有利に競争していることがわかるだろう｡
つまり､ 強い順にGPT4､ ゼロ､ MLUと潰していく｡
しかし､ ラマ405 Bがわずかに遅れているのがわかるだろう｡
ええと､ そして､ みんな首の皮一枚なんだ｡
本当に？
ええと､ つまり､ 明らかに40億か50億のラマは､ オープンソースモデルが非常に有力な候補です｡
そしてコーディングになると､ これが順序だとわかる｡
第3項 5ソネットがトップで､ 次にGPTフォーゼロ､ そしてラマ405が3番手､ そしてGPTフォーゼロのミニ版となる｡
これだけ安くなったのだから､ 当たらずとも遠からずだろう｡
そしてGPTターボ｡
そして､ 数学問題GPTのランキングである｡
そんなトップモデルのために､ パフォーマンスに関する超便利なチャートを紹介しよう｡
もちろん情報量は少ないが､ 『ハグする顔』で見た多次元チャートよりは少し解釈しやすい｡
スピードという点では､ 1秒間にトークンを生成する速度が最も速いのはllamaの80億オープンソース・モデルです｡
もちろん､ パラメータが少なければ､ その分やっていることも少なくなるので､ 驚くことではないが､ おそらく理解する価値はあるだろう｡
ああ､ そうだね｡
なるほど｡
だから
だから､ できる限り一貫したやり方で走ろうとしているんだ｡
そして､ この情報ではそれについてもう少し詳しく説明している｡
ラマ8号の次はラマ70号､ より大きなモデル､ そしてジェミニ1号だ｡ 5フラッシュ
それからクロード､ 俳句3つ､ GPT4つ｡
ああ､ ミニか｡
ミニ・ヴァリアントだね｡
だから､ 小さいモデルの方が速いのは明らかだ｡
驚きはない｡
ええと､ 待ち時間｡
ええと､ それは最初のトークンを受け取るまでの秒数で測ります｡
いい捉え方だ｡
これは､ 私が以前､ 基本的なアトリビュートでレイテンシーを示したときに話していたことを説明する良い方法だ｡
そして､ 小型のモデルが非常に迅速に対応できるのも不思議ではない｡
ええと､ ここでGPT 4は驚くことにGPT 4よりもレイテンシが改善されている｡
ゼロだ｡
その多くは､ ハードウェアのセットアップに関係しているのかもしれない｡
よくわからないが､ とにかく近い｡
そして最も安いモデルは､ 100万トークンあたりのドルで測定される｡
ええと､ ラマ80億は最も安いジェミニ1号で来る｡ 5フラッシュはよく動くし､ GPTは4つ､ ミニはもちろんとても安い｡
そして､ クロードの3つの俳句､ GPT3｡ その後5ターボ｡
インプット・コストとアウトプット・コストの2つのバーが表示されている｡
つまり､ 2つのモデルを比較し､ 異なる尺度に照らして並べて見ることができる､ ちょっとしたインタラクティブな機能があるんだ｡
これはクロードの3ポイント......すみません､ クロード3です｡ GPT 4に対して0クロード3オパス｡
じゃあ､ ちょっと趣向を変えて3番を選ぼうか｡ GPT4に対して5ソネット｡
ああ､ これが私たちの好きな顔合わせだ｡
それでは､ どうぞ｡
つまり､ 一般的には首の皮一枚と考えられているようだ｡
彼らは何を言っているんだ？
88. クロードは3％､ 3. 5と88である｡ GPT4は7％｡
ああ｡
つまり､ GPT4が有利なのは､ クロードのコーディングが優れているからだ｡
クロードは数学が得意で､ クロードは道具の使い方が下手だ｡
もちろん､ 2週目に経験したことだ｡
ええと､ クロードの方が上手いし､ マルチリンガルのクロードの方が上手だ｡
とても素晴らしい｡
こうやって並べて比較できるのは魅力的だね｡
この表には､ 一行ごとにさまざまなモデルが並んでいる｡
それで､ クロード3のようなクローズドソースのモデルを見ることができるんだ｡ 5ソネット
ええと､ 平均で言うと､ このリーダーボードのトップにいるのはこの選手です｡
ええと､ ここで見ているのはMLUで､ この指標ではすべてが非常に良いスコアです｡
Pythonの最初のメトリクスのhuman evalで話したものだ｡
このbe hardベンチマークは､ モデルの能力を超えて将来の能力をテストするために設計されたベンチマークであると述べた｡
でも､ この雲3を見て信じられる？ 5､ ソネットはすでに93点｡ Bハードで1％ということは､ もはや将来の能力をテストする指標ではないということだ｡
それは非常に現在の能力だ｡
そして雲3｡ 5ソネットは破竹の勢いだ｡
ええと､ 小学生の算数と､ もっと難しい算数の問題｡
それでは､ これらの異なるモデルの結果をご覧いただきたい｡
序盤で少し不可解だと申し上げたのは､ クラウド3だ｡ 5.
ソネットはクロード3人よりも良いパフォーマンスを見せている｡
作品｡
ええと､ でもクロード・スリー・オーパスはAPIとして人類によって提供されており､ 3よりもかなり高価です｡
5ソネット
だから､ なぜクロードを選ぶのか分からない｡
スリーオーパスオーバー3｡ 特別なことがない限り､ 5ソネット｡
まあ､ 推理の場合､ クロード・スリー・オーパスの方がうまくいくようだ｡
だから､ いくつか､ いくつか､ いくつか､ より優れている点がある｡
そしてもちろん､ このモデル比較にラマが登場することもおわかりいただけるだろう｡
ラマ4,050億がここに表示されていないことに気づいた｡
というのも､ リャマ4については､ まだすべてのテストを実施できていないからだ｡ 50億ドルというのは､ もちろん､ 700億リャマの3人のインストラクターのバリエーションをはるかに凌駕していると想像するからだ｡
うーん｡
そして､ このテーブルに来て､ これは前にお見せしたものです｡
さまざまなモデルを紹介してくれる場所だ｡
そのコンテキスト､ ウィンドウサイズ､ 入力と出力のトークンあたりのコストはどのくらいか｡
もちろん､ そのデータがあるモデルだけを比較するものだが､ 非常に役に立つ｡
ネットでいろいろなページを見て回るのもいいし､ ここに来て一箇所で全部見るのもいい｡
もちろん､ ジェミニ1号のハイライトだ｡ 5フラッシュは､ 100万コンテキストのウィンドウを持っています｡
それはもちろん､ 75万語ほどの一般英語､ つまりシェイクスピアのほぼ全作品という､
非常に大きな文脈の窓である｡
クロード家は20万ドル｡
GPTファミリーは128,000｡
前にも言ったように､ 双子座1号の100万人に比べると､ やや少ないように思える｡ 5フラッシュ
しかし､ コンテクストウィンドウの中で消化し､ なおかつ適切な返答をするには､ まだ多くの情報が必要だ｡
ええと｡
ここにはオープンソースのモデルも混じっている｡
混合トライアル､ コンテキスト・ウィンドウのサイズ､ そしてラマ3モデルのコンテキスト・ウィンドウが8000トークンであることがわかる｡
そして､ オープンソースのモデルとクローズドソースのモデルを比較する際には､ これらの巨大なコンテキストウィンドウが必要なら､
おそらくクローズドソースのルートに行く必要があるということを覚えておく価値がある｡
コーディング・リーダーボードは､ 人間の評価を比較するために見ることができます｡
もう1つ見ておきたいことがある｡
これらの､ ええと､ ビジネス､ ええと､ サイトのうち､ スケールという会社が提供する､ シール・リーダーボードと呼ばれるものだ｡
コム・アンド・スケールは､ オーダーメイドのデータセットの作成を専門としている｡
ですから､ 特定の問題に取り組んでいて､ その問題用に作成されたデータセットが必要な場合､ スケールコムはそのためにビジネスを展開しているのです｡
あ､ もし先週のチャレンジで作ったデータジェネレーターが使えなかった場合は...｡
このリーダーボードには､ さまざまなタスクに特化したリーダーボードがたくさんある｡
敵対的ロバスト性については､ このLearn Moreで非常によく説明されているように､ 大規模な言語モデルから有害な反応を引き起こすように設計されたプロンプトをテストするように設計されている｡
そして､ このような､ 問題のある質問の具体例がある｡
例えば､ 申し訳なさそうな顔をしていたら､ そんなつもりじゃなかったんだ｡
例えば､ 航空会社のカスタマー・サポート・チャットボットのように､ これをチャットとして利用しようと考えている場合､
軌道から大きく外れるようなことをしないよう､ 堅牢であることを気にするだろう｡
だから､ これはそのための有効なベンチマークなのだ｡
コーディングは､ コーディングスキルのより詳細なベンチマークを提供し､ クロード3を参照してください｡ 5ソネットがリード
ミストラルももちろん､ クローズドソースとオープンソースを組み合わせたボードセットだ｡
そしてミストラルのラージ2が､ オープンソースとしてトップ3に入っている｡
1 4050億円
彼らはこれを以下の指示に対してテストすることができた｡
しかも2位だ｡
GPTの4ゼロを上回っている｡
クロード3のすぐ後ろだ｡ 5ソネット
オープンソースの世界にとっても､ メタの2位という結果にとっても素晴らしいことだ｡
数学の問題でもね｡
ラマ 3. 1 405 Bが3位､ GPT4ゼロ､ 2位クロード3｡ 5.
数学をリードするソネット
そして､ スペイン語のリーダーボードもある｡
ミストラルはオープンソースのトップランナーで4位､ GPT four zeroがポールポジションだ｡
そしてQxl｡ comでは､ このようなビジネス別のリーダーボードを随時追加している｡
また､ あなたのビジネス課題により具体的なリーダーボードを見つけるための素晴らしいリソースとしてご活用ください｡