というのも､ 私たちはリーダーボードの話をたくさんしてきたし､
おそらく皆さんはベンチマークやリーダーボードを見ることに疲れてきているからだ｡
全部ブックマークしたんだね｡
あなたは､ よし､ わかった､ と思っている｡
LMSの選択に関しては､ 素晴らしいリソースがたくさんあります｡
あなたのリーダーボードに目を通してから､ そうするつもりだ｡
でも､ もういい｡
リーダーボードはもうたくさんだ｡
だが､ もうひとつある｡
本当に楽しいものだよ｡
きっと気に入るはずだ｡
だから､ この最終リーダーボードを私たちが見ても気にすることはないだろう｡
しかも､ 実は普通のリーダーボードではない｡
それはアリーナであり､ LMSチャットボット・アリーナと呼ばれている｡
そして､ これはとても人気があり､ 楽しく､ 多くの人が話題にするので､ すでに目にしたことがあるかもしれない｡
だから､ もしもう知っているなら､ ちょっと待って､ 我慢して｡
つまり､ LMSのチャットボットの分野は､ 非常に人気があり､ モデルが人間によって評価され､
チャットの能力が評価される場所だということです｡
いわば､ クラウドソーシングのオープンプラットフォームだ｡
彼らは100万人以上の人間の投票を集め､ llmsをランキングし､ その結果をチェスプレイヤーにはおなじみのEloレーティングと呼ばれるタイプで表示している｡
頭脳戦の結果に基づいて､ 総合的なリーダーボードのようなものを評価する方法だ｡
その結果の一部をご覧いただきたい｡
そして､ GPT 4の変形であるChatGPT 4と呼ばれるGPT 4を最初に見てみましょう｡ 0が出たのはごく最近のことだ｡
このビデオを録画した時点では､ 2024年8月初旬に発売され､ 以前はGPT4はこのリストのもう少し下にあった｡
しかし､ この最新の訓練され､ 微調整されたモデルによって､ ChatGPTの4人はElo 1でアリーナのトップに立った｡
316.
ええと｡
ここで便利なのは､ 知識の切り捨てが右側に引用されていることだ｡
だから､ 1つの場所に行けば､ すべての知識の切り口を見ることができる｡
実際､ LMSチャットボットの分野をオープンにしていくのは良いことなので､ 知っておいて損はない｡
それが第一の理由だとは思わないが､ 役に立つ豆知識ではある｡
あの､ ジェミニ1号を見てください｡ 5 実際にプロは､ この人間による評価で本当によくやっている｡
グロック2はXの最新モデルで､ 以前はツイッターとして知られていた｡
ええと､ グロック・ワンはあまりうまくいっていなかった｡
グロック2は本当によくやっている｡
ええと､ 5月に行われたGPTのフォーゼロに勝っているんだ｡
うーん､ そうだね｡
ELOの差はあまりないのがわかると思うが､ この時点でリーダーのクロード3とはかなり大きな差がある｡
5
ソネットは､ 一時は､ 私の記憶が正しければ､ 発売当初はかなりの差をつけてトップランナーだったと思うのですが､ 今では､ ええと､ 同じくらい､ 6番目くらいに下がってきています｡
ええと､ ええと､ トップのGPTチャット､ GPT4ゼロ､ それからジェミニ1が1316なのに対して､ この下は､
ええと､ エロが1270なんだ｡ 5フラッシュは､ もちろんやや小型のモデルだ｡
そしてラマ3の登場だ｡ 1 1266で4050億円｡
このラインナップはとても興味深い｡
お気に入りのモデルを見つけるために､ 何度でも通うことができる｡
クロードの3大オーパスはこの下にある｡
ええと､ ええと､ これは､ 人間がさまざまな､ ええと､ 指導調整された､ ええと､ チャットボットとのチャットの経験をどのように考えているかを知るには絶好の場所です｡
ええと､ さっき見ていたコマンドRが見えると思う｡
あ､ 今､ ここのどこかでコマンドRを見たよ｡
それは自分で見つけるしかない｡
今､ 私はそれを失った｡
あれだ｡
コマンドRプラスが見つけた｡
あ､ 1213番だ｡
ええと､ 1週目の最初にずっと見ていたもののひとつだ｡
このリンクをクリックすると､ 投票画面が表示されます｡
その仕組みはこうだ｡
モデルAとモデルBの2つのモデルが提示される｡
どっちがどっちかわからず､ 両方とおしゃべりしなければならない｡
そして､ 私たちのお気に入りのちょっとしたおしゃべりをしよう｡
ええと､ データサイエンティストでいっぱいの部屋にふさわしい､ 軽快なジョークを教えてください｡
だから､ この質問は両モデルに一緒に投げかけ､ 彼らがどう答えるかを見ることになる｡
では､ モデルAはなぜデータサイエンティストはコンピューターと別れるのか？
なぜなら､ ヌル値に対するコミットメントの問題が多すぎたからだ｡
まあ､ 科学的ではあったが､ 面白くはなかったと思う｡
もしかしたら面白いと思ったかもしれない｡
モデルB､ ジョークを言ってくれ｡
軽いジョークだ｡
科学者はなぜ図書館に行くのか？
ボリュームがあると聞いていたからだ｡
ああ､ いい感じだろ？
それは､ 二重の意味を持つヴォリュームという言葉に対するさまざまな遊びだ｡
少し説明がある｡
冗談は簡単だ｡
技術的な専門知識とちょっとした言葉遊びを組み合わせた､ データサイエンティストに好まれるダジャレの一種だ｡
それは確かだと思う｡
それは確かだ｡
僕はBの方がいいと思う｡
私の意見に同意してくれることを願っている｡
もしそうでなければ､ アリーナに行って､
同じような質問をして､ 自分で投票してください｡
見てみよう｡
面白いことに､ クロードの3つの俳句を選び､ グロック2に対してそれを選んだんだ｡
ええと､ 私の記憶が正しければ､ グロック2はクロード3の俳句よりかなり高かった｡
だから､ 私たちの投票によって､ そのバランスがわずかに変化したのだ｡
だから､ 楽しんでもらえたと思う｡
もちろん､ それはやや非科学的なものだが､ 考え方としては､ あなたの相互作用に基づいた人間的な判断ということだ｡
そして今､ あなたに求められているのは､ 行ってこれを実行することだ｡
地域社会に恩返しをする重要な方法だ｡
使用されるのはデータだ｡
それに､ とても楽しいよ｡
そして､ データサイエンス・コミュニティに貢献しながら､ さまざまなモデルの能力と範囲を感じ､
実際に体験することができます｡
それでは､ チャットボット・アリーナでの時間をお楽しみください｡