LLMにとって非常に基本的なことですが､ LLMのパラメーターの中にあるパラメーターの数（ウェイトとも呼ばれる）について少しお話ししたいと思います｡
一般的に､ パラメータとウェイトは同義である｡
状況によっては､ 両者がまったく同じではないというディテールもある｡
しかし､ 基本的にはウェイトとパラメーターは同じものだと考えてほしい｡
モデルの重さ｡
これらのレバーはモデルの中にあり､ ある入力が与えられたときにどのような出力を生み出すかをコントロールする｡
次に続く単語をどのように予測するのか｡
そしてこの重みは､ LLMを訓練するときに設定される重みだ｡
たくさんの例を見て､ それらの例を使って重みを変えながら､
次のトークンを予測するのがどんどんうまくなる｡
トークンについては後ほど説明するが､ どんどん良くなっていく｡
そして､ より良くなる方法は､ すべてのウエイトを調整することだ｡
データ・サイエンスに携わっている人の中には､ 初めてデータ・サイエンスを知る人にとって､ これはとてもよくわかることばかりだろう｡
コースの間､ このことをさまざまな方法で見ていくので､ 出力をコントロールするパラメーターや重みを持つということがどういうことなのか､
だんだん直感的に理解できるようになるだろう｡
伝統的なデータサイエンス､ 伝統的な機械学習の単純な時代には､
線形回帰モデルのようなモデルを構築し､
それは加重平均のようなもので､ 通常20から200のパラメータを持ちます｡
そして､ これらのLMSについて､ 少々奇妙で注目すべきことのひとつは､ 私たちがこれほど異なる数のウェイトについて話しているということだ｡
2018年に出たGPTでは1億1700万回待たされた｡
というのも､ 当時私たちはディープ・ニューラル・ネットワークを持っていて､
そのうちのLMSは私のスタートアップにもあったのですが､ 私はよく､
私たちのディープ・ニューラル・ネットワークには20万ものパラメータがあると自慢して回っていました｡
だから､ GPT1が1億1700万ものパラメーターを持つようになったとき､ 私はとまどった｡
GPT1の巨大さを実感したよ｡
しかし､ お分かりのように､ この目盛りは対数目盛りで､ 刻み目が1つ増えるごとに1ノッチ増えるわけではありません｡
これは､ その前のティックの10倍のパラメータ数を意味する｡
そして､ この図に重ねてみよう｡
GPTのその後のバージョン､ GPT two with 1. 50億のパラメータ｡
GPTは1750億のパラメーターを持つ｡
言いようのないことだ｡
パラメータの数｡
GPT 41. 7 6兆のパラメータ｡
そして最新のフロンティアモデル｡
実際にいくつのパラメータを持っているかは発表されていない｡
約10兆個のパラメーターがあると言われている｡
ほとんど考えられない数のウェイトが走っているのだ｡
さて､ この上にオープンソースのモデルをいくつか重ねてみよう｡
ジェマは20億か｡
軽量モデルだ｡
ラマ3世も覚えているだろう｡ llamaを使っていたときに取り組んでいた2も､ 20億のパラメータを持っていた｡
じゃあ､ ラマ3だ｡ 1には､ 80億バージョン､ 700億バージョン､
そしてラマ3の3種類がある｡ 1 405Bは､ 現時点ではオープンソースの中で最大のモデルで､
フロンティアのクローズドソースモデルと同様の能力を持つ｡
そして､ ミックスド・レール（専門家混合モデル）についても触れた｡
だからこれは､ これらのモデルがどれほど巨大なものかを知ってもらうためのものだ｡
そして､ 10兆もの異なる重さ､ 異なる種類のレバー､ 異なる数字があることの意味を理解することさえ難しい｡
この巨大なモデルの中にある小さなノブのようなもので､ 入力された出力をコントロールするものだと考えればいい｡
そしてまた､ あなたの頭の中で､ 20から200のパラメーターがあるような昔ながらの線形回帰モデルと比較してみてください｡
これらの大規模な言語モデルの巨大さを感じてほしい｡