そして今､ qとqラウラの量子化について話している｡
Qは量子化された量子化の略｡
ローラ
確か3週目に量子化について少し触れた｡
だから､ 覚えていることもあるだろう｡
でも､ これからは本音で話そう｡
問題はここからだ｡
我々はこのような小さなモデル､ つまり80億パラメータ版のラマ3で作業している｡ 1.
私たちは､ より少ない次元の行列を扱うことで､ より多くのメモリを確保できるよう､ ローラという賢いスキームを考え出した｡
しかし問題は､ そのベースモデルでさえ､ その小型版､ 80億版でさえ､
32GBのラムを消費するということだ｡
これは80億個の浮動小数点数で､ それぞれ32ビット長だ｡
それでGPUがいっぱいになるんだ｡
実際､ T4ボックスで使用される安価なGPUには15GBのメモリしか搭載されていないため､ ベースモデル自体にすら適合しない｡
すぐにメモリ不足になるから､ それは問題だ｡
ローラは僕らにとって物事をより良くするのにとても役に立つが､ ベースモデル自体をメモリに収めることもできないので､
十分とは言えない｡
というのも､ 80億という数字は､ ある世界では小さなモデルサイズかもしれないが､ それでも膨大な数のパラメーターがあることに変わりはないからだ｡
そして､ それが私たちに課題を与えている｡
そこで驚くべき発見がなされた｡
それが私たちの仕事だ｡
そして､ 最初は､ それは本当であるにはあまりにも良すぎるように聞こえる｡
これはケーキを食べながらケーキを食べる方法のようだ｡
そして､ それはある種のものだ｡
つまり､ 80億のパラメーターがあるのだから､ 80億のパラメーターを使えばいいという考え方もある｡
40億のパラメーターを持つモデルのようにパラメーターを少なくしようとすれば､ モデルのパワーの多くを失うことになる｡
この80億のパラメーターは､ 私たちにたくさんのノブを与えてくれる｡
それはこの非常に巧妙な建築にある｡
大きな力を与えてくれる｡
分かった｡
だから､ パラメーターの数を減らすのはやめよう｡
そうする代わりに､ それぞれのパラメーターの精度を下げよう｡
非常に細かく砥石を回すことができる代わりに､ カチッ､ カチッ､ カチッ､ カチッ､ カチッ､ カチッ､ カチッ､ カチッ､ カチッ､ カチッ､ カチッ､ カチッ､
カチッ､ カチッ､ カチッ､ カチッ､ カチッ､ といくつかの設定を通過させることができるようにするんだ｡
それで､ それぞれのウエイトの精度を下げて､ ウエイトの数は同じにしようと考えたんだ｡
論理的に考えればそうかもしれないが､ 情報量を減らしているだけだ｡
確かに､ 情報量が半分になれば､ ウエイトの数が半分になるのと似たようなものだろう｡
そうではないことがわかったんだ｡
どんな理由であれ､ 精度を下げればニューラルネットワークの質は多少落ちるが､
思ったほどではない｡
まだ多くのパワーを保っている｡
そして､ これは同じパラメーター数でより大きなモデルをメモリにフィットさせるための素晴らしいトリックであることがわかった｡
精度が低いというだけで､ より少ないメモリしか消費しない｡
だから､ 驚くほどうまく機能している｡
実際､ 通常の32ビットの浮動小数点数を8ビットに減らしても､
十分なパフォーマンスを得ることができる｡
そして､ ここからが本当にクレイジーに聞こえ始めるところだ｡
4ビットまで減らすことができる｡
つまり､ それぞれの数字は単なる4ビットの数字なのだ｡
整数の観点から考えるなら､ それぞれの数字が0から15まで進んでいるようなものだ｡
ただ､ 整数で｡
それだけ精度が低いということだ｡
16の設定があるだけのクリックとかね｡
うーん､ それでもかなりいいパフォーマンスが得られる｡
もちろんだ｡
品質が落ちるのは少しだが､ ほんの少しだ｡
それで､ これが直感だったんだ｡
そしてもちろん､ これによって必要なメモリが劇的に削減され､ より大きなモデルをメモリに収めることができるようになる｡
細かい技術的なことをいくつか挙げておこう｡
そのひとつが､ 先ほど話したクリックスイッチだ｡
0から15までの数字のようなものだと考えればいい｡
一般的には､ 整数として解釈されることはなく､ 4ビットが浮動小数点数として使用される｡
そして､ 現実の例を見ればわかるだろう｡
そして､ もうひとつ指摘しておきたいのは､ カラーが初めて登場した当初は､
私が理解していなかったことなのですが､ これはベースモデルを量子化しているのであって､ ローラ・アダプターを量子化しているわけではないということです｡
つまり､ ベースモデルの精度を下げて､ この巨大で素晴らしいベースモデルをメモリに収まるようにしようという話なんだ｡
それがクー・ロラなんだ｡
それが量子化だ｡
あと少しでラボで見ることができるのだから､ よりリアルに感じられるだろう｡
その前に､ 次のビデオで3つの重要なハイパーパラメーターについてお話ししたいと思います｡