だから将来的には､ トレーニングをしてモデルを微調整し､ 微調整したモデルを作るつもりだ｡
そして､ これからすることは､ 未来に保存しておいたもののひとつをロードすることだ｡
そうすれば､ その建築物を見て､ 感覚をつかむことができる｡
そして､ ベースモデルではなく､ ロードすることでそれを実現する｡
このような､ えーと､ えーと､ 事前に訓練された因果LLMの自動モデルではなく､ 事前に訓練されたパラメータ効率の良い微調整モデルであるPeftモデルである｡
そして､ 今ここにあるのがベースモデルであることを伝える｡
そしてモデルを微調整する｡
このようにして保存したモデルの名前がこれだ｡
ローラの微調整
どんな風に見えるかをお見せするためにやっているんだ｡
これは比較的小さいから､ すぐに終わるよ｡
サイズを見てみよう｡
そのため､ メモリフットプリントはギガバイトになる｡
そして､ それはこの件に非常に近いので､ あなたにも馴染みがあるはずだ｡
ええと､ その差は約100MBです｡
見てみよう｡
つまり､ これがこの製品のアーキテクチャーだ｡
今はもう､ そんな芸当はしない｡
これは以前見たものとは明らかに違う｡
そして､ 私たちが見ていることをお話ししましょう｡
まず第一に､ ここまでの内容は､ 32ラマ・デコーダーのレイヤーがあるところまでは同じです｡
そして今､ 私たちはこの注目のレイヤーにたどり着き､ Qプロジ､ Kプロジ､ Vプロジ､ Oプロジのレイヤーがある｡
そして､ これらにはそれぞれベースレイヤーがある｡
そしてロラAとロラBがある｡
そしてこれが､ 以前お話ししたA行列とB行列で､ ここに32番があります｡
それが先ほどのR､ ローラランクだ｡
これらは32ランクの行列である｡
うーん､ そうだね｡
行列の計算の仕方に詳しい方なら､ 32の次元を掛け合わせることで､ このベースレイヤーに適用し､
そのベースレイヤーにわずかなシフトを加えることができるように設計されているのがおわかりでしょう｡
理論に拘泥したいので､ また少し手垢がついているが､ これらは掛け合わされるということだ｡
ローラAとローラ
Bにスケーリングファクターであるアルファを加えたものが､ 適用するデルタとして使われる｡
このベースレイヤーの上に､ ドロップアウトと呼ばれる別のハイパーパラメーターがある｡
それについては後で話す｡
それは今週話したビッグ3のうちの一つではない｡
しかし､ ここではその特徴を何度か目にすることになるだろう｡
4つのターゲット・モジュールのうち､
他のモジュールを見てみると､ ローラAとローラBがあり､
ここにもローラAとローラBがある｡
Rのハイパーパラメータで指定された32次元だ｡
ええと､ 他は何も変わっていない｡
多層パーセプトロン層もまったく同じである｡
うーん､ 他は全部同じだよ｡
もう一度言っておくが､ 私たちはこの件に拘泥しないようにしているが､
この4つの行列の次元数がこれであることを納得するために振り返ってみるといい｡
それぞれにローラAとローラBがあり､ そのマトリックスの次元を掛け合わせることで､
これらのアダプター全体でいくつの次元､ いくつのウェイトがあるかがわかる｡
そして各レイヤーについて､ この4つの数字を合計するということだ｡
モジュールのグループが32個あるので､ それを32倍する｡
そして､ これらのパラメーターはそれぞれ4バイトの数字である｡
32ビットだ｡
それでサイズを計算し､ それを100万で割ってメガバイトにする｡
ローラ・アダプタのウエイトをすべて合計すると､
2700万個のパラメータがあり､ 合計サイズは約109MBになる｡
つまり､ 2,700万個のパラメータは､ 100.9メガバイトのサイズということになる｡
それくらい私たちのアダプターは大きい｡
そしてもちろん､ llama全体が80億のパラメーターを持ち､ サイズが32GBであることと比較してほしい｡
多くのパラメータとトレーニングが必要だが､ ラマ3のような巨大なものに比べれば小さなものだ｡
1､ 小さなバリエーションであっても｡
しかし､ このような低次元の行列を使うことで､ より大きなアーキテクチャに影響を与えることができるということを､
直感的に理解していただければと思います｡
そして､ この109MBという数字が､ 私が実際にハグすることができるパラメータのサイズであることを証明するものでもある｡
私は今､ ハグをしている｡ そして､ あの特別なローラ・アダプター､ 微調整されたモデルをどこに保存したか､ そして何を見つけるかを見ている｡
これらを見るとき､ セーフ・テンソルと呼ばれるものを探す｡
これは､ パラメーターそのものを保存するファイルである｡
そして､ ラマ3について見てみよう｡ 1､ 32GBの大容量であることがわかるだろう｡
これを見ると､ パラメータが109MB､ 109MBであることがわかる｡
それが､ このQラウラを使って微調整するパラメーターの大きさだ｡
少なくとも､ ここで何が起こっているのか､ そして最適化するために何GBものデータを必要とせずにモデルを微調整することができるというトリックをどのように使っているのか､
きちんとした直感をつかんでいただけたと思います｡
ということで､ スライドに戻り､ まとめとしたい｡