そして私たちはGoogle Colabで､ モデルたちと楽しむ準備をしている｡
そこでまず､ いつものようにPipのインストールといくつかのインポートを行う｡
なぜなら､ 録画する直前にズルをして､ もう少し早くできるようにすでに実行してあるからだ｡
ピップのインストールは､ おそらく30秒から1分程度ですべて完了する｡
ピップのインストールが終わったら､ ハグフェイスにサインインしよう｡
もう慣れていると思うよ｡
トークンが左のシークレットに設定されていることを祈る｡
ええと､ これからハギング・フェイス・ハブでプレーするモデルの名前に定数を設定します｡
いつものように､ 会社のスラッシュ､ モデルの名前､ またはモデルのレポだ｡
だから､ 3歳のファイと2歳のジェマと一緒にラマで遊ぶんだ｡
そして､ アリババクラウドのLLMのクアントと一緒に練習を繰り返してほしい｡
そして､ ミストラルもここにあげた｡
さて､ これはおそらく､ 大きなGPUに大枚をはたかない限り､ 大きすぎるモデルになると言わざるを得ない｡
その場合は､ Huggingfaceのハブに行って､ 80億パラメータ以下のいいモデルを見つけて､
それを代わりに使ってください｡
自分の好きなもの､ 人気のあるもの､ 現在好調なものを選んで､ それをどう評価するか見てみよう｡
ただし､ 少なくとも5つのモデルを完成させておくこと｡
システム・メッセージとユーザー・メッセージを2つのディクテットにして､
メッセージ・リストを作りましょう｡
これ以上の説明は必要ない｡
前回､ ラマ3に同意する必要があることを覚えているよね｡ 1 利用規約は､ モデルのページに行き､
同意するを押してください｡
もし､ まだそうしていないのなら､ ラマ3にアクセスできるようにそうしてください｡ 1モデル｡
これは新しいことだ｡
量子化と呼ばれるものについて少しお話ししたいと思います｡
だから量子化というのは､ かなり意外なことなんだ｡
つまり､ このモデルをメモリにロードしたいが､ その際､ モデルを構成するウェイトの数値の精度を下げたい｡
これらのウェイトは通常32ビットの浮動小数点数である｡
このディープ・ニューラル・ネットワークの重みは､ 32ビットの浮動小数点数で構成されている｡
もっと少ないビットで彼らを連れてきたらどうだろう？
32ビットはもちろん4バイトだ｡
そして､ より少ないメモリに､ より多くの数字を詰め込むことを試みるかもしれない｡
そして､ 精度を下げることによって､ より粗い数をモデルに入れることを量子化と呼ぶんだ｡
そして､ それは私たちがやろうとしていることでもある｡
最初にこの話を聞いたとき､ とても驚いたことを覚えている｡
32ビットの数字を8ビットの数字に置き換えることで､ 精度を大幅に下げるという話だった｡
そして考えたのは､ 意外なことに､ もちろん精度は少し落ちるものの､ 思ったほどは落ちないということだった｡
減るわけでもなく､ 4倍悪くなるわけでもない｡
ちょっと悪くなるけど､ まあ我慢できる程度だし､ メモリを増やすというトレードオフの価値はある｡
それを聞いて驚いたし､ それ以上のことができると聞いてさらに驚いたよ｡
実際には､ 8ビットではなく､ 4ビットまで減らすことができる｡
数えてみれば半分のバイトだ｡
32ビットから4ビットに減らすことができる｡
また､ 精度は確かに落ちているが､ 期待するほどではない｡
しかし､ 私はそれが大きく異なるものだとは思っていなかった｡
それに､ かなり我慢できるレベルじゃない｡
そして､ より大きなモデルをメモリに収め､ より速くロードし､ より速く実行することなどが可能になる｡
だから､ 量子化はよく行われることなんだ｡
これは強力なツールで､ 特にトレーニングに入ると､ これらのモデルを使ってより多くの仕事をこなさなければならなくなる｡
量子化は救世主だよ｡
数週間後のある時点で､ 効率的な方法で微調整を行うQラウラと呼ばれるテクニックを紹介すると書いたのを覚えているだろうか｡
Q,ローラのQは量子化を意味する｡
だから､ これからも折に触れて訪れることになるだろう｡
その間に､ 私たちはBits and Bytesというライブラリを使っている｡ これは､ 抱きつき顔のトランスフォーマーライブラリと相性がいい｡
これは素晴らしいライブラリで､ これから使用する新しいbits and bytesコンフィグ・オブジェクトを作成して､
どのような量子化を行いたいかを記述することができる｡
そして､ 4ビットのロードは真に等しいと言うつもりだ｡
我々は4ビットまでやるつもりだ｡
また､ ここでは8ビットのロードは真に等しいと言うこともできる｡
その代わり､ 8ビットにしたいのであれば､ 両方やってみて､ 精度の違いがわかるかどうか試してみるのもいいかもしれない｡
そして今､ これまた非常に驚いている｡
しかし､ 4ビットでdouble quant equals trueを使うこともできる｡
そしてこれは､ すべての重みを1度ではなく2度量子化することを意味する｡
ええと､ もう少しメモリを節約します｡
また､ これをやり直したからといって､ 結果の精度に大きな影響はない｡
だから､ それはいいトレードだし､ みんなそうしている｡
ええと､ これは､ 計算を行う際に､ このデータ型A､ B 16を使用することで､ パフォーマンスが多少向上するということです｡
だから､ これもよくあることだ｡
それから､ これは数字を4ビットに減らしたときに､ その4ビットの数字をどう解釈してどう扱うか､
どう4ビットに圧縮するかということです｡
そして､ このNF4は4ビットの数値表現である｡
Nはノーマライズドを意味する｡
私は､ これらの数値が正規分布に従うと考えることで､ 物事をわずか4ビットに圧縮する際に､
より正確さを増すことができることに関係していると理解している｡
だから､ この2つはあまり重要ではないだろう｡
大差をつけることは期待されていない｡
そうなる運命なんだ｡
それは運命なんだ｡
しかし､ 持っていて損はないセッティングだ｡
そして､ これは多少の違いがある｡
そして､ これはメモリという点で大きな違いを生む｡
そしてそのどれもが､ アウトプットの面ではそれほど悪くない｡
そんな雑談をしながら､ クォンツのコンフィグ､ ビット・アンド・バイトのコンフィグができあがった｡
これは私たちがよく知っていることだ｡
Lamaのトークナイザーを作成します｡
このラインは､ これまで話題にしたことのない新しいものだ｡
ええと､ パッドトークンと呼ばれるものがあって､ これはニューラルネットワークに入力されるときに､ プロンプトにさらに追加する必要がある場合に､
プロンプトを埋めるために使われるトークンです｡
そして､ そのパッド・トークンは､ 文末の特別なトークン､ つまりプロンプトの終わりのトークンと同じに設定するのが､
ある種の一般的なやり方です｡
もしそうしなければ､ 警告を受けることになる｡
警告を受けることは問題ではない｡
インパクトはないと思う｡
しかし､ 警告を受けたくないのであれば､ このままにしておけばいいし､
多くのコードで標準的に使われているのを見るだろう｡
オーケー｡
そしてトークナイザーを使う｡
ご存知のチャットテンプレート適用関数を呼び出します｡
メッセージを辞書のリストとして受け取り､ トークンに変換する｡
そしてそれをGPUに押し付ける｡
では､ これを実行すると､ トークナイザーが動き出す｡
次にすることは､ モデルをロードすることだ｡
では､ このセリフは何を意味するのか｡
だからまず､ このセリフにとても似ている｡
ここでは､ auto tokenizer dot frompretrainedと言って､ トークナイザーを作成しました｡
我々は､ 因果LLMのための自動モデルを､ 事前に訓練されたものから作成する｡
このクラスは､ LLMを作成するための一般的なクラスである｡
因果LLMは自己回帰LLMと同じである｡
そしてそれは､ 過去のトークンのセットを受け取り､ 未来のトークンを予測するLLMであることを意味する｡
そして基本的に､ 私たちが話してきたすべてのLLMはそのようなLLMだった｡
このコースの後半では､ もう一つのLLMについて見ていく｡
しかし､ このような生成的AIのユースケースで話していることすべてにおいて､ 我々は因果関係のあるLLMや自己回帰LLMを扱うことになる｡
そしてこれは､ 事前に訓練されたものから作成する方法になる｡
トークナイザーと同じように､ モデルの名前を渡します｡
GPUがあれば､ そのGPUを使いたい｡
それがデバイス・マップ・オートだ｡
そして､ 先ほど設定した量子化コンフィグ､ クオンツ・コンフィグを渡して､ モデルを構築する｡
モデルとは実際のコードのことで､ これは実際に我々の大規模な言語モデルをソフトウェアとして､ Pythonのコードとして実行できるようにしたものだ｡
そしてカバーの下にはPyTorchがある｡
これは一連のPyTorchレイヤーであり､ 入力を入力し､ 出力を得ることができるニューラルネットワークのレイヤーである｡
だから本物なんだ｡
今､ この作業をしたところだから､ おそらくもっと時間がかかるだろう｡
これを実行すると､ 実際にダウンロードが行われる｡
ハグ顔につながる｡
これは､ Hugging face hubからモデルの重みをすべてダウンロードし､
Google Colabインスタンスのディスク上の特別なファイルにキャッシュされます｡
メモリフットプリントの取得を呼び出すことで､ モデルがどれだけのメモリを使用しているかを尋ねることができる｡
その結果､ どうなるかはこれからだ｡
このモデルのメモリー・フットプリントは約5｡ 5GB｡
このボックスのリソースを見ると､ 5つほど使っていることがわかる｡ 5GBの空き容量｡
そして､ すでにこれを実行しているので､ 過去にバウンドしている｡
でも､ ここからスタートすると､ 5.5メートルくらいに跳ね上がることは想像できると思う｡
そしてディスク上では､ ディスクのキャッシュにロードされているため､ 十分なスペースを使用している｡
オーケー｡
プライムタイムの準備はほぼ整っている｡
まずはモデルそのものを見てみよう｡
そして､ 私たちは単にモデルを印刷することでそれを行う｡
モデルをプリントすると出てくるのは､ このモデル・オブジェクトで表現される実際のディープ・ニューラル・ネットワークの説明である｡
これがここで見ているものだ｡
これは､ ディープ・ニューラル・ネットワークのレイヤーを表す､ 実際のレイヤーのコードだ｡
そしてこれらはすべて､ モデルによって参照されるように設定されたPyTorchクラスを示している｡
ええと､ 繰り返しになるけど､ このクラスは実践的なクラスで､ 時折理論的なことを少し話すだけなんだ｡
しかし､ ディープ・ニューラル・ネットワークの内部やレイヤーに関する知識のレベルによっては､
これを見る価値はある｡
この中には､ あなたにとって超お馴染みのものもあるかもしれない｡
トークンをニューラルネットワークに埋め込むエンベッディング層から始まることは､ おわかりいただけるだろう｡
そして､ この次元､ これは次元を示していて､ ボキャブラリーの次元性を示していることが想像できるだろう｡
そして､ ニューラルネットワークの各層に､ 一連のモジュールがあることがわかるだろう｡
特にあなたは､ 注目されることがすべてだと知っているのだから｡
論文にあるように､ 必要なのは注意力だけであり､ それこそがトランスフォーマーをトランスフォーマーたらしめている核心である｡
そして多層パーセプトロン層がここにある｡
そして活性化関数がある｡
理論に詳しい人たちなら､ これを期待しているはずだ｡
このラマが使用する活性化関数 3. 1つのモデルはReLU活性化関数で､ シグモイド､
つまり線形単位で､ Pytorchのドキュメントに記載されている｡
それと､ どうやらスウィッシュ機能としても知られているようだ｡
基本的にはxのロジスティック・シグモイドをx倍にしたものだ｡
これが活性化関数だ｡
繰り返しになるが､ ディープ・ニューラル・ネットワークの理論に詳しい人なら､ これが何なのかよくご存じだろう｡
もしそうでないなら､ 心配はいらない｡
ここで何が起こっているのか､ 一般的な感覚をつかむだけでいい｡ このモデルや他のモデルを研究していくうちに､
もっと詳しく見ることができるようになるだろう｡
その最後に､ いくつかの､ いくつかの､ いくつかの､ いくつかの､ レイヤーのようなものがあり､ そして最後に直線的なレイヤーがある｡
PyTorchニューラルネットワークの知識レベルによっては､ 特に見る価値がある｡
でも､ 後で他のモデルを見ても同じことができる｡
モデルの出力を見てください｡
見て､ 模型を見て､ 模型をプリントして､ どんな風に見えるか見て､ ラマ3と比べてみてください｡
次のビデオまでお休みしますが､ 次のビデオでは､ これを実行し､ 他のモデルも実行します｡
だからどこにも行くな｡
またすぐに会おう｡