Colabに戻り､ Colabノートの7週目､ 5日目を見ている｡
今日はトレーニングではなく､ 推論をするのだから､ 必要なのはそれだけだ｡
ええと､ トレーニングはまだこの別のタブで行われています｡
今話しているように､ まずインストールから始めて､ それから通常のインポートをいくつかする｡
そして､ ここにある定数についてお話ししましょう｡
ええと､ ベースモデルはもちろんラマ3｡ 1 プロジェクト名は､ 抱きつき顔の使い手､ プライザー｡
だから､ ここで選んで､ 入れることができる｡
さて､ あなたの名前を入れて､ あなたが微調整してハグハブにアップロードしたモデルに対して､ この推論､
このテストを実行してくれることを願っている｡
しかし､ あなたが､ あー､ 我慢の限界に達したか､ あるいは私のものがどうだったかを見たいだけという可能性もある｡
だから､ このモデルとも対戦できるだろう｡
ええと､ ここでランの名前を選択しました｡
これはランの名前である｡
そこにある39番は､ 私が過去に何度もエポックに走ったものの､ 抱き合わせのランネームだとお分かりになるかもしれない｡
ええと､ このリビジョンは､ どのチェックポイントを選択するかを指定するところです｡
ひどくオーバーフィットし始める前のものを選んでいる｡
うーん､ これはまだいい､ いい結果を出している方だった｡
そして､ これが私の微調整モデルの名前になる｡
もちろん､ ハグ顔の名前である｡
ごめんなさい.
これを作らないといけない｡
そうでなければ､ ここに自分の名前をハードコーディングする｡
でも､ 私がやることは､ これの2つのバージョンを作ることだ｡
ひとつは､ あなたがエントリーした抱きつきフェイスのユーザー用｡
もうひとつはコメントアウトして､ 私のモデルを使う場合はこの行をコメントアウトしないようにします｡
それから､ もしあなたが自分のモデルを使うのであれば､ ラン名とリビジョンをあなたが使っているものに合わせて変更する必要がある｡
そして､ リビジョン・イコール・ノーンを入れないことから始めればいい｡
リビジョンをまったく使わないのであれば､ リビジョン・イコール・ノーだ｡
そして､ データセットについては......いずれにせよ､ あなたが注意深く､ 愛情を込めてキュレーションし､ Huggingfaceのハブにアップロードしたデータセットを読み込みます｡
私のものを使ってもいいよ｡
さて､ ところで､ もしあなたがこれの廉価版を使って､ 家電製品だけのモデルをトレーニングしたのであれば､
もちろん､ あなたが構築した軽いデータセットと家電製品用のモデルを埋めれば､
同じような結果が得られるはずです｡
クオンツ・フォー・ビットは真実だ｡
量子化し､ カラフルな線を出力する方法を覚えているだろう｡
オーケー｡
そして､ ハグをするためにログインする｡
もう慣れただろう｡
トレーニングをしているわけではないので､ ウェイトやバイアスに記録する必要はない｡
そしてデータセットをロードする｡
それに､ この時点で最初のトレーニング・データセットを見れば､ もうそれを使うことはないだろう｡
しかし､ その値段は織り込み済みだ｡
こんな感じだ｡
もちろん､ テストデータセットを使用する｡
本文には価格が書かれていない｡
値段は､ モデルに与えられない答えの中にしかない｡
この文章も与えられただけだ｡
この予測を実際に行う部分に入ったら､ すぐにトリプルチェックをすることができますよ」｡
でも､ 私たちは違う｡
それではまず､ トークン・サイザーと微調整したモデルをロードしましょう｡
そこでまず､ 適切な量子化を選ぶ｡
以前と同じでおなじみだろう｡
これも以前と同じだ｡
まあ､ ここだけ少し違う｡
しかし､ 我々はトークナイザーを読み込む｡
パラメータを設定するために､ 定型文を入れたんだ｡
先ほどと同じように､ 右クオンツのコンフィグを使ってベースモデルをロードする｡
そして､ またあの一発ギャグが飛び出した｡
そしてこれが新しい｡
だから今､ 左モデルというものをロードしている｡
覚えていれば､ パラメーターの効率的な微調整を意味する｡
ローラをコード化したパッケージの名前だ｡
つまり､ 左のモデルは､ ベースがあるモデルを表す抱き合わせの顔のモデルなんだ｡
そして､ ベースの上にアダプターを装着する｡
だから､ それを積み込むんだ｡
今はフロンプレーンと呼んでいる｡
そして､ 上で設定したベースモデル､ 微調整したモデル名を渡すことができる｡
そして､ 希望があれば修正もする｡
もしリビジョンがNULLでなければ､ それを渡す｡
そうでなければ､ わざわざパスする必要はない｡
そうすれば､ 微調整したモデルがロードされる｡
そして最後に､ メモリのフットプリントを表示する｡
メモリフットプリントが5だったことを覚えているだろうか｡ 以前は6GBだったが､ 今は5GBだ｡ 7.
ラウラ・アダプターの100MBか109MBが追加されているから5700MBだ｡
ローラAとローラBがそこにいる｡
ええと､ もう一回､ この微調整されたモデルをプリントすればいいんだ｡
この記事を書いたのは1週間前のことだ｡
2日目､ 僕が未来を見ていると言ったのは､ 僕がこれを使っていたからなんだ｡
このモデル自体は私たちが見たものだ｡
そして､ このように見える｡
これを覚えておくと､ ニューラルネットワークのさまざまなレイヤーをすべて見ることができ､
これらのレイヤー､ つまり張力レイヤーに到達すると､ そこにドロップアウトレイヤーがあることがわかる｡
今､ あなたは10％の確率でドロップアウトすることをすべて知っている｡
それにローラAとローラBもいる｡
ローラAとローラBは､ 適応されたすべてのレイヤー､ つまりターゲット・モジュールのものだ｡
この層は､ ロジット､ つまり､ ボキャブ・トークン・ボキャブ・エントリーの可能性のある各数値を出力し､
次のトークンの確率を予測するためにソフトマックスに入る｡
分かった｡
準備はできているか？
だから､ 推論を実行するんだ｡
ええと､ ええと､ もう1回､ 簡単に､ ええと､ GPT4ゼロが76ラマ3ドルになったことを覚えておいてください｡
ベースモデル1台｡
この未経験モデルは396ドルだった｡
非常に残念だ｡
ええと､ この人間は127を､ ええと､ 僕のエラーとして､ ええと､ ラマが人間に勝てるかどうかとても期待しているんだ｡
オープンソースのモデルとして重要なのは､ 何かおかしなことを期待しているかもしれないが､
物価は変動が激しいということを念頭に置いておくことだ｡
ある商品が値下げされたかどうかはわからない｡
そのため､ これらの製品の価格には当然大きなばらつきがある｡
これは非常に難しい挑戦だ｡
そんなに難しくないと思うかもしれない｡
とても難しいことだ｡
自分で試してみればわかる｡
うーん､ わかった｡
そのことを念頭に置いて､ 話を続けよう｡
つまり､ 価格を抽出する関数は､ 文字列を受け取り､ 価格がドルであるかどうかを調べます｡
そして､ もう一回､ それ以降のどの時点に来る数字も見つける｡
値段は1ドルで､ 8ドル､ 9ドル､ 99ドルとか､ 何でもいい｡
ああ､ わかってもらえたと思うよ｡
ええと､ それが抜き取り価格なんだ｡
それから､ これはモデル予測関数で､ 前に使った関数です｡
うーん､ それはマスクに気を取られるね｡
さっき言ったのは､ それを避けるために使うものかい？
警告を投げ､ 入力プロンプトの大部分を予測する必要がないことを明確にする｡
そして､ 微調整されたモデルで､ 入力を渡して､ 出力を生成する｡
このアテンション・マスクを渡すと､ 新しいトークンは3つまでしか必要ない｡
でも､ 万が一､ ひどいミスをしたときに､
そのミスを捕捉できるように､ もう少し入れておく｡
さて､ たまたまだが､ 私たちはこの予測関数よりもう少し良いものを作ることができる｡
これはまったく大きな違いではない｡
しかし､ しかし､ このモデルをこれだけコントロールできるようになったのだから､ 次のトークンの扱い方をもう少しスマートにすることができる｡
それで､ この関数を書いたんだ｡
これは改良されたモデル予測機能だ｡
改善されたモデルは......うーん､ そうだね｡
ただ､ もう少し複雑なんだ｡
だから､ ええと､ ええと､ 簡単に説明するけど､ 超重要なことではないんだ｡
次のトークンの中から最も可能性の高いものを選ぶのではなく､ 次のトークンの中から最も可能性の高い3つのトークンを選ぶのだ｡
そして､ この3つの確率は？
そしてそれらは実数を表している｡
例えば､ 100ドルの価値がある可能性が非常に高く､ 99ドルの可能性は少し低いが､ 101ドルの可能性はかなり高いと言ったかもしれない｡
しかし､ 100が最高だった｡
そして､ これら3つの数値の加重平均を取る｡
そしてそれは､ 何を予測しようとしているのかをもう少し正確に知るための方法なんだ｡
そして､ 必ずしも整数ではない何かを予測することができる｡
僕が使ってきたテクニックなんだ｡
回帰問題を分類問題として扱っているという事実を解決するようなものだ｡
これを知っていることは超重要ではないが､ しかし､ 上記の関数を使っても大差はない｡
ちょっとした違いだ｡
しかし､ ニューラルネットワークの最後の層に興味があるのであれば､
これに目を通す価値があるかもしれません｡ なぜなら､ 私がしていることは､ 入力に渡す微調整モデルの出力を取ることであり､
これらはトークナイザーの可能な語彙エントリすべてにわたって､ このベクトルで述べたロジットとみなされるからです｡
そして､ それを確率に変換するためにソフトマックスを呼び出す｡
そして､ トップ3を通過する｡
そして､ これは上位3人の加重平均を取っただけのものだ｡
これは加重価格であり､ 加重価格を合計したものである｡
そして､ それが返ってくる｡
だから､ モデル予測にとても似ている｡
ただ､ 一番上の予想だけでなく､ 上位3つの予想に基づいた､ 少し正確な答えを出すだけだ｡
ええと､ それでクラスのテスターがいるんだ｡
これは以前使ったのとまったく同じテスター・クラスだ｡
ええと､ その前に申し上げたこと､ これは明らかに全体の核心であることを指摘しておく価値がある｡
渡された関数を呼び出すと､ 渡されたのはデータ・ポイントに関連するテキストだけである｡
当然､ 値段は言わない｡
知っているのはテキストだけで､ 価格については何も知らない｡
もちろんだ｡
そして､ 改良された関数を使用するテストを呼び､ テストに合格すると､
ある種のソープオペラのように､ 次のビデオでこの結果をお伝えします｡
そこで会おう｡