みんな､ 行動の時だ｡
コラボを立ち上げたんだ｡
さあ､ 7週目､ 3日目だ｡
常にセットアップしている｡
モデル名を確認し､ いよいよ本番だ｡
ええと､ まず最初にすることは､ ハギング・フェイスにログインすること｡
そして､ ハギング・フェイスにログインした後､ 皆さんがあまりご存じない､
新しいこと､ 素晴らしいウェイト＆バイアス・プラットフォームにログインします｡
先週のウェイトとバイアスの考察の一環として､ すでに設定済みかもしれないが､ そうでなければ､
とても簡単だ｡
もちろん無料だ｡
ここにリンクされているウェイトとバイアスのWとBのドットIをご覧ください｡
無料アカウントをセットアップして､ あなたの杖のAPIキー､ 重みと偏りのAPIキーを見つけることができます｡
そして､ この南京錠のマークをクリックし､ Google Colabにシークレットとして追加します｡
そうしたくない場合は､ このノートブックに直接入力することもできます｡
しかし､ 秘訣を使うことをお勧めする｡
ウェイトとバイアスを設定したら､ さあ始めよう｡
そしてデータセットをロードし､ そのデータセットが期待通りのものであることを素早くチェックすることができる｡
私たちはそれを期待しているし､ 期待している｡
トレーニング・データ・ポイントの数を見てみよう｡ 40万個のトレーニング・データ・ポイントがある｡
一つ目を見てみよう｡
ただ､ 私たちが期待する通りのものであることを確認してほしい｡
このトレーニング・データ・ポイントのテキストは､ 私たちが期待しているプロンプトで､ その後に価格が続きます｡
そして､ この次のトークンを予測し､ それを的中させるためにモデルは必死になる｡
実際の価格もここにある｡
四捨五入しているのがわかるだろう｡
そして､ 探していることを伝える｡
1ドル単位､ トークン単位､ 1ドル単位でいくらかかりますか？
そして値段だ｡
本当の価格だ｡
テストデータセットを見てみよう｡
しかし､ テストデータセットが非常に似ていることを覚えているだろう｡
ほんの小さな違いだ｡
ここに値段はない｡
値段はドルと書いてあるだけだ｡
そしてそれこそが､ 我々のモデルが得意とするトレーニングなのだ｡
オーケー｡
ログインして､ weights and biasesにログインするように指示すると､ weights and Biasesプロジェクトがセットアップされます｡
というのも､ もし走り始めても､ ハグフェイスがこれをやってくれるからだ｡
しかし､ 必要であれば､ コンフィグにいくつかのパラメータを渡して､ ウェイトやバイアスに表示される追加的なUMや属性を設定することもできるからだ｡
知っておくと便利なトリックだね｡
うーん､ でも､ とにかく､ これを実行するかどうかは自由だ｡
大した違いはない｡
じゃあ､ これは前にも見たね｡
このハイパーパラメーターを使って､ ビットとバイトのコンフィグを4ビット量子化に使うか､
8ビットに使うかを決めるだけだ｡
もちろん4ビットで行く｡
ずっと下に行くんだ｡
そして､ トークナイザーとモデルをロードする｡
そして､ トークナイザーをロードするいつものコード｡
これは定型文のようなもので､ トレーナーに対して､ 配列の最大長を満たすようにすべてのデータ・ポイントをパディングし､
文末のトークンですべてのデータ・ポイントをパディングして､ 配列のトークンの長さである182文字を埋めるように指示するものです｡
だから､ このトークンで右サイドを埋めるんだ｡
そしてこの1行は､ 世代設定と呼ばれるものにパッドのトークンIDを設定するための､
単なる定型文です｡
これを入れたのは､ 後で警告が出るのを防ぐためだ｡
そうすることで､ 不必要な警告が表示されるのを避けることができる｡
そして最後に､ いつものようにメモリーのフットプリントを印刷して､ それが5であることを確認する｡ 4ビット版のラマに期待される6GB､
3. 180億パラメータモデル｡
さて､ ここでもうひとつ詭弁がある｡
データコレーターと呼ばれるものだ｡
つまり､ トレーニングをするときに､ 価格を含む完全なシーケンスを渡すという狡猾な方法がある｡
しかし､ ちょっとした引っ掛かりがある｡
実際には､ ドル記号までのプロンプトのすべてのトークンを予測する方法についてモデルが学習することは気にしない｡
トークンを予測する方法を学ばせたいんだ｡
だから､ 商品の説明を書くのがどれだけ上手かを見るのに多くの時間を費やしてほしくないし､
価格も覚えてほしくない｡
そのためには､ マスクというものをセットアップする必要があるんだ｡
トレーナーに「プロンプトについて学ぶ必要はない｡
しかし､ ドル記号のすぐ後にあるこのトークンを予測する方法を学ぼう｡
マスクのセッティングは少々手こずり､ トークンをいじくり回す必要がある｡
しかし幸運なことに､ ハギング・フェイスは､ それをすべてやってくれるちょっとしたユーティリティで､ 実に簡単にしてくれた｡
そして､ それはデータ・コレーターと呼ばれ､ 完成度の高いものである｡
LMは......僕らが手に入れたものだ｡
完成させたいものしかないんだ｡
この特別な文章｡
どのように機能するかというと､ レスポンス・テンプレートと呼ばれるものを考え出すのです｡ とても派手に聞こえますが､
それは単に､ 次に何が来るかを予測してほしいことを示すテキストの塊を意味します｡
そして私たちの場合､ それは単純に価格がドル記号であるということだ｡
その次を予測させたい｡
そこで､ それをレスポンス・テンプレートと呼ばれるものに入れ､ レスポンス・テンプレートだけを渡して､
データ・コレーターのインスタンスを作成する｡
そして､ トークナイザーも指定しなければならない｡ トークナイザーは､ トレーナーに入力されるマスクされたデータの最終的なセットを構築するためにそれを使用する｡
すぐにわかるだろう｡
だからこれは超シンプルで､ 裏ではかなり高度なことをやっていて､ 僕らにとっては簡単なことなんだ｡
分かった｡
そしてついに､ 私たちにとって最後の大きな瞬間がやってきた｡
これはたくさんのコードがあるように見えるだろうが､ 実際にはそれほど多くはない｡
これからトレーナーを呼び出すので､ 2組のパラメーターを渡さなければならない｡
そのひとつがローラのコンフィグだ｡
ハイパーパラメーターは､ ローラのトレーニング方法に関係するものだ｡
そしてもうひとつは､ psftコンフィグによる微調整だ｡
コンフィグは､ トレーニングがどのように機能するかについての一般的なもので､ 私がやったことは､
基本的に､ アルファ値やドロップアウトなど､ ノートブックの一番上で定義した定数から引っ張ってくるように設定しました｡
これらは重要なハイパーパラメーターではない｡
ローラのパラメーターには､ もちろんアルファを渡していることがわかるだろう｡
ローラの設定､ トレーニングパラメータ､ SFTの設定には､ ラン名などが含まれています｡
バッチサイズは何エポックですか？
ええと､ 超重要な16番｡
私の場合､ T4ボックスを使っているのであれば､ これはあなたのためのものかもしれない｡
グラデーションの蓄積は､ 僕らにとっては大事なことなんだ｡
そして､ 私たちが使うことにしたコサイン・スケジューラーの学習率などだ｡
それから､ この下の方にある､ ハブにプッシュするように言っているんだ｡
保存を行うたびに､ つまりバッチ・ステップの5000回ごとに､ このモデルをハブにプッシュして､
ハブに一連の保存を行うようにします｡
そして､ それぞれのポイントで我々のモデルを見ることができる｡
そして､ この名前をつけてほしいと頼み､ 非公開のレポにしたいと言って､ そのレポから素晴らしい結果が出たと満足するまで､
まだ公開しないようにする｡
そしてこれが最後のセリフだ｡
SFTトレーナーというものを立ち上げた｡
私たちはほんのわずかなことで合格する｡
第一に､ ベースモデルを知る必要がある｡
私たちが微調整したい根本的なモデルとは､ ラマ3である｡ 1.
その2 トレーニングデータとは何か？
私たちはそれをパスする｡
ローラのパラメーターは？
これには､ アルファ値､ r､ ドロップアウト､ トークナイザー､ トレーニング・パラメーターが設定されている｡
そして最後にコレーターを渡す｡ コレーターは､ ドル記号の値段を探すことを知っていて､ それを教えてくれる卑劣なオブジェクトだ｡
その前をわざわざ予測する必要はない｡
次のことを心配する｡
それで､ これでトレーナーが決まった｡
そして次のビデオでは､ この単線の微調整列車を走らせる｡
それは素晴らしい瞬間だ｡
では､ さっそく行ってみよう｡