私たちがデータセットを作っていた何年も前のことを覚えているだろうか｡
その最後に､ Huggingfaceにデータをアップロードした｡
その時点から､ ピックルファイルも作っていたので､ それ以降はピックルファイルからデータを読み込んでいる｡
しかし､ Google Colabにいる今､ Huggingfaceのハブからデータを収集するのが一番簡単だ｡
それでは､ どうぞ｡
データセットをロードするには､ データセット名を渡して､
データセットをtrainとtestに分割する｡
そうしたら､ 最初のトレーニングデータを見てみよう｡
テキストと値段が書いてある｡
私たちが自分たちでこれを設定したことを覚えているかもしれない｡
テキストは私たちのプロンプトだ｡
この商品はいくらですか（1ドル単位）」､ 「この商品はいくらですか（1ドル単位）」､ 「この商品はいくらですか（1ドル単位）」､
「この商品はいくらですか（1ドル単位）」､ 「この商品はいくらですか（1ドル単位）」､ 「この商品はいくらですか（1ドル単位）」｡
そしてトップには
これはいくらするんだ？
1ドル単位で｡
そうしている理由は､ ラマ3世の作業を少しでも楽にしたいからだ｡ 80億のパラメータを持つ1モデル｡
フロンティア・モデルに送る場合､ セントに関する独自の判断を下すのに十分なパワーを備えているため､
それを指定する必要はなかった｡
しかし､ この場合､ 私たちはモデルにできる限りのシンプルさを与えたい｡
ええと､ そうなると､ ラマ3では常に1つのトークンに対応することになりますから｡ 1､ 私たちは､ トークンを1つ予測するだけでいいように､
とても簡単にしています｡
それが､ うまくやる方法を学ぼうとすることになる｡
そしてこのデータセットには､ 実際の価格も含まれている｡
ええと､ テストデータを見て､ 最初のポイントを取ると､ テストデータは非常によく似た構造になりそうだが､
1つだけ小さな違いがある｡
その違いが何なのか分かる？
そうだろうね｡
もちろん､ この時点のテストデータには価格が提示されていない｡
テキストはテキストになる｡
1ドル単位でいくらですか？
そして､ この文章を通過する｡
そして私たちのモデルに課せられたのは､ 次のトークンを予測することだ｡
この後､ 次のトークンが来る確率は？
そして､ 3という数字に一致するトークンが高い確率で出ることを期待している｡ 74､ ええと､ 実際の価格と同じです｡
それが任務だ｡
そして､ これは1つのトークンに対応するので､ 次のトークン､ つまりそのコストを表す1つの次のトークンを予測することに長けていることが本当の課題なのだ｡
ええと､ もうひとつ言っておくと､ 覚えているかもしれないが､ このテキストが常に179トークン以内に収まるようにするために､
いろいろと工夫した｡
そのおかげで､ 最大配列長182という定数がここにある｡
トークンも少し入れた｡
実際に179番がある｡
というのも､ トークナイザーはシーケンスの最初に文頭トークンを追加し､
最後に文末トークンやパッドトークンを追加する可能性があるからです｡
そして､ 最も重要なトークンの価格を誤って切り下げてしまうようなリスクは絶対に避けたい｡
だから､ 少し余裕を持たせれば､ 実際､ トレーニングに入るまでは重要なことではないんだ｡
でも､ データを見ている今だからこそ､ 指摘しておきたかったんだ｡
そうだ｡
申し訳ないが､ やり過ぎた｡
今､ このデータを見たところだ｡
次にすることは､ 正しい量子化設定を選ぶことだ｡
定数を4ビットより上に設定したんだ｡
今回はtrueに設定した｡
行って確認してみよう｡
これでよし｡
量子4ビットが真にセットされる｡
それで､ もう一度下に戻ってきたら､ 4ビットの量子化を選ぶんだ｡
そして､ 8ビットを選ぶとどうなるかをお見せしよう｡
しかし､ 我々は本当に極小の4ビットバージョンを選ぶつもりだ｡
そして､ トークナイザーとモデルをロードする｡
このセルを走らせるつもりはない｡
メモリーの中にあるのがわかるだろう｡
2回目を実行するとメモリが足りなくなる｡
ここで行うのは､ トークナイザーを読み込むことだ｡
ここには､ よく目にするような定型文のようなものが少しある｡
つまり､ トークナイザーがシーケンスの最後を埋める必要がある場合は､ 文末トークンを使い､
それを繰り返すように指示するのです｡
そうすれば､ 右側に表示されるはずだ｡
これは､ トレーニングのときに起こる標準的なことだ｡
今は実際に使うことはない｡
だから､ 心配する必要はないよ｡
でも､ でも､ このようなことはあちこちで目にすることだろう｡
このラインもそうだが､ 非常に標準的なセットアップだ｡
私たちがやっているのは､ トークナイザーを作り､ llama 3を読み込むことです｡ ベースモデル1台｡
そして､ 5を使い切っている｡ あなたが期待している6GBのメモリ｡
そうだ､ 55だ｡ 9､ それは私が下で推論を行ったからだと思う｡
ええと､ でも､ そうだね､ 4ビットにスリム化したモデルなんだ｡
この関数は､ 最近フロンティア・モデルの価格抽出で使ったので､
おなじみのものだろう｡
例えば､ priceをドル999で抽出するような場合､ 文字列として持っている必要がある｡
だから､ それではうまくいかない｡
価格は9999ドルだ｡
価格は999ドル｡
とても安い｡
何でもいい｡
ああ､ そうなるといいんだけど......｡
そうだ｡
99999を抜き取るということだ｡
しかし､ このモデルは､ プロンプトの中で提供されることは分かっている｡
そして､ このモデルが予測する｡
これがテスト・ハーネスで使用する関数だ｡
これは､ そのことを伝える機能である｡
これからプロンプトを出す｡
そして､ その費用がいくらかかるのかを知りたい｡
数週間前にやったのと同じように､ 推論モードでモデルを呼び出す方法だ｡
ええと､ プロンプトをトークナイザーのドット・エンコードを使ってエンコードします｡
これをGPUに押し出す｡
あー､ これはただ､ あー､ 超どうでもいいことなんだ｡
警告が表示されなくなる｡
だから､ 実際には何の影響もない｡
正確には､ 入力トークンの領域で起こっていることを予測しようとするのを防いでいるんだ｡
いずれにせよ､ そうなるだろう｡
しかし､ もし私たちがそれを明確に伝えなければ､ 警告を出すだろう｡
そこで､ ベースモデルをレンマ3と呼ぶことにする｡ 1.
そしてgenerateメソッドを呼び出す｡
インプットを渡す｡
私たちは新規トークンの最大数を言うつもりだ｡
もっと少ない数字にできるはずだ｡
本当に必要なのはトークン1つだけだ｡
万が一､ 別のドル記号などが表示された場合に備えて､ 最大4つのトークンを生成できるようにしている｡
ええと､ 警告を出さないように設定したアテンションマスクの中を通過するんだ｡
そしてこれは､ ただひとつの答えを返してほしいと言っているにすぎない｡
複数の答えが返ってくることは避けたい｡
そして､ その1つの答えを返すと､ また送られてくる｡
そして､ トークナイザー・ドット・デコードを呼び出して文字列に戻す｡
そして､ その文字列を取り出す｡
分かった｡
だからエキサイティングだ｡
思い出してみよう｡
では､ 0番目､ つまり最初のテスト項目を例にとると､ こうなる｡
純正のACコンプレッサーだ｡
実際の価格は374ドル｡
誰が知っていた？
では､ 最初のショットをご覧いただこう｡
だから､ モデルということになる｡ を予測する｡
テストゼロ｡
そして､ そのプロンプトを出すために､ 私はテキストを呼び出すだけだ｡
準備はできているか？
さあ､ 始めよう｡
ラマ 3. 1ベースモデルは､ 何か修理キット大丈夫とOEM ACコンプレッサーの価格を予測しようとする｡
そして､ 1800ドルという予想はかなり外れている｡
ということは､ リャマが3位になるには悪い予兆かもしれない｡ ベースモデルは1台｡
ただ､ 最初の例は運が悪かっただけかもしれないが､ それは次のビデオで明らかになるだろう｡