というわけで､ これがデータセット・キュレーションに関する最後のビデオとなる｡
データセットのキュレーションにうんざりしていたのだろう｡
さあ､ あと1枚で完成だ｡
だから我々は､ 誇るべき優れたデータセットを作り上げたのだ｡
では､ 最終チェックをしてみよう｡
あの､ ひとつ質問していいですか？
まあ､ とにかく聞いてみるよ｡
商品の価格が関係している可能性はありますか？
これは､ そのアイテムの説明文の長さに相関している｡
高価格のものほど情報量が多いという状況を想像するかもしれない｡
そして､ それは私たちが理解する価値のあることだろう｡
ああ､ それはモデルがすぐに学ぶことだからね｡
そして､ 伝統的なアプローチに目を向けることで､ 私たちがどのようなアプローチを取るべきか､ おそらく良い感覚を与えてくれる｡
これは､ X軸の各サイズを示す､ 小さな散布図だ｡
説明文の長さが表示され､ Y軸には価格が表示される｡
では､ 全サンプルのデータを見てみよう｡
それでは､ どうぞ｡
ここに素敵な写真がある｡
だから､ この写真には40万点がある｡
そして､ それは見るべきものだ｡
消化すべきことがたくさんあるのがわかるだろう｡
このような境界点では価格が高くなる傾向があるため､ このような興味深いパターンが起きていることがわかる｡
799ドルの商品､ うーん､ もちろん､ もっと安い商品もたくさんあることはお分かりいただけるだろう｡
そして､ 説明文が長い商品ほど､ 高価な商品である傾向があることがわかる｡
しかし､ その点で有意な相関関係があるかどうかは明らかではない｡
だから､ 何かはあるんだけど､ 大したことではないんだ｡
そのため､ 従来の機械学習では､ このようなことを調べようとしても､ おそらく大きな相関関係は見いだせないと思われる｡
つまり､ データのさまざまな側面を理解するために思いつく図の一例です｡
もうひとつ､ トークンについてもう少し話したい｡
オープンソースのモデルに対して実際にトレーニングするようになったら､ トークンをもっとたくさん使うことになるだろうが､
今はトークンに注目する価値がある｡
そこで､ この関数レポートを書きました｡ この関数は､ アイテムを受け取り､ プロンプトを､ まず､ トレーニング中に使用される完全なトレーニングプロンプトを表示します｡
そして､ そのプロンプトの最後の10個のトークンをデコードする｡
つまり､ 最後の10個のトークンに対応するテキストの断片を見ることになる｡
そして､ なぜ最後の10人なのか不思議に思っているのなら､ すぐにわかるだろう｡
では､ 4万番というランダムな数字を選んで実行してみよう｡
オーケー｡
というわけで､ こんな文章で申し訳ない｡
このプロンプトは､ LLMに送られて学ぶことになる｡
ええと､ これは1ドル単位でいくらですかと聞かれそうですね｡
そして､ それが説明文になる｡
そして価格は､ そしてこれは1ドル未満を四捨五入した価格である｡
項目コードを見ればわかるが､ トレーニングのプロンプトを作成する際､ 1ドル未満を四捨五入している｡
最後の10個のトークンを見れば､ 何が起こっているかがわかるだろう｡
その10トークンとは何ですか？
そして､ 最後の数トークンに関して､ 価格が1つのトークンにマップされることを示したかった｡
それは､ 単語の開始で再びドルになる前に､ 単語の開始スペースのトークンを取得することである｡
そしてこれは､ 私が言うように､ llamaトークナイザーの機能なのだ｡
GPTと同様､ 3桁の数字ごとに個別のトークンがある｡
他のトークナイザーにはないものもある｡
僕らのプロジェクトには必要ないことだけど､ 後々のことを考えると少しシンプルになる｡
そして､ その期間はトークンを1つ獲得し､ . 00はトークンを1つ獲得する｡
別のサンプルをやってみよう｡
全く別の､ あー､ 全く別の場所で何かやろう｡
万人｡
そして､ これはむしろ安いものだ｡
価格は9000ドル｡
データセットの最後に近い398,000を選んでみよう｡
そして､ これは......コイルオーバー・ダンパー・キット｡
そしてこの価格は765ドル｡
そして､ 765が1つのトークンにマッピングされていることがもう一度わかるだろう｡
というわけで､ このサンプルはもちろん一番安いものから順に並んでいる｡
だから､ 1ドル単位で四捨五入した｡
これは､ サンプルの下位､ つまりウムな部分で最も安く､ サンプルの上位で最も高い順にソートされている｡
そして､ ここに書いてあるように､ 1から999までのすべての数字が1つのトークンにマッピングされている､ という効果が得られていることを自分で納得できるだろう｡
そしてもう1度言いますが､ 量､ ガンマ､ ファイの3つのトークナイザーを見れば､ そうではないことがわかるでしょう｡
うーん､ これは後でちょっと便利なんだけど､ 必須じゃないし､ 絶対に後回しなんだ｡
クァンタム・ジェミニ・スリーのような他のモデルを使って実験したい場合は､ 単に入れ替えるだけで機能する｡
ここでは､ 3桁の数字に対応する1つのトークンではなく､ 複数のトークンにマッピングされることがわかるだろう｡
よし､ ほっと一息だ｡
私たちはデータ・キュレーションを通してそれを成し遂げてきた｡
最後の仕上げは､ ハブにアップロードすることだ｡
まずはデータセットをシャッフルしてみよう｡ 安い順に並べ替えたのではまったく意味がない｡
まず､ ごちゃごちゃしたデータセットが必要だ｡
まず最初に､ ランダムシードを設定します｡ これは､ 常にまったく同じデータセットで作業していることを確認したいからで､
私が行うのとまったく同じことを再現して､ 同じ結果を得ることができます｡
私たちはランダムを使っている｡ shuffleでシャッフルして､ 最初の40万件をトレーニング・データセットとする｡
そして次の2000をテストセットとする｡
今､ 聞いたよ｡
データサイエンティストたちよ｡
これは通常､ 少なくとも5％か10％のテストデータセットを必要とする｡
8000ものデータがあるんだから｡
もちろん､ より大きなデータセットを得るためにサンプルを増やすこともできる｡
テストに使うのは数百本程度だろうから､ 必要ないだろう｡
そうすることで､ 非常に正確な結果が得られる｡
そして､ より多くの相手とテストを続ければ､ 収穫は減っていく｡
このプロジェクトの目的にはこれで十分だが､ ベストプラクティスである｡
ベストプラクティスかどうかは分からない｡
少なくとも5％はテスト用データセットとして確保するのが一般的で､ 前にお話ししたように､
テスト用と検証用に分けて5％を確保することもある｡
この目的には必要ないが､ 望むのであれば､ 追加データセットとして管理することもできる｡
うーん､ でもとにかく､ そうしよう｡
それをごちゃ混ぜにする｡
400,000のトレーニングデータセットと､ 2000のテストセットに分かれている｡
最初のテスト要素を見てみよう｡
あなたが覚えているテストのプロンプトは､ 答えを明らかにしないプロンプトです｡
まずトレーニングのプロンプトを見て､ 次にテストのプロンプトを見ます｡
トレーニングプロンプトは答えを持っているものだ｡
だから､ トレーニングのプロンプトには､ 1ドル単位でいくらと書いてある｡
デルファイ製の燃料ポンプモジュールだ｡
うーん､ そうだね｡
どうだろう｡
227ドルである｡
私だったら､ そんなことはまったくわからなかっただろう｡
つまり､ これはトレーニングの一環としてLMに送られるものの例である｡
では､ テストプロンプトを見てみよう｡
今､ テストプロンプトは､ 説明文はあるが値段はない､ 使用されるものを見せようとしている｡
これがテストセットの最初の項目だ｡
そうだ｡
最初の250のテストポイントの価格分布を見てみましょう｡
そして､ ここにはさまざまな価格の健康的な広がりがあるのがわかるだろう｡
高価なものを扱えるモデルかどうかが試されるようなものが､ 高いエリアにはたくさんある｡
そして､ 私たちのテスト・データ・セットでは､ 価格のバラエティーに富んでいる｡
さて､ 最後に､ これを一連のトレーニング・プロンプトとテスト・プロンプトに変えますが､ これは､
先ほど見たプロンプトとテスト・プロンプトを､ 価格とともに抜き出すだけです｡
この小さなコードが､ ハグする顔にアップロードする｡
データセットのFromdictを呼び出し､ それをデータセットのdictに入れることで､ 抱きつき顔ハブに適したデータセットオブジェクトに変える｡
そして最後に､ この行があなたのデータセットをハギング・フェイス・ハブにアップロードし､ あなたがそれを引き続き使用したり､
将来ダウンロードできるようにします｡
でも､ もう走ったから走らせるつもりはないよ｡
そして､ これはあなたのユーザー名を入れるためのものです｡
これは僕のユーザーネームにアップロードしてあるんだ｡
だから､ その方法でデータを取り出すこともできる｡
もし､ このデータキュレーションをすべてショートカットしたいのであれば､ できればそうしたくないだろう｡
そして最後に､ この列車をピックルファイルにして､ コレクションをテストします｡
このリストをピクルスにしてファイルに保存しておくと､
将来のために読み込むことができる｡
Pythonのピクルスに慣れている人なら､ Pythonのオブジェクトをファイルにダンプする超簡単な方法だ｡
これを実行すると､ test dot pickleとtrain dot pickleという2つの新しいファイルができ､
トレーニング・データとテスト・データが格納される｡
これでデータのキュレーション作業は完了した｡
データセットをもっと調査し､ 異なるデータ・ポイントをトークン化する練習をしたときに､
3桁の数字が常に1つのトークンにトークン化され､ それらのトークンの感覚を得ることができるかどうかを確認してください｡
それでは､ またスライドをご覧いただきながら､ 総括をしたいと思います｡