お帰りなさい｡
もしあなたがJupyterLabで私についてきているのであれば､
コーヒー休憩のためにJupyterLabを立ち去る必要があるだろう｡
それがこれだ｡
自動車関連は最大で､ 90万を超えるデータポイントがあり､ オフィスもある｡
あ､ すみません､ エレクトロニクスは40万人以上です｡
だから合計すると
何があるのか見てみよう｡
合計で2人強だ｡ 800万データポイント｡
たくさんのデータだ｡
データが多すぎるんだ｡
私たちがやろうとしているようなトレーニングには､ そのような数字は必要ない｡
つまり､ このデータセットに磨きをかけ､ 我々にとって最も価値があり､ 最もシグナルを与えてくれるデータポイントを選択する機会があるということだ｡
ではまず､ トークンの数の分布をもう一度見てみよう｡
これは､ 次回オープンソースのラマ・モデルをうまく微調整できるようにするため､
またフロンティア・モデルを扱うときにコストを低く抑えるために､
特に達成しようとしたことです｡
もう一度価格を見てみよう｡
これは200万ドルほどの価格分布で､ 999ドル以下という制約があることがわかるだろう｡
つまり､ 1〜999の間です｡ これは､ トレーニングのすべてを歪めてしまうような異常値がなく､
管理しやすいデータセットにするために入れた制約です｡
しかし､ データセットが小さい数字に非常に偏っているという同じ問題があることがわかるだろう｡
そして､ 非常に細いトレイルがある｡
ええと､ これは300までです｡
だから､ 1000まで行って､ データセットの終わりまで行ってみよう｡
そうだ｡
あれを見ろ｡
これがそうだ｡
909に達するデータもある｡ 49だが､ ほとんど見えない｡
軸にはほとんど触れていない｡
ええと､ 80万人ほどのデータセットが低価格帯のものばかりだからです｡
ええと､ もうひとつ､ カテゴリーをざっと見てみましょう｡
この小さな棒グラフは､ 各カテゴリーのデータ数を示している｡
つまり､ ここでも自動車が90万人と圧倒している｡
続いて､ 工具とホームセンターが40万件､ エレクトロニクスが40万件と続く｡
というのも､ モデルが特定のカテゴリーの特定の価格についてより深く学ぶことに偏ってしまったり､
歪んでしまったりするのは避けたいからだ｡
それが世界の現実なのだから｡
しかし､ トレーニングの進歩を歪めたり､ 妨げたりするようなことはしたくない｡
それで､ これからやることは､ このデータセットのサンプルから､ 価格とカテゴリーをよりよく表現したより小さなデータセットを得るために､
いくつかの選択をすることだ｡
データセットのサイズは約40万点だ｡
それに､ 微調整のための大規模なデータセットであっても､ それほど大きくする必要はない｡
しかし､ 私は大きなジューシーなデータセットを持ちたかった｡
だから､ 40万ドルを目指した｡
その方法については､ また今度話そう｡
そこでまず､ スロットという辞書を作った｡
そして､ これが何なのかを教えよう｡
そうすれば､ 私がなぜこのようなことをしたのか､ よく理解してもらえるだろう｡
スロットは辞書であり､ 辞書のキーは商品の全ドル価格である｡
つまり､ 1ドルから9ドルだ｡ 99の1､ 2､ 3から999まで｡
この辞書には999個のキーがある｡
そしてその値は､ その価格を持つすべての商品､ すべてのアイテムのリストになる｡
つまり､ スロット辞書の2番スロットには､ 2ドルの商品がすべてリストアップされていることになる｡
そうして､ すべてをこれらのスロットに整理している｡
基本的にデータセットをバケット化しているんだ｡
うーん......それで納得できればいいんだけど
もちろん､ そうでなければこのコードを持ち出す｡
それを踏み越える｡
Defaultdictは､ 基本的に辞書で､ 辞書にないものがあれば､
自動的に初期化してくれる｡
コードにifテストのようなものを入れる必要がなくなる｡
だから､ エレガントで素敵なコードになる｡
さて､ ここでちょっと肉厚な機能を説明しよう｡
アミティ
Jupyterノートブック｡
細胞だ｡
ええと､ この枠をひとつひとつ見ていきます｡
999の各スロット｡
そして､ これらのスロットからデータのサブセットをサンプリングし､ トレーニングに使用する代表的なサンプルとするつもりだ｡
この後のヒストグラムに慣れるまで､ 任意で微調整した部分もある｡
だから､ 特別な理由があるわけではない｡
試行錯誤を繰り返し､ バランスの取れたデータセットに満足できるようになることだ｡
そしてもちろん､ それをトレーニングに回し､ こうすることでより質の高い結果が得られると自分自身を納得させる｡
それで､ 僕がやっているのは､ 各スロットを順番に見ていって､ 240ドル以上の価値があるものは､
単純にそのスロット全部を取ることにしているんだ｡
私はそれらの点をすべてサンプルに加える｡
うーん｡
それ以下の金額で｡
私は基本的に､ そのスロットから1200のアイテムをサンプリングするコードをここに持っている｡
その枠に数千の選手が入るかもしれない｡
私はそのスロットから1200を選ぶだけで､ choiceというnumpyのメソッドを使って､ スロットから特定の数字を選ぶことができる｡
そして､ チョイスのいいところのひとつは､ ウェイトと呼ばれるものを渡すことができることだ｡
そして......､ これがウェイトにとって驚きのない形でまとまることを願っている｡
私が言いたいのは､ 自動車に関係するものには1の重みを､ それ以外のものには5の重みを与えようということだ｡
繰り返しになるけど､ これは､ 出てくる数字に納得がいくまで､ いろいろな数字を使って遊んでみただけなんだ｡
そして､ 現実の世界で我々が持っているようなデータに忠実でありたいので､ あまりやり過ぎたくなかった｡
しかし､ 我々はデータセットの不均衡を補正したかった｡
だから､ 一行ずつ説明するつもりはない｡
そして､ 私の言うとおりになっていること､ そしてその結果が気に入っていることを確認してほしい｡
そしてもちろん､ データセットをもう少し違った形で作りたいのであれば､ これはチャンスである｡
また､ 私のモデルのパフォーマンスという点では､ あなたが私の結果を打ち負かすことも十分にあり得るし､
カテゴリの重み付けを変えたり､ スロットから別のものを選んだりした方がいいと思うかもしれない｡
だから､ 絶対に実験してみるべきだよ｡
でも､ 今はこれを実行した｡
現在､ サンプルリストが作成され､ そのサンプルには408,000のデータポイントがある｡
だから､ 僕らが目指していたのはそのくらいのサイズなんだ｡
では､ 価格の分布を見てみよう｡
そして､ 価格の分布という点では､ その方がずっと合理的に見える｡
まだ安いものもたくさんあるが､ 安い方ではどの価格帯でも一貫した数字だ｡
そして､ より高価格になるにつれて､ 高価格に伴うデータポイントの完全なまともなセットが存在する｡
いろいろなポイントがあることに気づくだろう｡
予想通り､ 399ドル､ 499ドルという値段のものは､ データ・ポイントの数という点で少し急増する｡
それが現実の世界を反映しているのだから｡
だから､ データセットの中にそれがあるのはいいことだ｡
それを潰したくはない｡
この価格のヒストグラムを､ 先ほどの価格のヒストグラムと比較すると､ データの価格分布が改善されていることがすぐにおわかりいただけると思います｡
これは明らかにもっと歪んでいるし､ 現実の世界も歪んでいる｡
うーん､ でも､ 高価格帯の商品の方がよく表現されている｡
そして､ 質の高い学習ができるようになり､ サンプルの検証も進むということだ｡
それで満足できないなら､ ぜひいくつかのデータセットを作ってほしい｡
そしてトレーニングに入ったら､ 両方を試して､ バランスの取れたデータセットがもたらす影響を見ることができる｡
カテゴリーももう一度見てみよう｡
これがカテゴリーだ｡
だから､ 実は大した違いはないんだ｡
少しずれている｡
少しバランスが良くなったよ｡
うーん､ これ以上訂正したくなかったのは､ 結局のところ､ これが現実の世界を多少なりとも反映していると感じたからだ｡
だから､ 過度に歪めたくはない｡
販売されている自動車関連製品の数は､ 他よりも多い｡
それで､ これで十分だと思われるが､ アンバランスな部分が少し修正された｡
おそらく､ 別の見方として円グラフを見ることができるだろう｡
一般的に言って､ 円グラフはデータサイエンティストに不人気であることが多い｡ なぜなら､
棒グラフの方が量を並べて見たり､ 非常に定量的に見たりするのに適しているからだ｡
しかし､ 円グラフは時として有用なビジュアルである｡
これはカテゴリー別の円グラフで､ これらの単語のいくつかを分離するために､ 私は明らかに少し仕事をしなければならないが､ あなたはアイデアを得るだろう｡
つまり､ 自動車が最大のシェアを占めてはいるのだが､ それが大量に支配しているわけではない､
ということだ｡
そして､ この2､ 3台が一緒になれば､ 明らかに自動車以上のものになる｡
だから､ まったく理にかなっている｡
そして､ このチビは家電製品だ｡
私たちが昨日始めたのは､ パイの中で1％､ 最も小さいものだった｡
この場合は文字通りだ｡
これが､ 私たちのデータセットだ｡
うーん､ ちょっと大変だったね｡
そして､ サンプリングのような､ いくつかの､ ええと､ もっと難しい部分については､ 私は目をつぶっていた｡
そして､ また戻ってきて､ それに目を通し､ 自分で評価し､ より良いデータセットを作る可能性があることを強く勧める｡
ええと､ ハブにアップロードする前に､ ようやく最後の分析ができるんだ｡
それはまた次のビデオで｡