そして､ 6週目のフォルダーへようこそ｡
私たちは今､ データ・キュレーションの最終段階である2日目を迎えている｡
これからデータセットをもっと大きくしていくつもりだ｡
そして､ 私たちはそれを特別な､ あー､ ちょうどいいものに作り上げるんだ｡
トレーニングの目的としては､ まずインポートして環境を整え､ ハグフェイスにログインして準備をする｡
前回､ 私が書いたitemsというPythonモジュールの話をした｡
あなたはそれをよく覚えているし､ 願わくば､ あなた自身がこれを調べ､ それが機能する方法を確認するのに時間を費やしたことがあるだろう｡
私が作ったPythonモジュールには､
loadersと呼ばれるもっと短くてシンプルなものがある｡
Pythonのコンカレント・フューチャーズ・パッケージを使い､
複数のワーカーでこれを行う｡
あまり詳しく説明する必要はないだろう｡
いくつかお伝えしたいことがあるのですが､ それについてはまた､ 書いてあるとおりになっているとご自身を納得させてください｡
メインで呼ばれるメソッドはloadだ｡
そして労働者の数を渡すと､ デフォルトでは8人の労働者を想定している｡
私は8コアのMacBook Proで作業しているので､ 対応できる｡
私のマシンに大きな衝撃を与えている｡
そうしているうちに
同時に他のことをしないのであれば､ マシンのCPUをどれだけ捨てても構わないかにもよるが､
より少ない数のワーカーを渡した方がいいかもしれない｡
ええと､ では､ このロード・イン・パラレル方式は､ このプロセスを使うものですね｡
プール執行人｡
ご存知の方､ 使ったことがある方はわかると思うが､ これは基本的にいくつもの他の選手を生み出す｡
今､ ミスを見つけたんだけど､ "workers "と書くべきところを､ "8 workers "と書いてしまったんだ｡
そうでなければ､ 常に6本を使うことになる｡
そして､ 指定された数のワーカーを起動し､ 各データポイントを読み込みます｡
そして､ 私がやったことは､ ジェネレーターに慣れ親しんだジェネレーターを作っただけだということがお分かりいただけると思います｡
でも､ 私たちはジェネレーターを使って､ データセットを切り刻んでいるんだ｡
たまたまだが､ ここではチャンクサイズを1000に設定した｡
つまり､ 一度に1000のデータポイントだ｡
そのため､ 一度に1000点のデータセットに分割される｡
そして､ それぞれのチャンクが渡され､ 最終的には､ 前回作業したのと同じアイテム・クラスを使って新しいデータ・ポイントを作成する｡
だから､ ここに本当のマジックはない｡
これは､ 効率的な方法で商品を積み込むための､ ちょっと凝った包装に過ぎない｡
一度に1000人､ 8人の作業員に分散している｡
しかし､ このコードを見直す価値はあると言っておく｡ なぜなら､ この種のプロジェクトではよくやりがちなことだからだ｡
箱は重くなるし､ 複数の作業員に分担するのに適した作業内容であることが多いからだ｡
そして､ このコードはかなり再利用できるはずだ｡
読みやすく､ 再利用しやすいように書いたつもりなので､ ぜひそうしてほしい｡
それと､ もうひとつ､ ちょっとしたトリックがあるんだ｡
申し訳ない｡
もうひとつ､ えーと､ えーと､ 結果に影響する決定がなされた｡
ええと､ 0ドルの間の商品だけを選ぶことにしました｡ 50ドルと999ドルと0ドル｡
49.
だから､ その範囲の価格のものに限定するつもりだ｡
そうした理由はいろいろある｡
ええと､ ひとつは､ その数字よりはるかに大きいものを取ると､ 結果が歪んでしまうということです｡
ごくわずかなことだが､ 大きな代償を伴うことがあり､ それが我々のテストパフォーマンスのようなものを完全に台無しにしてしまうことがある｡
たまたま莫大な値段のものを選んでしまった場合､ 少しずれただけで誤差が大きくなってしまう｡
また､ 絶対誤差を使用したいので､ 推奨価格と実際の価格との差だけである｡
価格が妥当な範囲に保たれていれば､ そのモデルがどのようなパフォーマンスをしているのかをきちんと把握することができる｡
だから基本的に､ このプロジェクトの範囲､ 我々がやろうとしていることについては､ 1,000ドル以下のものについて話すつもりだと言っているんだ｡
それが私たちのスコープとなり､ データセットに集中することができる｡
また､ 境界線を変えてやってみたり､ より大きな範囲を試してみたりして､ 様子を見ることもできる｡
しかし､ 私はこれが最も扱いやすく､ 全体的に良い結果をもたらすと感じた｡
それがここで起こっていることだ｡
じゃあ､ これを保存して､ 今日の話に戻ろうか｡
ちょっとバグを修正したので､ カーネルを再起動してもう一度実行します｡
インポートを実行し､ 再びHuggingfaceにログインする｡
そして今度は､ 前と同じように家電製品のデータセットをロードする｡
前回､ 家電製品のデータセットをすべて読み込むのに約1分かかったが､
今回は0分だ｡ 2分｡
だから､ むしろ分解した方が早いんだ｡
8人の作業員が私のコンピューターを叩いている｡
だから､ あなたにもそうすることを勧める｡
しかし､ 工程数が少なければ､ 明らかにここでパスする労働者は4人以下になる｡
これが家電製品のデータセットだ｡
28,625のデータポイントがあり､ その範囲内で価格が設定されている｡
ええと､ それらはすべてロードされています｡
最初は何だったか覚えている？
またやってしまった｡
前回もそうだった｡
これでよし｡
これを試してみてほしい｡
そして､ これだ｡
ラック､ ローラー､ スタッドのアッセンブリーキットです｡
そのプロンプトを印刷してみよう｡
そして､ 願わくば､ そのような不格好な部品番号がフィルターにかけられたものであることをもう一度納得させたい｡
そうだ｡
そしてこれが､ やはり食器洗い機のトップラックリールとスタッド組み立てキットだ｡
そしてこれがドアピボットブロック｡
いつもそれを必要としていた｡
ああ､ そうだ｡
ええと､ ここにデータがあります｡
うーん､ これからは規模を拡大し､ もっと大きな問題に着手する時期になるだろう｡
我々はアマゾンからこれらのデータセットをすべて持ち込むつもりだ｡
商品価格データセットのリポジトリです｡
これらは､ 大きなホームセンターで売っているような､ かなり似たような種類のものを選んだ｡
つまり､ 服や美容品､ 本､ ソフトウェアといったものを除けば､ アマゾンにあるものならほとんど何でも手に入るということだ｡
だから､ 似たようなものだと感じたのは全部そうなんだ｡
うーん､ それは本当に良い包括的なデータセットになるだろうね｡
これがそのデータセットだ｡
そしてもちろん､ もしあなたがこれをフォローしながらやっているのであれば､ もしあなたがこれをやっているときにこれをやっているのであれば､
これをやっているときにこれをやっているのであれば､ これで遊ぶことができますし､ 別のデータセットを選ぶこともできます｡
お望みなら
洋服のためにこれをやって､ そのパフォーマンスを見ることができるだろう｡
ええと､ もしあなたがデータサイズを気にしていて､ より速く物事を進めたいのであれば､ データを制限すればいい｡
家電製品のデータセットは､ その中でも最も小さいもののひとつだ｡
ええと､ エレクトロニクスはナイスで､ 真ん中に1つ｡
だから､ エレクトロニクスに集中すればいい｡
それでも､ とても楽しいし､ データセット全体を使った場合とほとんど同じようなパフォーマンス結果を得ることができる｡
これがすべてのデータセット名だ｡
そして今､ 私はアイテム・ローダーを使ってそれらを追いかけるために､ それらをすべて読むつもりだ｡
そして､ 一人ずつ読み込んでいく｡
最大のものは､ リストの最初にある自動車だ｡
私は大体､ 最初に一番大きなものを注文してきたと思う｡
というのも､ 最初にこれを実行するとき､ Huggingfaceからあなたのコンピューターにデータをダウンロードする必要があるからです｡
うーん､ でも､ そのせいでちょっと､ うーん､ 時間がかかるかもしれない｡
そして出発する｡
今､ 私のコンピューターにかかる時間は合計で20分ほどだ｡
ええと､ CPUがパンクしそうなので､ 一旦中断して､ データがすべて読み込まれた休憩の直後にまたお会いしましょう｡