そして今回は､ このコースの大きなプロジェクトに対してコーディングする初めての機会だ｡
Jupyter Labへようこそ｡
ビッグプロジェクトに乗り出す第6週のフォルダへようこそ｡
というわけで､ 私たちのプロジェクトは､ 商品の説明に基づいて､ その商品の値段を推定できるモデルを構築することである｡
そして今日は､ データ・キュレーションの最初のステップを行う｡
まずは､ 家電製品､ 洗濯機などのデータの一部を見てみよう｡
それではまず､ データセットそのものをお見せしよう｡
データセットはこちらのリンクにある｡
これはHugging Face hubのHugging Face datasetsセクションにあるデータセットです｡
アマゾンのレビューをスクレイピングしたもので､ 過去にさかのぼります｡
しかし､ 20日に行われたこの最新のスクレイプは､ 2023年後半に行われたものだった｡
ええと､ 膨大な数のレビューが含まれていますが､ ほぼ5000万件の商品も含まれています｡
だから､ いろいろな製品があり､ それぞれのカテゴリーに分かれている｡
これらすべてを扱うつもりはない｡
この練習のために､ この中から最も興味のあるカテゴリーのサブセットを抜き出す｡
そうでないと､ トレーニングにものすごく時間がかかるし､ 面白くない｡
これで､ 私たちが扱っているデータの種類をご理解いただけると思います｡
データセットがメタデータと呼んでいる､ 商品､
説明､ 価格そのもののデータだ｡
これだ｡
電子機器などのデータセットを見れば､ 5ギガバイト強のサイズであることがよくわかるだろう｡
つまり､ これらは大きなデータセットであり､ 有益な情報をたくさん持っていることになる｡
アップロードされたのは7カ月前だ｡
だから､ これはすべてごく最近のことなんだ｡
さあ､ 始めよう｡
まずは輸入品から｡
特に複雑なことはない｡
今のところはまだだ｡
まだまだ続くだろう｡
これから環境を整えるんだ｡
今日使うわけではない｡
ハグする顔を使うだけだ｡
ハグ顔にログイン｡
そして､ matplotlibがJupyterノートブックにチャートを表示できるようにする｡
そこで最初にすることは､ データセットをロードすることだ｡
これから行うのは､ データセットの名前､ アマゾンのレビューを指定することだ｡
まずは家電製品のカテゴリーから｡
冷蔵庫や洗濯機などのような家電製品は､ 最初にHugging faces
load data set機能を使って読み込みます｡
最初にこれを実行すると､ Huggingfaceのハブからダウンロードされる｡
これはすでに完成しており､ どれだけの電化製品があるか見てみることになる｡
そこには94,000台の家電製品がある｡
では､ そのうちの一人を見てみよう｡
データ・ポイントとデータ・セットを見てみよう｡
まず1つ目｡
なぜだ｡
見てみよう｡
というわけで､ こんな感じだ｡
たくさんの情報がある｡
しかし､ 特に特徴というものがあるのがわかるだろう｡
タイトルもついているし､ 他にもいくつか役に立つことが書いてある｡
そして特に､ タイトル､ 説明､ 特徴､ 詳細､ 価格を持っている｡
それぞれをプリントアウトして､ ざっと見てみよう｡
これがタイトルだ｡
これは製氷機のカウンタートップ｡
これは空虚な説明である｡
これがその詳細だ｡
そのため､ 多くの機能､ ここでの詳細､ そしてすぐに問題が見えてくる価格が特徴だ｡
この場合､ 値段は関係ない｡
だから､ すべての商品に値段がついているわけではないのは明らかだ｡
そして､ その説明はリストの形で表示されることに気づくだろう｡
つまり､ Aには特徴があるのに対して､ 詳細は辞書の形で提供される｡
しかし､ これは辞書ではない｡
JSONを含む文字列である｡
つまり､ これはテキストであり､ これを読み込むには､ それをロードしてAを使い､ JSONロード文字列ロードsを使って辞書に変換する必要がある｡
うーん､ わかった｡
次は別のデータを見てみよう｡
冷蔵庫のエッグホルダーのようだが､ 卵は10個まで入る｡
これも値段はない｡
そしてこの3本目も値段がない｡
真新しい乾燥機のドラムスライドだ｡
だからこの時点で､ 私たちは初めて心配することになるかもしれない｡
94,000台の家電製品がある｡
最初の3つは値段がない｡
では､ いくつに値段がついているのか見てみよう｡
そのための簡単な方法は､ データ・セットのすべてのデータ・ポイントを繰り返し処理することだ｡
そして､ その対価を得る｡
それをトライブロックに入れる｡
なぜなら､ もしそれがなければ､ 失敗してそのデータポイントをスキップしてしまうからだ｡
だから､ 価格がゼロのものも無視する｡
だから私たちは､ 価格が数字になっているものだけを見ることにしている｡
そして､ その価格がゼロでないことはゼロ以上である｡
マイナス価格があるとは思わないが､ もしあったとしてもカウントされないだろう｡
だから､ これはこれから調べて､ それを見つけ出そうとしているんだ｡
さあ､ 行こう｡
つまり､ 726人で､ ほぼ50％ということになる｡
だからひどくはない｡
それでいい､ それでいい｡
一瞬､ 収穫が少ないのではと心配になるかもしれないが､ 少なくとも電化製品に関してはそうではない｡
ええと､ ええと､ データセットで､ 半分が価格を持っている｡
小さなサイドポイントだ｡
私がいつから数字を印刷しているのか､ お気づきになっただろうか｡
一般的に､ コンマで数千を区切っている｡
その方法は､ Pythonのf文字列を使う場合､ 次のようにコロン・コンマと言う｡
そうすれば､ このスタイルで数字が表示されます｡
ちょっとホットな情報を｡
ええと､ すでにご存じかもしれないが､ そうでなければ､ 知っておくと便利なことだ｡
オーケー｡
だから､ これからやることは､ 値段がついているものをすべて取り上げるということだ｡
そして､ タイトル､ 説明､ 特徴､ 詳細の文字数を調べます｡
文字数を合計して､ 長さのリストにするんだ｡
だから､ 私たちが今持っているのは価格と長さのリストであり､ 私たちがどれだけの詳細な文字数を持っているかを把握し､
それが均一なものなのか､ それとも何らかの形で偏っているものなのかを確認することができる｡
では､ これからよく使うmatplotlibを使って､ 長さをヒストグラムの形でプロットしてみよう｡
ヒストグラムは基本的に､ すべてのものをバケツに入れて各ビンにいくつ入っているかを示すものだ｡
それがどんなものかをお見せするのは簡単だ｡
こんな感じだ｡
つまり､ X軸に沿って､ さまざまな家電製品､ さまざまな洗濯機などの長さを､
その説明文の文字数で表している｡
そしてこれは､ それだけのキャラクターを持つ電化製品がいくつあるかという数である｡
そして､ このあたりにピークがあるのがわかるだろう｡
というのも､ 最終的には自分たちのオープンソースモデルを使ってトレーニングしたいからだ｡
そして､ 理解することが非常に重要な制約の1つは､ 各ポイントでモデルに渡す可能性のある最大文字数､
つまり最大トークン数です｡
そして､ 各トレーニングポイントに渡す必要があるトークンの数が多ければ多いほど､ トレーニングに必要なメモリが増え､
達成するのが難しくなる｡
もう一つのポイントは､ フロンティア・モデルを使う場合でも､
そのような問題はないものの､ 別の問題があるということです｡
しかし､ これを怒りにまかせて多数の製品で行おうとすれば､ 数字がどんどん増えていくことになる｡
だから理想的なのは､ カットオフを決めて､ その時点でデータを制約することだ｡
それは後で考えることにしよう｡
もうひとつ注目すべきは､ 価格の分布だ｡
では､ いくらかかるのか？
家電製品は冷蔵庫や洗濯機などでいっぱいになると思っていたのに､ 私たちが見たものはむしろ小さかったということは､
先の分析でお分かりいただけたかもしれない｡
エッグホルダーや製氷機などである｡ 考えてみれば､ データにはおそらく､
高価格帯の商品を押しのけるような安価なものが非常に多く含まれるはずで､
それほど驚くことではない｡
では､ それを見てみよう｡
どう見えるか見てみよう｡
まあ､ それは事実のようだ｡
つまり､ このデータセットの平均価格は6ドルということになる｡
最高額は21,000ドル｡
このリストの中には21,000ドルの家電製品もあるが､ それ以下の価格のものも非常に多いことがわかるだろう｡
そして､ 平均値､ 中央値､ 最頻値の違いを覚えている人のために｡
学校の統計学で習ったことだが､ これは平均値が高価なものによって引き上げられ､
最頻値や中央値よりも明らかに大きくなるといういい例だ｡
そうですね､ 確かに､ 安い商品が非常に多いという偏った分布になっていますね｡
トレーニングの間､ トレーニングデータが低価格のアイテムに埋もれてしまうからだ｡
この超高価なものが何なのか､ ちょっと見てみよう｡
この2万1,000ドルの品だ｡
データセットを調べて､ 21,000ドル以上するものは何でも抜き出す｡
どうやらターボチェフ弾のようだ｡
ラピッド・クック電気電子レンジ・コンベクション・オーブン｡
今､ もし誰かが私にそのような説明をしたとしたら､ それが21,000ドルもするとは思わなかっただろう｡
同じものではないが､ おそらく今アマゾンで最新版だと思われるものを見つけた｡
これもターボシェフ製だ｡
21,000ドルどころか､ わずか18,000ドルのバーゲンプライスだ｡
でも､ 私はあなたのことを知らない｡
電子レンジがこんなに高いとは知らなかったが､ 明らかにプロ仕様の電子レンジで､
非常に高級な電子レンジだ｡
その2万1,000ドルバージョンは､ 私たちのデータでは､ こちらのどこかにある｡
次のビデオでは､ それをやってみよう｡