今日はこれで終わり｡
2. ノート1冊
私があなたのために何もしないとは言わせない｡
おわかりのように､ 私はあなたの喜びのために､ この作品に思い切って挑戦した｡
ええと､ もう一度言いますが､ これからデータストアを可視化します｡
そのために､ いくつかの輸入をするんだ｡
そしてここに､ ベクトルの可視化で表示したいデータポイントの最大数を選択するセルがある｡
そして私のお勧めは､ 安全な数字である1万本にこだわることだ｡
美しい画像が得られ､ マシンが停止することもない｡
でも､ それでは面白くないだろう｡
そして､ 40万点のデータをすべて表示させるとどのようになるかをお見せしたかったのですが､ 不安定で､ 私のマシンはいつクラッシュするかわからない非常に危険な状態に置かれています｡
そして実際､ この準備のために何度かマシンがクラッシュし､ このJupyterノートブックからやり直さなければならなかった｡
コードでは､ ベクター・データベースに接続する｡
ラグ・ウィークですでにやったことと本質的に重複するコードがいくつかある｡
ベクターデータを収集し､ オブジェクト自体､ ドキュメント､ メタデータにあるカテゴリーを保存し､
異なるポイントを識別できるような適切な色を選択するために､ いくつかの事前作業を行いました｡
そして､ これをお見せするときに覚えておいていただきたいのは､ ベクトル化のプロセス､ つまりそれぞれの文書にどのベクトルを使うかを決めるプロセスは､
純粋に文書そのものの記述に基づいているということだ｡
各商品説明に含まれる文言に基づいて､ 40万件すべての商品説明を引き出したにすぎない｡
どれが家電製品で､ どれが自動車で､ どれが電子機器なのか､ 私たちはたまたま知っているのだ｡
ベクトルを構築するモデルには､ テキストが与えられるだけであることは知らされない｡
だから､ 色付けしてくれるのは助かる｡
分かった｡
これはすべてのベクターの風景である｡
トレンドはあるのか｡
このモデルによって､ 言葉だけで､ そこにあるさまざまな種類のものを分けることができたことがわかるだろうか？
しかし､ この種のこと､ このカテゴリーは､ ベクトル化されたテキストの一部ではなかった｡
オーケー｡
とにかく､ これでt-SNEによる次元削減処理が完了した｡
ええと､ 40万人なら､ 1万人なら5分かそこらになるはずだ｡
そして､ 散布図を作成することができる｡
そして､ この散布図を描けばいい｡
では､ その様子をお見せしよう｡
そして､ 私のマシンではこれを実行するのが超遅い｡
しかし､ このかなり美しいものは､ すべてのベクトルを見た結果なのだ｡
ええと､ 少し縮めてみます｡
マシンの動作が非常に遅い｡
あー､ でも､ 40万個のベクトルすべてからベクトル空間の感覚を得ることができる｡
さあ､ 始めよう｡
今､ 見えてきたところだ｡
そして重要なのは､ そのことだ｡
そうだね｡
あ､ そうだ｡
苦しいほど遅い｡
そうだね｡
異なる製品は､ ほとんどの場合､ 異なるテリトリー､ ベクトル空間､ いくつかのクラスタは､
ええと､ 互いに近くにあるように見える｡
そして､ この数字が小さければ､ いろいろなものを調査して､
それが別の領域にある可能性があるのは､ おそらく電化製品と電子機器の両方にまたがる製品だからだろう､
などと納得することができる｡
つまり､ これはデータを見て､ それを調査し､ 理解し､ 文書に関連するベクトルを作成し､
それを保存することの意味をもう少し直感的に理解するための機会なのだ｡
そうすることで､ 手に取るように実感できるんだ｡
そして､ この画像を楽しんでもらえればと思うし､ 私の箱を壊しかけた甲斐があったと思っている｡
そして願わくば､ もっと小さな数字でやってほしい｡
また次回､ 3Dでお会いしましょう｡