それは､ おそらく他の部分ほど華やかではないが､
おそらく最も重要なものである｡
そして､ データを狩るために人々がデータを探しに行ける場所はたくさんある｡
でも､ 最初に､ 最初に行く場所｡
もちろん､ 何よりもまず､ あなたの会社が持っている独自のデータだ｡
それは願わくば､ あなたが解決しようとしている問題に直接関係するものであり､ あなたの微調整にとって極めて重要なものになるだろう｡
架空のラグ・プロジェクトの場合､ 私たちはそうした｡
私たちは会社の共有ドライブを持っていることにして､ ナレッジベースを構築するのに使った｡
これは私たちが独自データを探しに行った例だ｡
私のビジネスであるネビュラの場合､ 人材や仕事､ キャリアに関する情報があり､ それを使って独自のモデルを育成することができる｡
だから､ 自分の問題に特化した独自のデータセットを自社で見つけることが､ 最初のスタート地点になる｡
もちろん､ データサイエンティストにとって素晴らしいリソースであるKaggleもある｡
おそらく聞いたことも使ったこともあるだろう｡
そうでなければ､ 行って見てください｡
たくさんのデータがあるんだ｡
データというのは､ Kaggleに投稿された長い期間に渡るものです｡
そしてもちろん､ ハグする顔もある｡
僕らにとっては素晴らしい情報源だよ｡
そして､ ハグする顔をすぐに使うことになる｡
合成データもある｡
ラグ・プロジェクトでは､ 実際の会社の共有ドライブは使いませんでした｡
我々はLLMを使って合成データを作成したが､ それも選択肢の一つだ｡
もちろん､ 長所も短所もある｡
フロンティアモデルを使って実際にデータから学習しようとするのであれば､ フロンティアモデルにデータを生成させ､ そこから学習させるのは意味がないかもしれない｡
しかし､ 独自のモデルを構築しようとしている､ あるいはフロンティアモデルからシードを得て､
より安価なモデルを構築しようとしているのであれば､ フロントエンドモデルを使ってデータを生成し､
そのデータを使って､ より小さく､ より安価で､ より軽量なモデルを学習させることができる｡
つまり､ 合成データが意味を持つさまざまな状況だ｡
そして､ あなたのためにデータセットをキュレートしてくれる専門会社があることもお伝えしておこう｡
実はこの会社､ 以前､ あるリーダーボードを見ていたときに出会ったのだが､
そのリーダーボードはsealと呼ばれるもので､ scaleという会社が作成したLLMS用のビジネス別リーダーボードだった｡
そして､ スケールはあなたの問題に対して､ 精巧なデータセットを構築することに特化している｡
だから､ そこも行くべき場所だ｡
私たちの場合は､ データの宝庫であるHugging Faceを利用する｡ Hugging Faceには､ この特定のデータセットを含め､
コミュニティから提供された多くのデータが含まれている｡
長年にわたるアマゾンのレビューをかき集める｡
それは莫大なものだ｡
実に膨大なデータセットだ｡
また､ レビューだけでなく､ 商品の説明や価格など､ 商品に関連するメタデータも持っている｡
そしてもちろん､ それこそが私たちが求めているもの､ 商品説明と価格なのだ｡
そして､ このデータセットにはそれが大量に含まれている｡
だから僕らにとっては完璧なんだ｡
ここが私たちが向かう場所だ｡
では､ どうやってデータを掘り下げていくのか｡
どのようなステップを踏むのですか？
今日はこの作業の一部を行い､ 明日はその一部を洗練させるつもりだ｡
でも､ データに深く入り込むには､ おそらく6つの異なる段階がある｡
まず第一に､ 調査をしている時に､ データを理解するために､ どのようなフィールドを持つべきか？
データはどの程度蓄積されているのか？
データ品質にはどのような問題がありますか？
それから､ 少なくとも私が好きなアプローチ方法は､ データを解析して扱いやすい構造にすることだ｡
つまり､ 生のデータセットを扱うことはもうないんだ｡
その時点では､ 一般的にモノを使って仕事をしている｡
ビジュアル化することは素晴らしいことだ｡
あなたの価値観の中には､ 例えば商品の価格について考えているとき､ 価格の幅はどれくらいですか？
分布が何らかの形で偏っているものが多いことが判明したのだろうか｡
だから､ それを視覚化することで､ 本当に良い感覚を得ることができる｡
今度はデータの質をより深く評価する｡
データにどのような制限があるかを理解する｡
そしてキュレーションとは､ このデータセットをどのように作るかを決めることです｡
例えば､ データの4分の1が何らかの形でデータ品質が低いことが判明した場合､ そのデータを完全に除外することもできる｡
十分に大きなサンプルを持っているので､ 4分の3に集中できると思うかもしれない｡
データセットのバランスが非常に悪いことがわかり､ トレーニングの一環として､
モデルがデータの特定のバランスしか学習しないことを懸念しているのであれば､ この機会にそのバランスに対処する可能性がある｡
つまりキュレーションとは､ トレーニングに最適なデータセットを作成し､ それを保存することなのだ｡
我々の場合は､ Huggingfaceのハブにアップロードする｡
これがトレーニングに入る前の最終段階だ｡
というわけで､ 新しいプロジェクトで初めてJupyterLabに向かい､
データのキュレーションに取りかかろう｡
そこで会おう