そして今､ データセットをキュレーションする時が来た｡
ハグした顔から得たデータ・ポイントを､ Pythonのオブジェクト､
itemというクラスに変換します｡
とても重要なことなので､ 実は別のモジュール項目を設定したんだ｡ このクラスはJupyterノートブックではなく､
独自のモジュールにPythonのコードとして書いた｡
その中には､ データをきれいにするために､ データを分解するための面倒なコードが含まれている｡
でも､ もっと詳しく見て､ もう少し詳しく理解するための練習があるんだ｡
だから､ 独自のモジュール項目になっているんだ｡ pyで､ クラス項目を定義しています｡
そして､ それを始める前に､ ベースモデルという定数をラマ3に設定することから始めることを指摘しておく｡
180億バリアントのベースモデル｡
今､ 私たちがやっていることとラマ・モデルがいったい何の関係があるのか､ と言われるかもしれない｡
オープンソースに進むのは来週だ｡
今週は､ 微調整のためのフロンティアモデルの使い方についてだ｡
その答えはこうだ｡
llamaトークナイザーの最大トークン数として､ ある一定のトークン数に収まるようにデータセットを作成します｡
なぜそうするかというと､ オープンソースのモデルを使うことになったときに､ より安く､
より簡単にトレーニングできるからだ｡
また､ フロンティア・モデルを使用することで安くなる｡
だから､ プロンプトを作成し､ それを一定のトークン数に固定するとき､ フロンティアモデルとオープンソースモデルの両方が同じ量の情報を得られるようにしたい｡
もっと予算があり､ もっと大きなGPUで訓練したり､ フロンティアモデルでもっと予算があれば､ カットオフの幅を広げて､
もっともっと大量のテキストを扱えるようになる｡
でも､ それぞれのデータにはたくさんのテキストがあるはずだ｡
だから､ フロンティア・モデルとオープンソース・モデルのトレーニングはこれで十分なのだ｡
とにかく､ これがllamaモデルを見ている理由だ｡ 文字数が正しいかどうかをチェックするときに､
このモデルのトークナイザーを使うことになるからだ｡
各アイテムには､ タイトル､ 価格､ カテゴリー（家電製品など）､
トークン数（トークンの数）が設定されます｡
そして最も重要なのは､ LLMに入力されるテキストとなるプロンプトだ｡
つまり､ ごく簡単に言うと､ このコードに目を通し､ 私は何も悪いことはしていない､
これはすべて､ 健全な家事と文字列の掃除に過ぎない､ と納得することだ｡
スクラブ・ディテールという機能があって､ モデルにとって邪魔になりそうなものをテキストから削除するんだ｡
バッテリーが含まれているようなものだ｡
それから､ この中にある "メーカー "という言葉｡
そのため､ 関連性がない､ または関連性が大きくないものがたくさんあり､ そこにあることで貴重なトークンを消費するよりは､
取り除いたほうがいいと思った｡
スクラブという方法があって､ 変な文字を一掃してくれるし､ 正規表現忍者のために正規表現を使って複数のスペースを1つのスペースに変換してくれる｡
あなたにとっては簡単なことでしょう｡
また､ このスクリプトを再利用することで､ 文字列のさまざまな問題を取り除くことができる｡
また､ Jupyterノートブックでこれをテストして､ 書いてあるとおりに動いていることを確認することもできる｡
というのも､ この行は､ 私たちの特別なケースに役立つちょっとしたトリックを入れただけだからだ｡
アマゾンの商品説明に品番を引用しているものが多いことに気づいた｡
だから彼らは､ これは部品番号と互換性があると言うんだ｡
そして､ これらの部品番号は多くの場合､ 8桁､ 8文字以上で､ 文字と数字を含んでいる｡
トークンに変換されるときに､ トークンをたくさん使ってしまうという問題がある｡
そうすると､ トークンの無制限な容量を､ 私たちのモデルにはまったく関係のない部品番号を表すトークンでいっぱいにしてしまうことになる｡
つまり､ この行は､ 8文字以上で数字を含む単語があれば､ その単語をスクラップする､
というものだ｡
気が散るだろうね｡
このことを強調したのは､ やはり､ データを掘り下げて初めてこのような発見に出くわすということを示すためです｡
たくさんの例を見て､ こういうことが起こっていることを知った｡
これを試す瞬間がある｡
そしてモデルを再実行すると､ ここ数週間で1度か2度やったことがあると思うが､
データがよりリッチになり､ より正確になっているため､ 改善されていることに気づく｡
だから､ それはプロセスの重要な部分なんだ｡
そして､ データ・ポイントを受け取り､ さまざまなスクラブやストリッピングを行い､ 最終的にプロンプトに変換するparseメソッドを使用する｡
そしてプロンプトとともに､ そのプロンプトに含まれるトークンの数をカウントする｡
すぐにプロンプトが表示されます｡
しかし､ プロンプトはLLMに合格するためのものであり､ それを完成させることが求められる｡
そして､ これにはいくらかかるんだ？
その代償は大きい｡
プロンプトを見る機能もあるだろう｡
また､ テストプロンプトと呼ばれるものもあり､ これはプロンプトと同じものだが､
答えは明らかにされない｡
このプロンプトはトレーニング中に使用され､ そこには答えが書かれている｡
そのため､ トレーニングの間に､ モデルはテスト時に答えを予測する能力がどんどん向上していく｡
答えは見せたくない｡
テキストを与えて､ それが正しい答えを導き出すかどうかを確かめたい｡
トレーニングのプロンプトとテストのプロンプト｡
後で､ データをトレーニングセットとテストセットに分けることについて話すつもりだ｡
もっと見ることができるだろう｡
後でもっとはっきりする｡
これがアイテム・クラスだ｡
そして､ もっとこの記事に目を通すことをお勧めする｡
しかし､ 恐れることはない｡ 私たちは､ これらのアイテムと多くの時間を過ごし､ それらを眺めることになるのだ｡
それで､ この機能が何をするものなのか､ よく理解できるだろう｡
さて､ ここに戻って､ これから行うのは､ データセットの中の価格を持つすべてのものに対して､ これらのアイテム・オブジェクトを1つ作成することだ｡
では､ 今すぐ実行してみよう｡
つまり､ これはそのコードの中を走っているのだ｡
それはゴシゴシ洗うことだ｡
部品番号のようなものを削除しているんだ｡
変な文字をスペースに置き換えている｡
そして､ プロンプトを作成し､ そのプロンプトが適切な数のトークンに収まるようにするのだ｡
つまり､ そのすべてが今起きていることであり､ 4万台以上の家電製品､ つまり価格のある家電製品に対してそれを行うことになる｡
だから､ もうそろそろ終わるはずだ｡
それを終えている間に､ 私は私たちに見てもらうための準備をする｡
終わったよ｡
これでよし｡
では､ その中の最初の1枚を見てみよう｡
そこで最初に紹介するのが､ ラックローラーとスタッドのアッセンブリーキットだ｡
アミ・パーツのフルパックは､ ブラブラブラに代わる｡
これが商品のタイトルで､ これが9ドルの値段だ｡
そして､ そのことはアイテムのタイトルにも記されている｡
こういう部品番号､ こういう長い部品番号がある｡
もうひとつ見てみよう｡
その中の最初の項目を見てみよう｡
繰り返すが､ 最初の項目はこうだ｡
ドアピボットブロック対応｡
ケンモア・キッチンエイド
メイタグのワールプール冷蔵庫｡
ここにもたくさんの部品番号がある｡
では､ この関数がアイテムを作成したというプロンプトを見たらどうなるか見てみよう｡
もう一度やってみてもいい｡
それを印刷しよう｡
そのため､ きれいな空行でフォーマットされて表示される｡
プロンプトにはこう書いてある｡
1ドル単位でいくらかかりますか？
それについては1ドル単位で詳しく話そう｡
後の時代には
なぜそうすることにしたのか､ そのメリットとデメリットについて話そう｡
では､ 1ドル単位でいくらかかるのか｡
そしてここに､ 見出しのための1行と､ 説明のための1行がある｡
そしておわかりになるのは､ 案の定､ これらの部品番号はこの説明から抜き出され､ 切り捨てられたものだということだ｡
トークンの数が一定数に達したらね｡
実際､ 180トークン弱になる｡
それがここにある｡
そして､ これを読めば､ その品物そのものについての豊かな記述であることがわかる｡
トレーニングにはこれで十分だろう｡
次を見てみよう｡
もちろん､ これが私たちのピボット・ブロックだ｡
ドアピボットブロック｡
背番号100､ アイスメーカー・メカを目指そう｡
これはサムスンの交換部品です｡
ここには部品や交換用パーツがたくさんあることにもお気づきだろう｡
ここでもまた､ 以前我々が見たように､ このスペースは､ 交換部品のような低価格の部品によって混雑する可能性がある｡
やや意外だが､ この部品は118ドルもするので､ そう簡単な部品ではない｡
このサムスン製氷機のメカが必要ないことを祈るよ｡
そう､ これはトレーニングのプロンプトを見ているんだ｡
これがトレーニング中にパスするものだ｡
そして､ モデルにはこれが与えられ､ トレーニング中にこの価格を再現する最善の方法を学び始める｡
テスト中はどうなんだ｡
そのモデルが役に立っているかどうかを評価する時はどうだろう？
では､ アイテム番号100のこの男を見て､ テスト時間になったらどうするか見てみよう｡
私たちはそうする｡
これをモデルに提供する｡
まったく同じだが､ ここで終わっている｡
そしてもちろん､ モデルはこのような例を数多く見てきており､ さまざまな異なるアイテムをカバーしているため､
実行時に再びこのような例を見せられたときに､ どのようにしてこの価格を完成させればよいかを知っている｡
分かった｡
これらのアイテムに通常いくつのトークンが入っているのか､ 別の図を使って見てみよう｡
そしておわかりのように､ トークンの数が最も多いのは178である｡
平均は176｡
本当にぎっしり詰まっているんだ｡
だから､ 私たちは一般的に､ この程度の情報を持つデータセットを選択し､ 作成してきた｡
トークンは最大180枚｡
また､ フロンティア・モデルを使用する場合にも､
コストを低く抑えることができる｡
オーケー｡
そして､ 選んだアイテムの価格分布を見てみよう｡
さあ､ 始めよう｡
だから平均価格は100ドルだ｡
こっちの最高値は......11,000ドル近くだ｡
そのため､ 選別の過程で､ 実はあの超高価な電子レンジを外したのだ｡
それでも､ かなり高価なものを手に入れた｡
それが何であるかは､ 私が上に書いたことを再現すればわかる｡
そして､ 私たちが見てきたように､ おそらく交換部品と思われる激安品に大きく偏っていることがわかる｡
だから､ これも次回の調査対象だ｡
それから､ これらのデータセットを視覚化することは､ 私たちがよくやることだということも言っておきたかったんだ｡
そして､ さまざまな方法で多くのことを行うことになる｡
ええと､ matplotlibの様々な機能を利用できるのはいいことだよ｡
そのひとつが､ さまざまな色のチャートを作成できることだ｡
これらの色が何色なのか知りたい方は､
matplotlibのページにリンクしてあります｡
それを見てみるのはいいことだ｡
ええと､ これは､ ブックマークしておくためのちょっとしたおまけです｡
ええと､ 今日はもうひとつ､ ちょっとしたプロとしての心得があるんだけど､ 本当にやるべきことは､ アイテムクラスを見てくることなんだ｡
あっという間に終わってしまった｡
それは､ データを可能な限り高品質にするために､ 実際のデータ例に基づいて行う､ よりぞっとするようなデータAスクラブがあるからだ｡
そして､ 私はすべての詳細であなたを退屈させませんでしたが､ それは､ あなたがこれから自分自身で詳細を見てくれると信じているからでもあります｡
JupyterLabを使って､ これらの関数がどのようにデータをクリーンアップし､ 将来トレーニングプロンプトやテストプロンプトとして使用される各データポイント､
各アイテムについて､ 約180トークンのリッチな説明､ リッチな表現を持つようになったかを調べ､
試し､ 理解する｡
だから次回は､ これをさらに拡大して､ 他の多くの種類の製品を組み合わせることになるだろう｡
このデータセットが大きなデータセットだと思ったのなら､ あなたはまだ何も見ていない｡
だから､ その準備をしておくんだ｡
その前に､ この日を締めくくるスライドをもう2枚｡