JupyterLabへようこそ､ そしてLong Chainの世界での最初の実験へようこそ｡
私のようにJupyterノートブックを使いこなすことがいかに重要か､ もう一度思い出してほしい｡
理想的なのは､ 私が話しているのと同時に､ あなたもJupyter Labを立ち上げ､
5週目､ そして2日目のこの日に向けて､ 私がステップを踏んでいるように､ あなたもステップを踏むことができることです｡
もしそれが無理なら､ できるだけ早くその直後に､ それからこれを試してみてほしい｡
特に､ テキスト・チャンクや後のベクターといった概念について話し始めると､
これを自分で体験することはとても重要だ｡
私の言っていることを検証し､ 実験し､ 自分の目で確かめ､ コードを試したり､
いろいろなものをプリントアウトしたりして､ 舞台裏で動いていることに慣れることが､
これからとても重要になる｡
もちろん､ 私たちは5週目に入り､ フォルダーの中では2日目に入っている｡
輸入もいくつかやっているし､ 今は新しい輸入もある｡
ラングチェーンからコードをインポートするのは初めてなので､ ドキュメント・ローダーと呼ばれる､
ファイルを読み込むためのユーティリティ・クラスをインポートします｡
フォルダ全体を読み込むディレクトリローダーと､ 個々のテキストファイルを読み込むテキストローダーと呼ばれるものがある｡
文字テキスト分割ツールというものもインポートしています｡
これは､ ご覧のように､ ドキュメントを文字の塊に分割するものです｡
インポートを実行しよう｡
ええと､ 今日は実際に使わないけど､ 次回使う定数をいくつか設定した｡
ええと､ 仕事に取り掛かろう｡
前回､ 文書を読んで辞書に載せるという馬鹿げたことをやったのを覚えているかい？
鍵は文書の名前だった｡
その値はドキュメントの内容だった｡
さて､ 今回はもう少しスマートなことをするつもりだ｡
ラングチェーンを使うのもいい｡
そこでまず､ ナレッジ・ベース内のさまざまなフォルダーのリストを取得する｡
これらのフォルダは､ これらの会社の契約社員や製品であることを覚えているだろう｡
だから､ それをフォルダ分けしたんだ｡
そして今､ それぞれのフォルダーについて､ まず文書会社の契約社員や製品の種類を取得する｡
そして､ ディレクトリ・ローダーを使ってこのディレクトリをロードし､ ハンドルとディレクトリ・パスを渡す｡
さらに､ テキスト・ローダー・ローダー・クラスというものを渡して､ テキスト・ファイルなので､
それを使ってそれぞれのファイルを取り込むように指示する｡
そして､ loader dot loadを呼び出すだけで､ それらのドキュメントをすべて取り込んでくれる｡
それぞれのドキュメントを繰り返し見ていく｡
各ドキュメントにメタデータを設定することができるかと言います｡
docタイプと呼ばれるものを追加し､ 会社の契約書､ 従業員､ 製品などのDoctypeに設定したい｡
そして､ それをドキュメントと呼ばれるリストに追加する｡
ご理解いただけただろうか｡
実行した結果､ ドキュメント・タイプのオブジェクトが31個になったので､
そのうちのひとつをお見せしよう｡
これだ｡
ナレッジベースのディレクトリにある｡
メタデータにはソースと呼ばれるものがあり､ それがどこにあるかを教えてくれる｡
そして､ これがdoctypeで､ 製品に追加したものだ｡
だから商品なんだ｡
レルムMDと呼ばれるもので､ これがファイルの全内容だ｡
製品に入れば､ 確かに領域と呼ばれるものがあることを納得しに行こう｡ md｡
それをダブルクリックすると､ おそらく読み込まれたものと同じものであることがわかるだろう｡
最初の文書はこちらでも見ることができる｡
そして､ それは製品にも入っている｡
マーク・カームと呼ばれている｡
それがどこから来るのか､ おわかりいただけるだろう｡
そして､ ランダムに24番を選んでみよう｡
24番目の文書は､ マキシン・トンプソンの従業員人事記録である｡
そしてマキシンがいる｡
彼女はドクタータイプの社員で､ そこに彼女のコンテンツがある｡
だから複雑なことは何もない｡
ドキュメントを読み込み､ ドキュメント・タイプを指定し､ 31のドキュメントがドキュメントに収まっている｡
次にすることは､ このテキスト・スプリッターというものを使って､ ドキュメントを取り込み､ それぞれのドキュメントを文字の塊に分割することだ｡
その際､ ラングチェーンには2つのことを指定する｡
ひとつはチャンクサイズで､ 各チャンクにだいたい何文字入れたいか｡
というのも､ ラングチェーンにある程度の裁量を与えて､ スペースと空白行､
あるいはドキュメントの異なる部分の間にセクションがあるような､ 賢明な境界でこれらのチャンクを分割するようにするつもりだからだ｡
だから､ 段落の途中や単語の途中などでカットすることはない｡
それでは意味がない｡
その結果､ LMに提供するコンタクトが悪くなる可能性がある｡
チャンクオーバーラップとは､ それぞれのキャラクターが完全に分離していることを望まないということだ｡
両者の間にある程度の重なりを持たせたい｡
つまり､ 2つのチャンクに共通するドキュメントの内容があるわけだ｡
つまり､ クエリを入れると､ そのクエリに関連するチャンクの束が抽出される可能性が高くなる｡
私たちは､ 何かの連想や批判的な言葉のためにリスクを冒したくない｡
そして､ あるチャンクにだけ含まれ､ そのチャンクに本当に近い別のチャンクは含まれない｡
それも同様に重要だ｡
チャンクのオーバーラップによって､ 同じキーワードを含む複数のチャンクを持つことができる｡
これがテキスト・スプリッターだ｡
そして､ ドキュメントを分割し､ ドキュメントを渡す｡
そして､ 私がそれを実行すれば､ それは実行されることになる｡
そして､ 作成されたチャンクのひとつが､ サイズが1088であることを警告してきた｡
そしてまた､ それは境界線をどのように尊重するかをスマートにしようとしているからだ｡
それで､ このような決断を下したんだ｡
それで､ 最終的にいくつのチャンクができたかというと､ 31のドキュメントから123のチャンクができた｡
そして今できることは､ チャンクを選ぶこと､ つまり5番のチャンクを選んで､ そのチャンクを見てみることだ｡
ドキュメントにメタデータがあるように､ チャンク自体にもメタデータがあるんだ｡
ええと､ そのソースがどこから来たかを知っている｡
そして､ docタイプ､ 我々が設定したdocタイプを持っている｡
アップ｡
だから私たちは､ この特定の塊が製品から抜き取られたものだと知っている｡
ええと､ 実際､ マルカムについての商品概要なんだ｡
新しいセクションで始まり､ そのセクションの終わりで終わっているのがわかるだろう｡
だから､ 境界線を尊重するように注意してきた｡
1000文字程度の手頃な塊がある｡
そして､ その直前のチャンクと重なる部分もあるだろう｡
ええと､ そうすることを選んだかどうか見てみよう｡
この場合､ その前のチャンクは非常に小さなチャンクだからだ｡
とにかく､ チャンク間で重複がある場合､ それが可能なオプションの例を見つけられるかどうか､
試してみてください｡
それで､ このチャンクのいくつかを使って実験してみるんだ｡
つのチャンクに同じ情報が含まれている例を探してみてください｡
だから､ これからすることは､ これらのチャンク全体のDoctypeメタデータを検査し､ すべての正しいdocタイプがあることを確信することだ｡
では､ すべてのチャンクで何があるか見てみよう｡
私たちには､ 従業員､ 契約､ 会社､ 製品の4つのドキュメント・タイプがあります｡
というのも､ これはもちろん､ 我々が読み込んだ4つのディレクトリと完全に一致するからだ｡
それですべて良さそうだ｡
では､ それぞれのチャンクを見てみよう｡
ランカスターという単語が含まれているチャンクは？
ランカスター
これが架空の会社の架空のCEOの架空の名前なのだから｡
ランカスターは彼女の名字なんだね｡
そして､ どの塊に彼女の名字が入っているか見てみよう｡
それでは､ どうぞ｡
保険についての書類には､ もちろん彼女の名前があった｡
それから､ 彼女の人事記録にはランカスターが載っていて､ 私たちの人事記録の一番下にも載っている｡
また､ 他の人事のメモにも､ 彼女のことが､ ええと､ 苗字で書かれている｡
それで､ おそらく皆さんもお気づきだと思いますが､ 前回やった安くて陽気なバージョンのラグからすると､ 大きな問題のひとつはランカスターという単語を探すだけだということです｡
だから､ 最悪のランカスターに反映されていないCEOに関する情報があれば､ それは前回のおもちゃのバージョンでは見逃されることになる｡
彼女のファーストネームであるエイブリーを検索すると､ より多くのチャンクがヒットすることがわかるだろう｡
うーん､ それで､ そうだね｡
そしておそらく､ CEOとした場合､ ランカスターという単語が含まれるものだけを見ていたのでは見逃される可能性のある､
CEOが含まれるチャンクもたくさんあることがわかる｡
つまり､ ドキュメントをテキストベースで検索するのは､
あまりいい方法ではないということだ｡
私たちがベクター検索に求めているのは､ テキストだけでなく､ 探しているものの背後にある意味を理解した上で､
関連性のあるチャンクを見つける方法をよりスマートにできるものです｡
そしてもちろん､ それがラグの背後にある大きなアイデアなのだ｡
この時点で､ テキスト・ローダーやディレクトリ・ローダーを使って文書を読み込み､ チャンクに分割することに慣れていることを願う｡
そして､ この練習をすることで､ さまざまなチャンクと戯れるようになり､ 理にかなった場所で分割されていること､
重なり合う部分があることを自分自身に納得させることができる｡
そして､ ベクター化してベクターデータベースに入れる準備が整う｡