そして5日目へようこそ｡
本当だよ｡
我々は実際に適切なJupyterノートブックにいる｡
今回は5日目､ 5週目に突入した｡
そして､ それは以前と同じだ｡
4日半ではなく､ 4日目と重複している｡
ここではChromaデータストアを使用しています｡ すでにご存知のことばかりなので､ 本当に手短に説明します｡
そしてGradioのインターフェイスに戻る｡
ただそれだけだ｡
追いつかれた｡
描かれている｡
舞台裏の2Dと3Dのダイアグラムだ｡
しかし､ そんな時間はない｡
今すぐだ｡
我々は前進する必要がある｡
ええと､ まず最初に､ 前にやった鳥小屋のテストがクロマでもバイスと同じように機能することをお見せしましょう｡
では､ 早速試してみよう｡
あのー､ aviaryのスペルミスって､ 確保する前は何をしていたんですか？
そして､ 私は想像している｡
今にわかるよ｡
そうだ｡
そのクロマも何の問題もない｡
驚きはない｡
よし､ しかし､ 今度はそううまくはいかないものをお見せしよう｡
まず､ 従業員の人事文書を覗いてみたい｡
ナレッジ・ベースに入り､ 従業員のところに行くと､ あるマキシン・トンプソンの従業員記録を見ることになる｡
マークダウンで開いてみよう｡
というわけで､ 値下げされた栄光の姿をご覧いただこう｡
テキサス州オースティンのデータ・エンジニア､ マキシン・トンプソンの人事記録だ｡
そして､ ちょっと注目していただきたいのは､ この下を見ていただくと､ マキシンが2023年のエンシュア・エルム・イノベーター・オブ・ザ・イヤーに認定されていることです｡
2023年には名誉あるI o T Award in Elm Innovator of the yearを受賞｡
さて､ 正直に告白すると､ 私はこの一文を自分で付け加えた｡
これは､ GPT4やクロードが合成データの一部として発明したようなものではなかった｡
これはすべて私がやったことだ｡
そして､ ひどいものだ｡
だから私を責めなさい｡
では､ 5日目に戻って､ 誰が勝ったのか？
2023年に名誉あるシュリーラム・イノベーター・オブ・ザ・イヤーを受賞したのは誰だったかな？
その内容を見てみよう｡
わからないと書いてある｡
しかも､ かなりぶっきらぼうに｡
かなり素っ気ない｡
それは興味深いね｡
失敗したんだ｡
それが提供された情報だった｡
文書にもあった｡
それは少し残念だ｡
だから今すべきことは､ この問題を診断することだ｡
そうすることで､ ラング・チェインがボンネットの中でどのように機能するのかを少し学ぶことになる｡
そして､ それはあまり驚くべきことではないだろう｡
それで､ ここで何が起こっているのか見てみよう｡
標準出力コールバックハンドラーと呼ばれるものを作れば､
舞台裏で起こっていることを標準出力に出力することができる｡
つまり､ これは皆さんが慣れ親しんでいるコードと同じなのだ｡
私たちは警報を発する｡
私たちは思い出を作る｡
私たちはレトリーバーを作り､ LM､ レトリーバー､ 思い出の中ですれ違うこの美しいワンライナーで会話の連鎖を作る｡
コールバックのリストだ｡
ここではコールバックをひとつだけ作っている｡
そして､ この会話の連鎖が続くにつれ､ おそらく､ あー､ 予想できるように､ 標準的なものが何度も印刷されることになるだろう｡
では､ 誰が勝ったのか？
私は別の言い方をした｡
同じようにやろう｡
2023年に栄えあるIet賞を受賞したのは？
これでよし｡
その質問をしよう｡
答えは後ほど｡
何が書いてあるか見てみよう
つまり､ ラング・チェインがどのように機能しているのか､ その一端を知ることができるのだ｡
これにはさまざまなオブジェクトがある｡
これらは､ 会話やラグ・クエリーを構築する段階を経るにつれて､ ある種のチェーンと呼ばれるものだ｡
また､ 各ステージで何が起こっているのか､ より詳細に表示するために､ さまざまなコールバックを使用することもできる｡
しかし､ 私たちが本当に気にしているのは､ GPT4に行くことになるプロンプトだ｡
そしてここにある｡
システム｡
ユーザーの質問に答えるには､ 次のような文脈を利用する｡
答えがわからなければ､ わからないと言えばいい｡
答えを作ろうとするな｡
このプロンプトは､ ラング・チェーンのスペシャリストたちが､ 専門家のように､
さまざまなLLMに送る理想的なプロンプトとして作り上げたものだからだ｡
だから､ これは盗んで自分のプロジェクトに使うのに最適なものなんだ｡
とても丁寧に書かれている｡
GPT4の幻覚を止めたのだから､ 非常に効果的なのは明らかだ｡
うーん､ それにしても､ よくできた促し文句だね｡
しかし､ 問題はここからだ｡
これが､ これから登場するLMに提供された文脈である｡
そして､ 実際には､ 私たちが持っているさまざまなチャンクから取り出したいくつかのチャンクであることがわかるだろう｡
2つか3つの塊で､ HRの記録から取られたようだ｡
でも､ 彼らは正しくない｡
なぜなら､ 彼らはI o t賞について触れていないからだ｡
つまり､ このケースでは残念ながら間違ったチャンクが特定されてしまったのだ｡
うーん､ そして最後にこれが問題なんだ｡
栄えあるI o t賞を受賞したのは人間である｡
私は人間だ｡
その質問に答えるには､ 明らかに文脈が足りなかった｡
だから､ その反応は "わからない "というものだった｡
では､ どうすればいいのか？
正しい文脈を提供できていないというのは､ ラグではよくある問題なんだ｡
できることはいくつかある｡
そのひとつは､ チャンキング戦略を見直すことだ｡
どのように文書をチャンクに分けていますか？
そうしているのか？
そうだね｡
そして､ すぐにでも試せることがいくつかある｡
そのひとつは､ チャンキングの代わりに､ ドキュメント全体をコンテキストとして送ることだ｡
だから､ クロマーにフルドキュメントを入れて､ 一番近いドキュメントを探すんだ｡
もっと細かく､ もっと小さな塊にすることもできる｡
チャンク間のオーバーラップを調査して､ オーバーラップを増やすか減らすかを確認することもできる｡
この場合､ 有用なチャンクを提供できる可能性が高くなる｡
つまり､ チャンキング戦略をうまく機能させ､ 適切なコンテキストを提供するためには､ これらのことを調査する必要があるのだ｡
もうひとつある｡
そして､ それはとてもシンプルだ｡
そしてそれが､ 今回のケースで我々がやろうとしていることだ｡
そしてそれは､ チャンクの数､ つまり実際に送信されるコンテキストの量をコントロールすることだ｡
この場合､ 実際には3つのチャンクを送信しているのですが､
送信されるチャンクの数をコントロールすることができます｡
retrieverとしてretrieverベクターストアを作成する際､ 実際にいくつのチャンクを返して欲しいか､ 渡して欲しいかを指定することができる｡
そして今回のケースでは､ 25個のチャンクを作成し､ 渡すことを指定した｡
一般的な経験則として､ LLMに多くの文脈を送るのは良い考えだ｡
LLMSは､ つまり､ 関連する文脈だけに焦点を当て､ 無関係な文脈を無視することに長けている｡
だから､ チャンクをたくさん送るのは良い習慣だ｡
そうしない方がいい状況もたまにある｡
例えば､ オープンAIが提供している最新のモデルのひとつに､ プロンプトをより詳細に見て､
それを本当に理解するために舞台裏でさらに分析を行うモデルがある｡
思考の連鎖のようなものだ｡
ええと､ そこで推奨されているのは､ 無関係なコンテクストをたくさん提供しないことです｡
しかし､ そのような時折の例を横に置いて､ 一般的な経験則から言えば､ より多くの文脈を持つことは一般的に良いことである｡
この場合､ 2つか3つの最も近いチャンクを提供するよりも､ 25の最も近いチャンクを提供することにそれほど大きな問題はない｡
全部で123のチャンクがある｡
つまり､ これはまだ全データの5分の1程度なのだ｡
だから､ 全データを出荷するわけではない｡
私たちは､ LLMに送るために､ 最も関連性の高い25のチャンク､ つまり私たちのコンテンツの最も関連性の高い5分の1を選んでいる｡
では､ これがうまくいくかどうか見てみよう｡
だから､ これを実行する｡
そして前回同様､ いつものGradioのインターフェイスを表示させる｡
そしてすぐに､ 誰が優勝したのか......申し訳ないのですが､ 誰が優勝したのか......｡
だから一貫性を保っている｡
2023年に名誉あるI t y 賞を受賞した｡
見てみよう｡
ドラムロールをお願いします｡
マキシン
マキシンは名誉あるI o t 2023賞を受賞した｡
つまり､ LMにチャンクを増やすことで問題は解決したのだ｡
ということで､ あなたへの練習は､ もう一度戻って､ このことを実験してみることだ｡
難しい質問に挑戦してみよう｡
自分で文書にいくつか挿入して､ 何が起こるか見てみるのもいい｡
そして､ いろいろなチャンキング戦略を試してみる｡
文書全体を試したり､ 100文字程度の小さなチャンクで､ 重なりを多くしたり少なくしたりして､
それが結果の質にどのように影響するか､ またどのように文脈を与えすぎるかについて､ 良い感触を得る｡
文脈を提供しすぎることの影響もわかるかもしれない｡
そのせいで､ 回答の精度が落ちるのかもしれない｡
だから実験して､ 良いことも悪いこともよく理解し､ 最も効果的なやり方についてコツをつかむのだ｡
それではまた､ 次のビデオでお会いしましょう｡