そしてついに､ ボロの活躍を見る時が来た｡
このような話の後､ 我々はここにいる｡
私たちはもちろん､ JupyterLabの第5週目のフォルダにいる｡
私たちは4日目のノートを見ているが､ もちろん3日目と同じ内容で､ さらに追加されている｡
私たちは､ 血清中の架空の保険技術会社のために､ 知識労働者という同じ問題を今も解決しているのだから｡
ええと､ これまでと同じように輸入品から始めよう｡
そして今､ ラング・チェーン用のインポートがいくつかある｡ ラング・チェーンのメモリーから2つの新しいインポートをこっそり追加した｡
会話バッファーのメモリーをインポートしている｡
そしてラング・チェーン・チェーンから会話型検索チェーンを導入する｡
そして､ この2つは前に述べた抽象的なものだ｡
さて､ 勘のいい方はお気づきだろうが､ ここには3つ目の抽象化も潜んでいる｡
ただ､ 以前の講義で言及せずにすでに輸入していたのだが､ ここに紹介しよう｡
チャットOpenAIはすでにラングチェーンの一部としてインポートされている｡
OpenAIは､ これまでOpenAIのエンベッディングしか使っていませんでしたが､ 今回はチャットのOpenAIをミックスします｡
それじゃ､ インポートをしたほうがいいね｡
そうでなければ､ 私たちは遠くへ行くことはできない｡
そこで､ いくつかの定数を設定する｡
環境変数をロードする｡
そして今､ あなたはこのことをよく知っている｡
しかし､ 私たちはナレッジ・ベース・ディレクトリからドキュメントを持ってくる｡
では､ テキスト・チャンクを取り込んで､ その数を見てみよう｡
でも､ 123だと信じている｡
そう､ 123のテキストチャンクだ｡
そしてそれらは従業員であり､ 製品会社であり､ 契約である｡
そして今度は､ それらを再びベクター・データベースに入れる｡
ベクターデータベースを削除し､ 再作成する｡
各ベクトルは1536次元であることがわかる｡
視覚化するのは難しいが､ 2Dなら対応できる｡
だから､ そうするんだ｡
そして､ 彼らはそこにいる｡
そして､ 3Dでも見ましょうと言うこともできる｡
これはちょっとありがた迷惑だ｡
でも､ こういう図を見るのは好きだよ｡
よし､ じゃあここで､ 私は嘘をついていない｡
この4行のコードと同じくらい簡単だ｡
まず､ 新しいLM抽象化を作成する｡
チャットのOpenAI｡
しばらく輸入していたものを置くつもりだ｡
ついにそれを使うことになる｡
そして､ 温度とモデル名､ メモリーを指定する｡
前にも書いたように､ キーを渡して､ リストの形で返してほしいと言って､ カンバセーショナル・バッファ・メモリを作る｡
クロマ・ベクター・ストアをリトリーバーと呼び､ ラング・チェーンに必要な抽象化されたリトリーバーで包みます｡
そして､ 会話による検索チェーンを構築することになる｡
そして私たちは､ LM､ レトリーバー､ そして記憶を受け継ぐだけなのだ｡
それだけだ｡
それを実行しよう｡
オーケー｡
だから私たちはそれを実行した｡
少し拍子抜けしたかもしれない｡
突然ボロが目の前に現れるとでも思っていたのか｡
実際に電話しなければならない｡
それを生かすために何かをしなければならない｡
だから､ これから言うのは､ うーん､ うーん､ クエリーコールだ｡
簡単なところから始めましょう｡
分かった｡
そして､ あなたはこう言う｡
あなたは結果が会話の連鎖だと言う｡
今作ったものをメソッドinvokeと呼ぶ｡
そして､ invokeはquestionをキーとする辞書を取る｡
スペルは正しかったかな？
そうだ｡
質問だ｡
そして､ メッセージクエリーを入れなければならない｡
そうだ｡
そして結果を印刷する｡
これは､ その結果の答えのキーの下にあるものでなければならない｡
これが､ ラグ・パイプラインを利用するための最後のコードだ｡
では､ どうなると思う？
その問い合わせが必要だ｡
それをベクトルに変えるんだ｡
クロームのデータストアでそれを検索する｡
関連するチャンクを見つけるだろう｡
チャンクは複数形だ｡
そして､ またその話に戻るつもりだ｡
だから､ 関連するチャンクを見つけることができる｡
そしてそれをプロンプトにドロップし､ OpenAIに送る｡
GPT4ミニに送られます｡
そして､ 戻ってきたものをパッケージして､ それを解答用紙に入れる｡
うまくいくかどうか見てみよう｡
これでよし｡
ショアハムで初めてのラグ・パイプラインをフロントからバックまで走らせたところだ｡
エイブリー・ランカスターによって設立された革新的な保険技術会社である｡
それに断片的な情報もある｡
いろいろな文書から､ おそらく会社のセクションのアバウトなものから､
それを取り出しているのがわかるだろう｡
ええと､ でも､ いろいろな情報のかたまりからそれを取り出していることがわかるといいんだけど｡
分かった｡
まあ､ いいんじゃない？
これがどこに向かっているのかわかるかい？
それを美しいユーザーインターフェイスにパッケージして､ チャットUIで実際に使えるようになればいいと思いませんか？
そしてもちろん､ Gradioはそれを超シンプルにしてくれる｡
この時点で私たちがしなければならないことは､ Gradioが期待するフォーマットでチャット関数を作成することだとわかっている｡
それにはメッセージと歴史が必要だ｡
だから､ さっき書いたセリフをそのままここに書いて､ 僕らが期待しているものをそのまま返しているんだ｡
さて､ 何か不思議なものが見えるかもしれない｡ 少し時間をおいて､ 何か､ 何か奇妙に感じるものがないか見てみよう｡
さて､ 奇妙に思われるかもしれないが､ このヒストリー・パラメーターでは実際には何もしない｡
ああ､ 完全に無視している｡
そして､ 私たちがそれを無視するのは､ もちろん､ ラング・チェインがすでに私たちのために歴史を扱っているからだ｡
GradioのチャットUIは､ ユーザー・インターフェースの履歴を保持し､
チャット履歴を毎回コールバックする｡
なぜなら､ ラングがすでに私たちにこの記憶力を与えてくれていて､ これまでの会話を記録してくれているからだ｡
それが知る必要があるのは､ 新しいメッセージと新しい答えだけだ｡
だからとにかく､ ここでセルを再運転しているんだ｡
実はすでに再実行したんだけど､ メモリを一掃するために再実行しているんだ｡
だから､ まったく新しいスタートを切る｡
この話を持ち出したら､ あとはおしゃべりするだけだ｡
こんにちは｡
本日はどのようなご用件でしょうか？
保険とは何か？
うーん｡
これでよし｡
驚きはない｡
そして今､ 私たちは卑劣なことをすることができる｡
私たちは次のように言うことができる｡
エイブリーは以前何をしていたのですか？
なぜこのような話をしたかというと､ このような質問にはいくつか表面化させたいことがあるんだ｡
つまり､ まず明白なことを言うと､ 私たちのおもちゃのラグ・バージョンの前のブルートフォース・ソリューションは､ ランカスターを名字として見て､
ドキュメントからそれを検索することができたが､ これはかなり絶望的だった｡
そして､ 鳥小屋という言葉を使おうとしたら､ それは私たちの失敗だった｡
だから､ ここで試してみるのはもちろん面白い｡
第二に､ aviaryをわざと小文字のaにした｡ aviaryはスペルが違うので､
テキスト検索をするものが間違ってしまうからだ｡
だから､ 僕らが正しいケースを使っていないという事実を扱えるかどうか､ 興味深いところだね｡
そして第三に､ 私はこの記憶のアイデアを利用しているんだ｡
つまり､ エルムで創業する前は何をしていたのか､ ということだ｡
そして､ このモデルが､ 鳥小屋に関する関連情報を検索し､ 以前彼女が何をしたかという文脈を保つことができるほど､
何が起こっているのかを十分に理解しているかどうかを見ることになる｡
それは彼女の従業員記録から得る必要がある｡
それと､ 質問に首尾一貫して答えてください｡
見てみよう｡
エイブリー・ランカスターはショーハムで創業する以前､ イノベート・インシュアランス・ソリューションズでシニア・プロダクト・マネージャーとして働き､
画期的な保険を開発していた｡
それ以前は､ 市場動向に焦点を当てたビジネスアナリスト｡
だから､ 彼女の従業員記録をチェックし､ それが本当に正しく発見され､
エイブリーの正しい経歴が得られるかどうか､ 納得してもらうための練習として､ ええと､ 試してみる楽しみとして残しておこう｡
そしてもちろん､ 他の難しい質問にも挑戦する｡
ええと､ どういうこと？
ええと｡
見てみよう｡
落ち着いて......あれは車だよ｡
うーん｡
あるいは､ うーん､ 別の聞き方はどうだろう｡
保険は自動車保険の分野で車内に何か商品を提供しているとしよう｡
トリッキーな質問をしよう｡
さあ､ 行こう｡
そうだ｡
保険は､ 自動車保険会社のポータルサイトであるCalmを提供している｡
だから､ 私がcalmという単語を使わなくても､ carという単語を使わなくても､ 関連する文書､ 関連するチャンクを見つけ､
質問に正確に答えることができた｡
これがラグを使った最初の実験だね｡
ぜひ試してほしい｡
調査し､ 難しい質問をし､ それを破ることができるか､ 間違った情報を与えるように仕向けることができるか､
あるいはレールから外れて限界まで引き伸ばすことができるか､ 見極めてほしい｡
次回は､ このようなプロンプトが表示される場合によくある問題や､
デバッグの方法についてお話しします｡
しかし､ ショアハムにある架空の保険技術会社のために作られた初のエンド・トゥ・エンドのラグ・パイプラインを楽しんでいただけたなら幸いだ｡
それではまた次回｡