JupyterLabは僕のお気に入りの場所だ｡
そして今､ 我々はもちろん5週目のフォルダにいる｡
日目のJupyterノートブックは､
今日のホームグラウンドになる｡
ではまず､ ショアハムにある私たちの会社､ 保険技術会社についてお話ししましょう｡
我々は彼らの会社の共有フォルダにアクセスすることができ､ それはナレッジ・ベースと呼ばれています｡
それを開いてみると､ 4つの異なるUM部門､ あるいは会社の4つの異なる分野を代表する4つのフォルダー会社の契約書､
従業員､ 製品が含まれていることがわかる｡
ええと､ ひとつだけ言っておくと､ おそらくお察しの通り､ ここにはかなりの量の企業データが掲載されているが､
これらはすべて完全に架空のものである｡
これはもちろん､ LLMによって作られたものだ｡
私は数週間前の練習で､ データジェネレーターを作成し､ それを使っていくつかのデータを作成し､
いくつかの文書間の関係などを保持した｡
私自身､ あちこちに手を加えたが､ そのほとんどすべてがGPT4かクロードによって生み出されたものだ｡
そこで､ この会社についてちょっと覗いてみよう｡
マークダウン形式の文書であれば､ かなり短い文書だと思う｡
だから､ もしこのような形でオープンすることができれば､ 保険会社エルムについての素敵な､ うーん､ 記事を見ることができる｡
2015年にエイブリー・ランカスターによって設立されたようだ｡
エイブリーの名前を覚えておいてほしい｡
彼女とは何度か会うことになるだろう｡
もちろん､ 原本を見たいのであればね｡
私たちがよく知っているマークダウンに似ている｡
では､ 契約のナレッジ・ベースに戻るとしよう｡
契約に関するより本質的な情報を入手した｡ 契約条件の更新や､
その契約に含まれる機能などだ｡
だから､ それを覚えておいてほしい｡
他にもいろいろあるんだ｡
もう一度ナレッジ・ベースに戻って従業員を見てみると､ これはさまざまな従業員の人事記録だ｡
そして､ CEOのエイブリー・ランカスター自身にも､ ここにあるような人事記録がある｡
そして､ エルム保険会社から提供されるさまざまな商品（自動車保険のエルム､
住宅保険のエルムなど）が紹介されている｡
これらの文書に目を通すことはできるが､ そのリアルさが素晴らしい｡
もちろん､ すべてフロンティア・モデルズの提供だ｡
ロードマップまである素晴らしい製品概要だ｡
大好きだ｡
ああ､ わかった｡
初日に戻る｡
それでどうするんだ？
これから､ この会社についての質問を書くのだが､ 人為的に調べて文脈をプロンプトに挿入する｡
だから輸入もする｡
今回はGPTフォーミニを使う｡
ええと､ それで......ジュースの話なんだけど｡
つまり､ これはPythonの関数で､ このフォルダーの中身をすべて取り出し､
リストにまとめる｡
従業員
つまり､ employeesはナレッジ・ベース内のファイル名のリストとなり､ スラッシュemployeesとなる｡
そのひとつひとつに､ ただハックしただけの奇妙なコードがあって､ 基本的にファイル名（実際には従業員のフロイドの名前）を取り､
その姓を取る｡
姓を分割してそのファイルを開き､ キーが従業員名､ ドキュメントがドキュメントである辞書に入れるだけです｡
では､ これを見てみよう｡
だから辞書に期待している｡
ああ､ 申し訳ない｡
ええと......文脈というか辞書というか｡
すべてのキーを文脈に沿って見てみよう｡
その鍵はここにある｡
キーは予想通り､ 従業員の姓である｡
その一人がランカスターで､ 我々のCEOだ｡
では､ ランカスターを簡単に見てみよう｡
だから､ ランカスターの辞書を引けばいいのだ｡
そして､ 彼女の人事記録からマークダウンされた文書をバンバン見るべきだ｡
ファイルを読んだり､ 辞書に押し込んだりするようなマジックは､ ここではまったく行われていない｡
それだけだ｡
では､ これを拡張して､ 商品についてもまったく同じことをやってみましょう｡
productsフォルダを探し､ それぞれのファイルを繰り返し見て､ 名前を抜き出し､ それを同じコンテキスト辞書に突っ込む｡
だから今､ もし私が最初にそれを実行したら､ それを忘れないようにする｡
これでよし｡
そして､ 次はキーを見てください｡
従業員の姓と製品名の組み合わせが表示されるはずだ｡
以下は姓とその市場である｡
ただいま
私は落ち着いている｡
商品名は大丈夫ですか？
準備はできている｡
システムメッセージが出ます
あなたは､ 私が保険技術会社であることを保証するための正確な質問に答える専門家です｡
簡潔で正確な回答をすること｡
答えがわからなければ､ そう言ってください｡
何も作るな｡
関連する文脈が提供されていないのであれば｡
このような非常に権威的な指示をシステムのプロンプトに表示させ､ モデルに捏造をしないように指示することが､
幻覚を見るのを止めさせ､ 精度を高く保つのに効果的であることがわかった｡
正確さが要求される場合には､
このようなプロンプトが役に立つからだ｡
そこで､ 関連するコンテキストの取得という関数を作り､ それをgetに追加することにしよう｡
だから､ この関数が何をするのか､ これはとても重要なことだ｡
どんなメッセージでもいい｡
そして､ コンテキストの各項目からタイトルと詳細を取り出しながら､ コンテキストの中を反復していく｡
そして､ 役職､ 従業員の姓名､ 製品名（製品であれば）がメッセージのどこかに存在するかどうかを確認する｡
ランカスターという単語のようなテキストがメッセージのどこかにあれば､ それを関連する文脈のリストに押し込んで､
最後にそのリストを返すだけだ｡
では､ それが何を意味するのか､ 具体的にお見せしよう｡
だから､ 関連する文脈を得ると言っているのに､ 猫のようにまったく関係ないものを渡してしまったら､ 何も返ってこない｡
猫は確保に関する質問とは関係ない｡
そして､ エイブリー・ランカスターが誰なのかを書けば､ 万々歳だ！
私たちが期待するような､ しっかりとした答えが返ってくるだろう｡
エイブリー・ランカスターとは誰なのか､ そして何が落ち着いているのか｡
それを含む2つのリストが返ってくるので見てほしい｡
そう､ 2つ目が始まっているのがわかるだろう｡
それはコラムだ｡
エイブリーのドキュメントとカラムのドキュメントを含むリストが返ってくる｡
うーん､ でももちろん､ これは非常にもろい｡
エイブリーの姓を入れない場合は､ エイブリーとだけ言い､ 大文字のCを使わずに綴る｡
何も返ってこないことに気づくだろう｡
これは脆い｡
それは基本的な場合にしか使えない｡
よし､ ではこれをもう一歩進めて､ メッセージを受け取るコンテキストの追加関数を作ってみよう｡
ええと､ つまり､ これは単純に関連する文脈を取得するということです｡
そして､ もし何か見つかれば､ それをメッセージに追加する｡
この質問に答えるには､ 次のような追加的な文脈が関係するかもしれないと言うことだ｡
だから､ 通過したものは何であれ､ その上に積み上げていくようなものなんだ｡
では､ 例を挙げよう｡
ええと､ でも､ エイブリー・ランカスターは誰なのか､ ポジティブな例から始めましょう｡
エイブリー・ランカスターとは誰なのか？
エイブリー・ランカスターって誰？
何が見えるのか？
そうだね｡
さあ､ 始めよう｡
エイブリー・ランカスターって誰？
この質問に答えるには､ 次のような追加的な背景が関係するかもしれない｡
そしてディテールだ｡
ええと､ それなら反対の例を挙げよう｡
別の種類の問題だ｡
アレックス・ランカスターは誰ですかと言うと､ ランカスターと表示される｡
そしてもちろん､ ここに関連した文脈があると言うことに変わりはない｡
うーん､ それはもちろんトリックを外している｡
だから､ ラフで準備ができている｡
ええと､ 本当に文字列のルックアップをしているだけです｡
しかし､ もちろん､ お気に入りのチャット機能を書くのに必要なのはそれだけだ｡
覚えているだろうか､ これがグラディオが期待する関数なのだ｡
クイック・ユーザー・インターフェースを構築するのであれば､ 現在のメッセージとメッセージの履歴が必要です｡
その履歴を､ OpenAIが期待するフォーマット､ つまり特定の構造のディクトのリストに変換する｡
そして､ この素敵な電話をかける｡
私たちはメッセージに特別なコンテキストを追加し､ それをOpenAIに送信する｡
そして､ このOpenAIのチャットの完了は､ あなたにとって第二の天性であり､ 私たちは応答をストリームバックします｡
では､ これを試してみよう｡
そして今､ 私たちは最後のステップが､ グラディオにこれをもたらすワンライナーであることを知っている｡
さあ､ 始めよう｡
どう見えるか見てみよう｡
じゃあ､ えーと｡
こんにちは｡
本日はどのようなご用件でしょうか？
では､ エイブリー・ランカスターとは誰なのか？
その通りだ｡
そうだね｡
ランカスター
もちろん､ エブリー・ランカスターの情報がプロンプトに押し込まれ､ OpenAIに送信されたことは十分承知しているからだ｡
そして今､ 私たちは何が冷静なのかも言える｡
そして革新的な自動車保険商品｡
さあ､ 行こう｡
それは､ その製品を中心としたコンテキストの大きな塊から要約された､ 1トンの情報を持っている｡
そして､ 継続的改善のためのロードマップにまで言及している｡
素敵だ｡
ええと､ だからボロ雑巾だってわかるでしょ｡
単純なことだけど､ これがすべてなんだ｡
ちょっと休憩しよう｡
私が何をするかは想像がつくだろう｡
エイブリーって誰？
まあ､ 実際に過去からの会話があるのかもしれない｡
新鮮なチャットを持ち出す｡
そうでなければ､ エイブリーが誰なのかがわかってしまう｡
だから､ フレッシュな新しいユーザーインターフェースを立ち上げて､ ゼロから試してみよう｡
エイブリーとは？
申し訳ないが､ エイブリーに関する確実な情報は持っていない｡
だから､ もろいのがわかるだろう｡
姓を名乗らなければならない｡
苗字のスペルを間違えても､ ランカスターが大文字の "L "でなくても､ 壊れてしまう｡
これは､ プロンプトに補足情報を加える効果的な方法である｡
より正確な答えが返ってくるが､ もろく､ 正確なテキストマッチングを必要とする｡
特に柔軟性があるわけでもなく､ 拡張性の高いソリューションでもない｡
もっといい方法がある｡
そして､ それが次の日に私たちがやることだ｡
しかし､ スライドに戻ろう｡