さて､ 2日目のJupyter LabでRagのワークフローを完成させる時が来た｡ 3.
このGetprice関数は､ 文字列を受け取ってそこから浮動小数点数を取り出すという超シンプルなもので､
もうお馴染みですね｡
そして今度はGPT for miniの機能だ｡
私たちがしていることは､ 書類と値段を言うことです｡
だからアイテムで渡される｡
その項目に似たものを見つける｡
そしてOpenAI chat dot completions dot createと呼ぶ｡
ミニにはGPTを指定する｡
メッセージはmessages forという関数を使って渡す｡
そして種を与える｡
5トークンを返してほしい｡
そして返ってきたものは､ レスポンス・ドット・チョイス・ゼロ・ドット・メッセージ・コンテンツと言う｡
そして､ そこから番号を抜き出すために､ 返信に価格を求める電話をかける｡
それがすべてだ｡
ここで夢中になる前に､ ひとつ試してみよう｡
ええと､ じゃあ､ GPTの4番ミニボロで､ 今見たクラッチのテスト1回でパスします｡
何が返ってくるか見てみよう｡
ええと､ 201ドルと45ドルが返ってきました｡ では､ 実際のところ､ テスト・ワン・ドット・プライスはいくらなのか見てみましょう｡
かなり近いよ｡
あれを見ろ｡
とても素早く走れるのが素晴らしい｡
そして､ そこで起こったことのすべてを見ることができる｡
似たような項目を5つも調べた｡
OpenAIに送信するプロンプトには､ 類似した5つのアイテムのコンテキストを組み込んだ｡
そして電話をかけ､ 返事が返ってきて､ 値段を抜き出し､ いくらかかったかを教えてくれた｡
そして､ かなり近づいた｡
そういうことだ｡
以前のテスターを覚えているだろうか？
250の､ えー､ トップの､ えー､ テスト結果をテストするための私たちのフレームワーク｡
そして､ 私たちがモデルを発表した場所を覚えているだろうか？
あー､ 確かに考えるのは怖いね｡
しかし､ フロンティア・モデルには大きなメリットがある｡
ええと､ これでどうなるんですか？
では､ この時点で走らせて､ どうなるか見てみようか？
そうこうしているうちに出発するんだ｡
そして､ ここにはすでにたくさんのグリーンが見える｡
ええと､ もちろん､ 多くの情報を得るためだ｡
エージェント・フォルダーで私がやったことをお見せしたい｡
Agentフォルダの中に､ Frontier Agentというものを作りました｡ これは､
今見てきたコードをそのまま本番用のコードにしたものです｡
この赤い海を見ればわかるように､ コメントを入れている｡ これは重要なステップであり､
ヒントを入れることで､ 途中で何をしているのかがわかるようにしている｡
そして､ 見ていくとわかるが､ とてもシンプルだ｡
同じものだよ｡
Make context は､ プロンプトメッセージに挿入するコンテキストを作成し､ そのオープンAIフォーマットでメッセージリストを作成する｡
各パラメーターにコメントを付けて､ 何が返されるかを指定するこの方法には慣れているかもしれない｡
また､ 文字列のリストや､ 文字列をキーとし文字列を値とする辞書のリスト､ そしてクロマ・ゲット・プライスで検索し､
指定されたものに類似したアイテムのリストを返すfind similaresを指定する､ より洗練された型ヒントもここで見ることができる｡
私たちはそれをよく知っている｡
そして最後に､ このプライスメソッドだ｡
スーパークラスであるエージェントのサブクラスであるFrontier
Agentというクラスの一部である｡
そしてまた､ Jupyterの世界からよりプロダクション・レディなコードに移行することの違いを理解するための学習の一環として､
このようなジャンプをするのです｡
そして通常､ VSCodeやPyCharmのようなツールでこれを構築することになる｡
私はPyCharmを愛用することが多いが､ JupyterLabを使うこともできる｡
Jupyter Labでコードを書くこともできるが､ この種のことのために設計され､ より良くするアイデアがある｡
そして､ どんなコメントを書けばいいか､ あなたのプロンプトを埋めていくようなこともする｡
だから､ ここまで来たらIDEを使う価値がある｡
分かった｡
うまくいっているのかどうか､ 十分な時間､ おしゃべりできたと思う｡
もうすぐだ｡
そうだ｡
さて､ ここで気づいたことがある｡
まず第一に､ GPT4ミニやラグなしのGPT4よりも大幅に優れている｡
私たちは大きく舵を切ったが､ まだ､ そこで展開したフロンティア・モデルの微調整がうまくいっている段階だ｡
だから､ ボロパイプラインをベースにしたGPTの4人にもまだ勝てるんだ｡
しかし､ ラグ・パイプラインが健闘し､ ここまで近づいたのは素晴らしいことだ｡
だから､ ここに美しいチャートのようなものを見ることができる｡
とても楽しかった｡
ああ､ それを楽しんで､ 同じものを見てほしい｡
このコードに目を通して､ 作成されたプロンプトを見て､ これらのプロンプトのいくつかをプリントアウトして､
私たちが基本的に､ よりマニュアルに近い方法で行ってきたことを納得してください｡
ラング・チェーンが以前自動化してくれていたことを､ まさにラッパー・コードで実現したのだ｡
私たちは現地に赴き､ ある品物を手に取り､ 似たような品物を5つ見つけた｡
私たちはそれをいくつかの文脈にまとめました｡
そして､ これがGPT4に送ったものだ｡
そうすることで､ そうしなかったときよりも格段に良い結果が得られた｡
もちろん､ 試してみた｡
5分でパスした｡
結果
これがハイパーパラメーターと呼ばれるものだ｡
その10人にしたらどうなるかを探ることができる｡
二つにしたらどうなる？
5点ということは､ これでも超安いということだ｡
これだけやっても1セントか2セントだ｡
もちろん､ そうすべきだ｡
万が一､ 価格設定が異なるかもしれないので､ 自分で確認するべきだが｡
でも､ とても安いんだ｡
うーん､ 10回にしたら､ そうなり始めるだろうね｡
その倍はかかるだろう｡
実際にはその倍は下らないが､ もう少し高くなる｡
だから､ 無理のない範囲でいろいろ試してみて､ どう思うか､ どうなるか試してみる価値はあると思う｡
とにかく､ これでボロ布のパイプラインは終わり｡
4で､ 再びランダムフォレストとアンサンブルモデルについて話し始める｡
ではまた