さて､ ここでJupyter Labに戻り､ フロンティア・モデルの次の使用に備える｡
これはごく自然なことのはずだ｡
いつものように､ システムのプロンプトを検討し､ モデルをどのようにプロンプトさせるかを考えることから始める｡
つまり､ 最も詳細で質の高い説明があり､ 価格が明確で､ JSONで厳密に応答する案件を選択することで､
リストから最も詳細な5つの項目を特定し､ 要約するのです｡
ええと､ 最も重要なのは､ 最も詳細な商品説明がある5つの案件を回答することです｡
用語について言及することは重要ではない｡
それから､ JSONの構造もここに書きました｡
構造化されたアウトプットを使うのだから､
これは必須ではないことは言っておくべきだろう｡
だから､ これは実験できることなんだ｡
しかし厳密に言えば､ JSONをこのように指定する必要はないはずだ｡
これが私のシステム・プロンプトだ｡
ユーザーには､ このリストの中から最も有望な5つの取引を回答するよう促される｡
それらを選ぶ｡
ブラブラ､ ブラブラ､ ブラブラ｡
最後まで読んでほしい｡
でもね､ こういうことなんだ｡
オーケー｡
簡単なことだ｡
それでは､ ユーザー・プロンプトの冒頭をプリントしてみよう｡
そこで､ ユーザー・プロンプトの最初の2000文字を表示することにする｡
それで感覚をつかむんだ｡
これだ｡
見てみよう｡
だから､ ユーザーのプロンプトは､ ブラブラ､ ブラブラ､ ブラブラ､ ブラブラと答えるんだ｡
そしてお得な情報だ｡
そして､ これはdescribeメソッドの前に見たdescribe関数から取り出した記述です｡
つまり､ GPT4に課している仕事は､ この案件リストを消化し､ その中から50件を選び出すことだ｡
最も明確な説明があり､ 価格がわかる5つを選ぶ｡
最も明確な方法でこの価格を解析する｡
そしてそれはもちろん､ 考えなければならないファジーな種類の問題である｡
ほんの1､ 2年前なら考えられなかったようなことだ｡
エンジニアリング・コードだけを使って､ 信頼性の高い方法でそれを行うにはどうしたらいいのだろう｡
フロンティア・モデルには最適な問題だ｡ このようなニュアンスの理解や､ 何かまでは価格を意味し､
何かから離れることまでは価格と同じではないことを理解することができるからだ｡
そういうロジックは本当に難しい｡
しかし､ フロンティア・モデルは､ それを理解し､ これらの表現の背後にある意味を理解し､ それをインテリジェントに使ってアウトプットを出すという点で､
驚くほど効果的なのだ｡
だから､ これらのプロンプトに基づいて､ オーケー､ 推薦状をもらおう､ と言えるようになった｡
そして今､ 構造化出力を使っているため､ 通常とは異なるAPIを見ることになる｡
だから､ 私の推薦文を完成させる機能はOpenAIだ｡
そして､ ここはちょっと違う｡
少なくとも現時点では､ これはOpenAIのベータ版である｡
でも､ もうすぐ完全生産化されるんだろうね｡
OpenAIのベータ版､ あるいはアメリカ人にとってはベータ版ということですね｡
OpenAIのベータ版､ ドットチャット､ ドット補完､ ドット解析｡
そうやって､ いつものようにモデルを提供するんだ｡
そして､ これはGPT4とミニ､ GPT4､ フロンティア・バージョン2でサポートされている｡
ええと､ いつものように､ メッセージは､ ほら､ 言わないでおこうと思ってるんだ｡
知っているはずだ｡
私が言うまでもないだろう｡
確かに､ あー､ ここが違う｡
過去に､ JSONを要求することを指定する方法として､ このレスポンス・フォーマットを使用したことを覚えているだろう｡
さて､ 今回はJSONとは言わない｡
私たちがすることは､ 取引選択クラスをクラスに渡すことだ｡
これが今見ていたクラスで､ 私がJSONをスクラップしたものだ｡
そのクラスを応答フォーマットとして渡す｡
そして､ 結果を得るときには､ 通常のAPIコールは呼び出さない｡
完了はいつものようにドット・メッセージでゼロ､ そして内容ではなくドット・パースされたものとする｡
そして､ その応答を解析して､ ディールセレクションのインスタンスにする｡
そして､ それが返ってくる｡
だから､ その積み重ねで返した方がいい｡
このコードを実行し､ 何が起こり､ 何が返ってくるか見てみよう｡
だからGPTはゼロ､ GPTはミニと呼んでいる｡
特定の構造化された出力形式を指定しているのだ｡
戻ってきた｡
では､ どのような結果が出たのかプリントしてみよう｡
どんなものが戻ってきたのか見てみよう｡
エージェントのお得な契約セレクションだ｡
それこそ､ 私たちが取り戻したいと願っていたものだ｡
実際にどうなのか､ 見たほうがいいと思う｡
セットだろう｡
ええと､ これはディールの選択で､ その中にディールというフィールドがあります｡
覚えているかな？
ディールは私たちが設定したものだ｡
そして､ こちらがお得な情報だ｡
では､ どれだけのディールが戻ってきたかを見てみよう｡
もちろん､ 5つの契約を取り戻したいと思っている｡
見てみよう｡
確かに5つの契約を取り返すことができた｡
そして､ その最初の取引を印刷しよう｡
そして､ トップクラスのスマートウォッチ､ サムスン・ギャラクシー・ウォッチ・ウルトラを手に入れた｡
ええと､ これをうまくまとめたものがあるんだ｡
そして､ これが実際､ 我々にとって素晴らしいものに見えていることにお気づきだろう｡
GPT4ミニが価格とURLを出してきた｡
もちろん､ そのURLをクリックすれば､ その取引が開かれる｡
あれだ｡
素晴らしい｡
僕らにとってはうまくいっているよ｡
ああ､ わかった｡
さて､ 最後にスキャナ・エージェントをインポートしてみましょう｡
1､ 2分かかるだろうから､ もう一度､ キックオフをやってみるよ｡
その間に､ スキャナー・エージェントがどんなものかをお見せしましょう｡
スキャナー係はこっちだ｡
ええと､ これは前に見たコードとよく似たコードの束です｡
それで､ 今､ コメントを入れて､ よりよい構成で書いている｡
ご覧ください｡
でも､ さっき見たようなシステムプロンプトがあるんだ｡
ユーザープロンプトがあり､ それを見ると､ 5つのディールを厳守してください｡
そして init メソッドがセットアップされ､ OpenAI に接続される｡
fetch dealsは今見ていたメソッドで､ scrape deal fetchを呼び出してスクレイピングされたディールのリストを取得します｡
しかし､ ここでもやっていることは､ 潜在的にURLのリストであるメモリー・オブジェクトを取得し､
以前の検索ですでに表示されたと記憶しているものを結果から削除することである｡
こうして､ すでに見たことのある案件ではなく､ 新しい案件を獲得するようにしている｡
そしてもちろん､ エージェント・フレームワークを構築する上で重要な要素のひとつであるメモリーについては､
今後さらに検討していくつもりだ｡
そして､ ユーザー・プロンプトを作成し､ そして､ これは前と同じコードだ｡
そして､ スキャンは基本的に､ 先ほど見た機能そのものである｡
ユーザーのプロンプトを作成し､ OpenAIベータにドットチャット､ ドット補完､ ドット解析を呼び出します｡
我々はモデルにパスを出す｡
レスポンス・フォーマットが取引選択クラスである必要があることを指定し､ それが返されることを確認し､
それをパースしてresultに戻す｡
そして､ それが今ここにある｡
そうしたら､ えーと､ えーと､ まず､ どんな取引も排除する｡
価格がゼロより大きくない場合､ 価格がゼロの案件を返したくありません｡
そしてその結果を返す｡
そして､ もし何の取引も返ってこなかったら､ うーん､ おそらく､ すでにすべて表面化していたのだろうから､ 何も返さない｡
そして､ それは一番上のオプションで示されている｡
それがこのクラスだ｡
ということで､ 3日目に戻ろう｡
そして､ 結果が戻ってきたことを確認しなければならない｡
さて､ 私が気づいたことのひとつに､ 皆さんもお気づきかもしれませんが､
私がこの作業をしているときに､ 皆さんもお気づきかもしれませんが､
私はこのことを考えながら話をするのに夢中でした｡
でも､ このウェブサイトを見たとき､ 下取りで最大350ドル引きと書いてあった気がする｡
他のデバイスをお持ちの場合､ 最大で350ドル節約できます｡
フロンティア・モデルがいかにこのようなことに長けているかということをお見せした後で､
これはモデルが実際に犯したミスの例である｡
だから､ 私は自分の言葉を食べなければならない｡
そして､ 実際にそれは間違っていた｡
そして面白くなりそうだ｡
つまり､ それを学び､ それを見たことは有益なのだ｡
システム・プロンプトにそれを追加して､ そのパフォーマンスを改善できるかどうか試してみるかもしれない｡
今､ 私たちはそれがミスを犯す可能性があることを知った｡
とにかく､ スライドはまた次回に｡