データサイエンティストの実験パラダイス､ Jupyter Labへようこそ｡
第8週の3日目のノートに入ると､ 今回は貴重なコメントが少ないことがわかるだろう｡
私はノートブックにプロダクション・クオリティーのコードをコメントしている｡
この時点ではね｡
君たちはプロだ｡
私があれこれ説明するまでもないだろうから､ さっそく本題に入ろう｡
ええと､ では輸入品から始めようと思う｡
今日のパズルに入るにあたって､ いくつか環境を整えようと思う｡
ええと､ スクレイプド・ディールというものをこっそりインポートしたんだけど､ そのことを言わずに､ このスクレイプド・ディールを持って､
フェッチを呼ぼうと思うんだ｡
進行状況を表示するをtrueに設定して､ 何をするかは言わないで実行します｡
そして､ それについてもっと話す｡
だから､ キックオフだ｡
さあ､ 出発だ｡
では､ 何が削られたのか？
取引する｡
パッケージの中のエージェント・フォルダに入っている｡
そして､ これがドットパイの一部である｡
では､ お得なドットパイをお見せしよう｡
これは､ 一連のフィードを定義することから始まるPythonモジュールだ｡
そしてこれらはRSSフィードのURLで､ たまたま様々なカテゴリーでお得な情報が発表されている便利なものだ｡
これらのカテゴリーは､ 私たちが知っているカテゴリーと偶然にも一致した｡ 私たちのモデルは､
エレクトロニクス､ コンピューター､ 自動車､ そして主にスマートホームと家庭菜園を対象としてトレーニングされたからだ｡
そこで､ いくつかのフィードを紹介しよう｡
他にもたくさんあるし､ もう少し待つ気概があれば､ もっとたくさんのフィードをここに入れて､
より大きなデータセットを扱うことができる｡
だから､ ここにユーティリティがいくつかあるので､ 自分の好きな時間に目を通すことができる｡
extractと呼ばれるメソッド､ extractと呼ばれる関数は､ HTMLの一部をクリーンアップし､ 有用なテキストを返す｡
そして､ 擦ったクラスの契約もある｡
そして､ これはRSSフィードから取得した取引を表している｡
つまり､ 正確にはスクレイピングではなく､ RSSから取得しているのだ｡
しかし､ ルックアップも少しやってみよう｡
だから､ それは真実なんだ｡
ええと､ initでやることは､ エントリーと呼ばれる､ 単なる値の辞書を取ることです｡
そして､ 私たちは中に入る｡
そして､ これはRSSフィードから直接得られるものだ｡
そして､ タイトルと要約を選び､ リンクを取る｡
そして､ ここを見てほしい｡ ここでやっているのは､ URLを取得して､ それを実際にフェッチしに行くということだ｡
だから､ ここでスクレイピングをしているんだ｡
申し訳ない｡
そのURLをいくつかフェッチして､ その結果をいろいろなものに入れ､ 美しいスープでいろいろなものをパースする｡
これは1週目､ 初日にRequestsから取得したURLを解析するときにやったことと似ている｡
を得る｡
オーケー｡
そして､ ここにさらに中身を取り込んで､ こすり洗いするものがある｡
そして､ 機能があれば､ いくつかの機能を構築する可能性もある｡
これは､ RSSフィードから送られてきたものをクリーンアップしてレコードにするための､ ちょっとしたスクレイピング・コードだ｡
そして､ それが何であるかを印刷するものがある｡
そして､ このクラス・メソッドfetchは､ まさに先ほどキックオフしたもので､ 実行が終了したのがわかるだろう｡
そして､ すべてのフィードを繰り返し､ フィード・パーサーと呼ばれるものを呼び出します｡
パースする｡
feedparserは私がインポートしたパッケージで､ RSSフィードを引っ張ってきて辞書として渡してくれる便利なパッケージだ｡
FeedparserをPythonのパッケージとして使い､ それぞれのフィードから戻ってきたトップ10を取り出します｡
私たちは､ それぞれの会社から得た取引のトップ10を取り上げる｡
そしてもちろん､ 希望すればより多くのデータを持ち帰ることもできる｡
今のところ､ この数字に限定している｡
そして､ 彼ら一人ひとりのために､ これが自分自身であることを創造する｡
そのエントリーのために､ 僕らのインスタンスを作るんだ｡
その項目はもちろん､ 先ほど見た辞書である｡
ええと､ 少し時間があるんだ｡ 気になるなら､ ここで寝てくれ｡
それは､ このディールのウェブサイトからそのウェブページを取得するためにアクセスするのは反社会的だと思ったからなんだ｡
もし私たちが､ そのウェブサイトに大量のリクエストを､ 一瞬の隙を突いて次から次へと殺到させたら......｡
だから､ ウェブサーバーに過度な負担をかけたり､ 過度な要求をしたりしないように､ スリープを入れるのが良いスクレイピングのやり方とされている｡
つまり､ これは､ ウェブサイトからお得な情報を取得し､ その情報を返すことで､ 私たちがより良い市民になるための方法なのだ｡
だから､ 今やったんだ｡
そして､ それらの取引はこのノートの中で私たちを待っているはずだ｡
しかし､ その前に､ この有用なモジュールにある他のいくつかの事柄に触れておこう｡
この3つのクラスは､ 構造化されたアウトプットを定義する方法なので､
すぐに重要になる｡
GPTの4人に回答を求めると､ ええと､ 私たちはここで､ クラス取引､ クラス取引の選択､ そしてクラス機会を定義しています｡
これらはベースモデルのサブクラスであることがわかるだろう｡
ベースモデルは......パイダンティック・パッケージで､ いろいろなことができる｡
この機能でできることのひとつは､ JSONバージョンのクラスとその構造､ そしてクラスそのものを非常に簡単に切り替えることができることだ｡
だから､ おそらく多くの人がよく知っていることがたくさんある｡
ペダンティックだ｡
でも､ でも､ それを使うために必要なのは､ 単にベースモデルのサブクラスである新しいクラスを作ることだけです｡
つまり､ 最初に定義するクラスはディールと呼ばれるものだ｡
しかも､ 商品説明と価格とURLだけのものだ｡
以上､ 説明価格URLでした｡
そしてもうひとつ､ ディールの選択というものがある｡
そして､ GPT4にはこう答えてもらうつもりだ｡
私たちは､ 取引を選択したいと伝えるつもりだ｡
だからこれが重要なんだ｡
そして､ それはとてもシンプルだ｡
これは､ ディールと呼ばれる単一の属性に､ これらのディールのリストを持つだけのものだ｡
それがすべてだ｡
つまり､ ディールの選択とは､ ディール・オブジェクトのリストが欲しいということだ｡
では､ これをJSONの言葉で考えてみると？
JSONの用語で言うと､ この取引選択は1つのオブジェクトで､
1つの属性しか持っていません｡
それがリストだ｡
そして､ それはそれぞれのオブジェクトである物事のリストである｡
つまり､ これがJSONになると次のようになる｡
商品説明がある｡
そして､ フロート（浮動株）である価格を持っている｡
そして､ ある種のURLを持っている｡
そうすれば､ 契約は成立する｡
そして､ 案件のリストには潜在的にそれらの一群がある｡
そして､ それがディールセレクションを構成する｡
だから､ 今私が入力したJSONを見て､ これらのクラス定義と比較してみてほしい｡
これは､ この構造をJSONで表現したものだ｡
そして実際､ GPT4に対して､ 構造化された出力をこのフォーマットにしてほしいと言うとき､ 私たちがやっていることは､
このようなJSONで応答してほしいと言っているようなものだ｡
それだけだ｡
それで､ これがどのように機能するかということがお分かりいただけたと思う｡
そして､ それを削除する｡
今はその必要はない｡
最後に言っておきたいのは､ ここで定義したopportunityというクラスもある｡
そのうちの一人､ そして見積もり｡ これは後でこれらの取引の価値を見積もるときに使うものだ｡
そして､ 値引きは単純に､ 契約価格と見積もり価格との差額となる｡
どの程度のディスカウントが提示されているのだろうか？
これがセットアップだ｡
あー､ それじゃ､ こっちに戻ろうか｡
うーん､ じゃあ､ そこを直そうか｡
ええと､ それで､ その......僕たちは今､ 走って､ 擦って､ 契約したんだ｡
ドット､ フェッチ｡
何人いるんだ？
ディールには50件の案件が眠っている｡
なぜ50件かというと､ 5つのフィードがあり､ それぞれのフィードから10件ずつお願いしたからです｡
それで50になる｡
ええと､ だから君が期待しているのはそういうことなんだ｡
44番を見ると､ きれいにプリントアウトされている｡
それが44番目の契約だ｡
そして､ もしフルディスクリプションをするならば
これが､ 我々が持っている情報の全容だ｡
日替わりのガレージ・ストレージがあるんだ｡
送料をかわすためにインストールを選択する｡
ええと｡
つまり､ こういうことだ｡
これを見ると､ いくつかのことに気づくだろう｡
そのひとつは､ RSSフィードに価格が表示されないことだ｡
価格帯はわからない｡
そしてもうひとつ､ これには価格すらない｡
どれくらいずれているかを教えてくれるんだ｡
送料が無料になるとか､ そういうことは表示されるのですが､ 実際にこの商品に関連する価格が表示されるわけではありません｡
そして､ それは退屈だ｡
つまり､ 常に適切な使い方ができるわけではない｡
そして､ これらの各項目に対して提示されている実際の価格を把握するために､ いくつかの解析を行う必要がある｡
これらの項目を見ていただければわかると思うが､ 1つの項目の中に複数の､ えー､ ものを組み合わせているものもある｡
アップルウォッチには､ 20％オフで提供されるさまざまなモデルがある｡
そして､ それを消化し､ 私たちが望むものを引き出そうとするのは､
非常に困難なことである｡
だからフロンティアモデルを使う必要があるんだ｡
私たちはGPT four zeroを使って､ RSSフィード､ スクレイピングされたディール､ そしてそのスクレイピングされたディールを､
私たちにとって有益なディールに変えていく｡
この大きなセットから､ 最もわかりやすく説明されているベスト5を見つけて､
それを抜き出して要約して私たちに返してほしい｡
そして､ 構造化されたアウトプットにそれを求める｡
私たちがどのようなフォーマットが欲しいかを伝え､ そのフォーマットで回答してもらう｡
それで今､ 君は､ あー､ ティーアップされたんだ｡
私たちが成し遂げようとしていることを理解してくれている｡
次のビデオでそれをやるつもりだ｡