初めてのエクササイズを紹介できることに興奮している｡
リマインダーとして､ PCを使用している場合はAnacondaプロンプトに､ ターミナルウィンドウを表示してください｡
もしあなたがマックを使っているなら､ プロジェクトのルート・ディレクトリに行くはずだ｡
LMエンジニアリングは､ conda activate LMS､ もしくはvirtualenvを使用している場合はそれに相当するコマンドを実行してAnacondaを起動し､
JupyterLabと入力してJupyterラボを呼び出した｡
左側のファイルブラウザで､ このように週が表示されるはずだ｡
あるいは､ すでに1週目のフォルダに入っている場合もあり､ その場合は次のように表示される｡
そして､ 2日目のエクササイズ・ノートを見てほしい｡
そして､ これがその計画だ｡
これからやるのは､ コードからラマを呼び出す方法だ｡
Pythonのコードを使って､ あなたのコンピューターで動いているラマ・モデルを呼び出します｡
そして､ これから何をするかというと､ 最初にそれをセットアップするんだ｡
だから､ それをうまく使って､ 結果を目にすることができるだろう｡
そして､ 昨日完了した要約プロジェクトを更新し､ OpenAIへの呼び出しの代わりに､ Olamaを使用してローカルモデルを使用する練習をしていただきます｡
そして､ もしあなたがOpenAI APIにサインアップしていないのであれば､ これは初めてのチャンスだ｡
それで､ まず最初に､ ラマを使うことを説明します｡
ラマを使うメリットは､ もちろんAPI料金がかからないことだ｡
オープンソースだ｡
あなたのボックスで動いている｡
無料だ｡
もうひとつの利点は､ データがあなたの箱から出ることがないことだ｡
だから､ クラウドに絶対に出してはいけない機密データであろうと､ 何かに取り組んでいるのであれば､
もちろん､ データをインターネットから出さずにローカルで作業するテクニックが得られる｡
デメリットは､ 明らかにフロンティア・モデルは､ オープンソース・モデルよりも何倍も何十倍も大きく､ 強力だということだ｡
だから､ 結果はそれほど強くないと予想すべきだ｡
でもね､ その分､ 通話料がかかるんだ｡
まず最初に､ OlamaにアクセスしてOlamaをインストール済みであることを願う｡
ダウンロードボタンを押すだけで､ レースが始まるのだ｡
そうすれば､ このリンク（localhost 11434）にアクセスすると､ Olamaが実行中であることを示すメッセージが表示されるはずだ｡
もし表示されない場合は､ ターミナルかPowerShellを立ち上げ､ Olama serveと入力すれば実行されるはずだ｡
そしてそこに行けば､ またラマが走っているのを見るはずだ｡
もしそうならなかったら､ デバッグとリサーチを少しやってみて､ それから僕に連絡してくれれば､
力になるよ｡
だから､ いくつか輸入するつもりだ｡
これからいくつかの定数を設定する｡
これは僕のローカル・ボックスのURLで､ このポートはスラッシュAPIスラッシュ・チャットで動作するポートだ｡
リャマ3となるモデルという定数も持つつもりだ｡ 2.
さて､ このメッセージだが､ うまくいけばこの構成がわかるだろう｡
もう少し違う言い方をしよう｡
これは前に話したメッセージと同じだ｡
OpenAIで使っているものだ｡
メッセージは辞書のリストである｡
各ディクショナリは､ roleをキーとし､ 値はユーザーまたはシステムであり､ contentをキーとし､ 値はユーザーメッセージまたはシステムメッセージである｡
つまり､ 非常に簡単に言えば､ 「ジェネレーティブAIのビジネス・アプリケーションをいくつか説明してください」というユーザー・プロンプトが欲しいということだ｡
それを実行しよう｡
ペイロードと呼ばれるJSONオブジェクトに､ モデルやメッセージを指定する｡
結果を取り戻したいだけなんだ｡
そして､ Pythonパッケージのrequestsを使って､ このURLにJSONでリクエストをポストします｡
そして､ 戻ってきたJSONをメッセージ・コンテンツ・フィールドで見てみる｡
だから今はもちろん､ 僕のボックスから僕のボックスへローカルにウェブリクエストをしている｡
そして､ リャマ3とつながっている｡ 2 llamaがサーブしているモデル｡
その結果がこれだ｡
そして､ その答えが実に良いものであることをお伝えしたい｡
だから､ 私たちは商業的な応用について学ぼうとしているのだから､ その回答のいくつかに目を通して､
何か興味のあるものがあるかどうか確認しても損はないだろう｡
さて､ ここでお見せしたかったのは､ その裏側で何が起こっているのかを正確に説明したかったからで､
基本的にはこれらのURL､ つまりローカル・ボックスへのウェブ・リクエストを行っているのだ｡
しかし実は､ Allamaの親切な人たちがPythonのパッケージを作ってくれていて､ これを使えばもっと簡単だ｡
だから､ これを1行で済ませることができる｡
だから､ ここから始めてもよかったのだが､ ウェブリクエストを作る手順をお見せすることで､ 実際に何が起こっているのかを直感的に理解していただきたかった｡
しかし､ Allamaという素晴らしいパッケージがあり､ それをインポートすれば､ Allama dot
chatと言って､ モデルを渡し､ メッセージを渡し､ レスポンスの内容を受け取ることができる｡
それを実行すれば､ 基本的に同じものが得られることが期待できる｡
そして､ これだ｡
あれだ｡
ああ､ 想像するに､ 彼らとの間に違いがあるのはもうわかるよ｡
もちろん､ その都度多少の違いはある｡
ええと､ これはもっと長いレスのようだ｡
よし､ これで私のティーアップは終わりだ｡
あとは君の出番だ｡
初日に､ ウェブサイトを要約するソリューションを構築し､ それを実現するためにOpenAIに呼びかけたことを覚えているだろう｡
実際､ ここにOpenAIへの呼びかけがある｡
あなたへの挑戦は､ この2日目の練習ラボを続けて､ 同じサマライザーのコードを追加し､ あなたの地元のウラマのオープンソースモデル､
llama 3を使用したウェブサイト､ サマライザーを構築できるようにすることだ｡
2または別のモデルで要約を行いたい場合｡
それが練習だ｡
解決策はソリューション・フォルダーにあります｡
でも､ このビデオは完成したと思うし､ 完成したらまた次のビデオで会おう｡