ストリーミングと呼ばれるものを追加することで､ この結果をもう少し満足のいくものにすることができます｡
ストリーミングとは､ LLMから情報が戻ってきて､ タイプライタースタイルのインターフェースと呼ばれるものに表示されることです｡
その方法は極めてシンプルだ｡
OpenAIのチャットコンプリートの呼び出しを作成するときに､ 一度にすべてを受け取るだけでなく､ フローバックさせたい場合は､
別のパラメータストリームをtrueに等しく渡すだけです｡
クロードを使ってみるとわかるが､ GPTとクロードではAPIが少し違うのだ｡
しかし､ それはGPTストリーム・イコール・トゥルーでのやり方だ｡
さて､ それは何を意味するのか？
つまり､ ストリームに戻ってくるのは､ 単一のテキスト・レスポンスではなく､
反復処理できるようなもので､ 反復処理すると､ レスポンスの各チャンクが戻ってくる｡
さて､ 今回のケースでは､ マークダウンで表示しているので､ もう少しスマートにしたい｡
というのも､ マークダウンは､ マークダウンの文字がストリーミングされ始めるかもしれないし､
マークダウンの文字が表示されるかもしれない｡
各チャンクの完全なマークダウン・バージョンを書き換えることで､ そのチャンクに目を通すことができるようになる｡
しかし､ 基本的には､ 私はすべての応答､ つまり戻ってきたすべてのチャンクの累積記録のようなものを管理している｡
そうして戻ってきたチャンクに対して､ 私は基本的に､ そのチャンクを返答に含める｡
ええと､ マークダウンという単語が実際にそこにある場合は､ それを取り除いて対応します｡
そして最後に､ フルディスプレイを更新して表示する｡
だから､ これはちょっと複雑なんだ｡
単にテキストを書くだけなら､ これは必要ないだろう｡
ええと､ この方法が必要な唯一の理由は､ 素敵で派手なマークダウンの方法で表示したいからです｡
どういう意味か､ お見せしよう｡
もし､ これを人類について繰り返したら､ 最初にリンクを見つけてすべてのページを取得する間､
少し待たなければならない｡
あれを見ろ｡
おなじみのストリーミング・インターフェースが完成した｡
マークダウンなので､ ここにリンクのようなものも表示されるのがいいですね｡
そして､ 私が何を言っていたのかをお見せしよう｡
マークダウンで表示させたくない場合は､ もっと簡単な方法として､ ストリーム内のチャンクに対して､
えーと､ えーと､ と表示させることもできる｡
ええと､ プリントチャンク｡
そして､ end equalsのように､ 毎回改行されないようにする必要がある｡
そして､ これがうまくいくかどうか､ 今見ているところだと思う｡
この場合､ 一連の小さなテキストとして印刷されるので､ マークダウンの書式は適用されません｡
ああ､ それはうまくいかないよ｡
あ､ すみません｡
もちろん､ これはチャンクであるべきだ｡
そうやって全部入れた方がいいかもしれない｡
そうでなければ､ 流れてくるオブジェクトを取り戻すことになる｡
おそらく､ 私がそうしているのを見て､ バカ野郎､ これでどうだ､ と思ったことだろう｡
これはリアルタイムで表示される｡
よし､ もう一度やってみよう｡
今よりいい結果が出るかどうか見てみよう｡
だから､ ここに単純にprint文を入れるとする｡
こんな感じだ｡
そして､ また戻ってくる｡
どうぞ
戻ってくるのがわかるだろう｡
超シンプルだ｡
ただ､ きれいなフォーマットにはならない｡
しかし､ この方法でやれば､ コードは明らかにシンプルになる｡
これが､ 結果をストリームバックするために必要なすべてのコードである｡
つまり､ streamをtrueにセットし､ それを繰り返しながら戻るのだ｡
ところで､ コマンドと除算記号､ ウィンドウズではウィンドウズ・キーと除算記号で､ このようなコードのブロックをコメントアウトしたり､
コメントアウトを解除したりするものです｡
このショートカットを使って､ もう一度､ 素晴らしいフォーマットでアントロピックを見てみよう｡
リンクを見つける｡
そして､ またこれだ｡
そしてもちろん､ 毎回驚くほど違うパンフレットになる｡
ええと､ それで......今度はあれだ｡
そして今度は別の会社を試してみよう｡
AIエンジニアのためのユビキタスなオープンソースプラットフォームとハグしてみよう｡
どうなるか見てみよう｡
リンクがいくつかある｡
そして､ キャリアのチャンスが書かれた抱きつき顔のパンフレットがやってきた｡
特典｡
ご連絡ください｡
そして
そして一緒にAIの未来を築きましょう｡
とても素晴らしい｡
よし､ これを楽しくするためにもうひとつやろう｡
システム・プロンプトを作成したところまで戻ってみよう｡
あれはどこだった？
ここにずっと戻ってきた｡
システムプロンプト｡
つまり､ システム・プロンプトの特徴のひとつは､ やるべきタスクを記述するだけでなく､
LLMがこのコンテンツを作成する際に採用すべきトーンや性格についても語る場所であるということだ｡
では､ ここでコメントとバリエーションを解除してみよう｡
そして､ このバリエーションはまさにそれを含んでいる｡
短い､ ユーモラスな､ 楽しい､ 冗談のようなパンフレットであるべきで､ 私たちはそのコードを実行する｡
ええと､ ここでは非常にいたずらっぽく使うので､ システム・プロンプトはグローバル変数のようなもので､ 別の場所で参照する｡
ハードコードされているので､ 再実行する必要はない｡
そして､ 私の思い違いでなければ､ これから陽気な､ 冗談のような､ ははは､ さあどうぞ､ という話になると信じている｡
セーフティネットがある人類学へようこそ｡
anthropicでは､ あなたが実際に信頼できるAIシステムを構築し､ 朝のコーヒーよりも信頼性が高く､
猫の気分転換よりも理解しやすいことを保証しています｡
陽光降り注ぐサンフランシスコを拠点に､ 私たちはAIを敵ではなく味方にする使命を担っている｡
つまり､ システムプロンプトにちょっとした変更を加えるだけで､ 会社案内にこれほど素晴らしい別のレンズが使えるというのは驚異的なことなんだ｡
本当に､ 本当に驚くべきことだと思う｡
あなたがそれを見たときに混乱しないように､ コメントを外します｡
しかし､ これはもちろん､ 私が最初に申し上げたいこと､ つまり､ プロンプトを使用して生成されるものの性格に影響を与えるということがどういうことなのかを深く理解するチャンスであるということを､
この実験を通して実感していただきたいのです｡
だから､ もう一歩踏み込むことができる｡
皮肉たっぷりのパンフレットを作ろう｡
スペイン語のパンフレットを作る｡
ええと､ 別の言語に翻訳されるようなものを追加してください｡
いろいろ試してみて
これは､ プロンプトをどのように使って､ どのような結果を得るかに影響を与えるかを学ぶ上で､ とても重要なことなんだ｡
さて､ エクササイズの話をしすぎる前に､ この話をまとめよう｡
そこで今日やったことは､ 初日にやったことを拡張して､ ウェブサイトを要約するためにLMに1回電話するだけでなく､
関連するリンクを集めるためにLMに1回電話し､ そのすべてのデータをスクレイピングして強固な会社案内を作るために1回電話した｡
大きな問題を小さなステップに分割しているんだ｡
しかし､ 私が皆さんに印象づけたかったのは､ このような情報の統合とその結果としての生成は､
さまざまな種類のビジネス問題に非常に応用できるということだ｡
商品を生み出すためのマーケティング・コンテンツを書くために､ このようなことができると想像できるだろう｡
パーソナライズされたEメールコンテンツを作成するための､ 製品仕様からのガイドのようなチュートリアルです｡
たくさんのメールに目を通すことによってね｡
このように､ あるデータを合成してJSONにまとめ､ それを何らかのアウトプットを構築する方法として使うという2つのステップを想像する方法はたくさんある｡
さまざまな応用が可能だ｡
だから､ ぜひやってほしいのは､ これを日々の仕事に応用する方法を考えることだ｡
そして､ この商業的なアングルも興味深い｡
ええと､ 自分の専門分野､ 自分が最も得意とする領域について考えることができるようなもの｡
そして今､ この新しいもの､ あなたが持っているこのスキルを､ どのように有効活用できるか？
だから､ それについて考えてみてほしい｡
いつでも遠慮なく私にアイデアをぶつけてほしいし､ その例をいくつか作ってGitHubに置いてみてほしい｡
llmsへの複数のコールを使って情報を合成し､ コンテンツを生成している素晴らしい例がいくつかあるわけだ｡
また次のビデオで会おう｡