4日目のJupyter Labへようこそ｡
とても見慣れたものに見えるだろうが､ 実は3日目と重複して始めているからだ｡
そしてこの複製にはいくつかの細胞がある｡
インポートを再実行し､ 環境をつなげたい｡
フロンティアモデルにつなげたい｡
だってそうだろう｡
フロンティア・モデルとオープンソース・モデルを共存させることができる｡
プロンプトやメッセージ関数は､ Cプラス・プラス・ファイルに書き出すことができる｡
ええと､ これは上書きされるから実行する必要はないと思う｡
でも､ Piプログラムのコードは､ 覚えているだろうから､ 試す必要はない｡
しかし､ 最大の累積数を持つ配列の部分配列を探すハード・プログラムのコードは得られるだろう｡
そして､ このストリーム､ GPT機能が必要なんだ｡
そして､ このストリーム､ クロード機能が必要なのだ｡
そして､ これから上書きすることになるが､ このオプティマイズ関数が必要なのだ｡
そして､ ゴージャスなグラデーション関数は､ Pythonを実行し､
Cプラスプラスを実行することを覚えているだろう｡
PythonやCプラスアルファの任意のコードを実行させることを許したくはないだろう｡
それはよくない｡
だから､ グラディオのインターフェイスは自分だけのものにしておき､ それについてはシェア＝トゥルーなんて言わないことだ｡
そして､ CSSで見栄えを良くする｡
分かった｡
そして､ 新しいコードに取りかかる｡
そして､ それは極めてシンプルなものになるだろう｡
まずは輸入品から｡
Huggingface hubからインポートしているのは､ 前に見たログイン関数と､ 推論クライアントというクラスだ｡
そしてトークナイザーをインポートする｡
ハグ顔にログインするんだ｡
これでよし｡
そして今度は､ いくつかの定数だ｡
コードとは､ このコードモデルの名前である｡
これは私のエンドポイントのURLなので､ エンドポイントのページから取ってきただけです｡
このURLを持っていけばいいんだ｡
今､ 私のエンドポイントはそこで動いていて､ コストは0ドルだ｡ 時給80円｡
そしてこれは､ 特に安定していなかったため､ 惜しまれつつも一時停止しているコード・ジェンマだ｡
オーケー､ ではこれを試してみよう｡
そこで､ オートトークナイザークラスを使用して作成できるトークナイザーを覚えておき､ Frompretrainedと言い､ モデルの名前を渡すと､
そのモデルに適したトークナイザーが表示されます｡
そして､ これを作るんだ｡
これは前に書いた関数で､ 構造化された辞書のリストを作成し､ 円周率を表す単純な関数をC＋＋＋で書き換えるよう求めるものだ｡
そして､ Tokenizersのapply chat templateを使ってテキストに変換します｡
ここで私が話していることを見てみよう｡
だから､ それを忘れずに実行し､ 次にこれを実行すればいい｡
だからまず､ メッセージとは何かを思い出してほしい｡
メッセージは2つの要素を持つリストである｡
そのうちの1人はシステムの役割を担っている｡
それが内容だ｡
あなたはPythonのコードを再インプリメントすることに固執していた｡
そしてユーザー､ ユーザーメソッド｡
ここで､ 完全にオープンであることの精神から､ 乱数ジェネレーターの実装を同一にし､
結果が正確に一致するようにする､ というちょっとしたヒントを付け加えておく｡
想像できるように､ あちこちにヒントを付け加えなければならない｡
その結果はすぐにわかるだろう｡
これはもちろん､ 皆さんがよく知っているメッセージだ｡
そして､ チャットテンプレートを適用した後､ どのようなテキストになったかをお見せすると､ これを印刷すると､
少し間隔が空きます｡
印刷されるのを見よう｡
さあ､ 始めよう｡
これを見てほしい｡
だから､ 特別なトークンがあって､ それからシステム､ それからシステム・メッセージがあるんだ｡
そしてユーザーも同じだ｡
そしてこれがコードだ｡
そして､ この小さなプロンプトで終わる｡
つまり､ LMはそのままアシスタンス対応を続けるということだ｡
そうなると､ ハグする顔のエンドポイントに電話をかけ､ オープンソースモデルにこの種のメッセージを送り､
レスポンスを返すのは本当に難しいことだと想像できるだろう｡
そして､ そうではない｡
ほんの2､ 3行のコードでできることだ｡
これだ｡
簡単なことだ｡
推論クライアントというオブジェクトを作り､ エンドポイントのURLとハグする顔のトークンを伝え､
クライアント・ドット・テキスト生成と言うだけだ｡
テキストを渡して､ この場合は結果をストリームバックしたい､ と言う｡
それがなかったら､ これはもっと短くなる｡
でも､ 結果がどんどん戻ってくるのはうれしい｡
そして､ 新しいトークンを最大まで増やすことで､ 少しの間なら続けられると伝えるんだ｡
どうなるかな？
この変換の結果､ 私のエンドポイントからストリーミングが戻ってきている｡
このコードを認識し､ PythonからCプラスへのコードの変換がとても合法的で､
とてもしっかりしたものであることを確認してほしい｡
それに､ 冒頭でC＋＋コードについて少し説明しているんだ｡
そして､ なぜそのようなことをしたのかというたくさんの文章で締めくくられている｡
私のシステムメッセージは､ そんなことをしてはいけないと主張しているにもかかわらず､ だ｡
ええと､ 説明をしないでくださいと書いてありますが､ システムメッセージで説明をしないようにすることはできませんでした｡
とはいえ､ GPTの4番とクロードは指示に従っている｡
だから､ そうならないようにするために､ もっと時間をかけてプロンプトに取り組むことができるだろうね｡
しかし､ そうでない場合は､ もちろん､ 後処理をするのはとても簡単で､
Cプラスプラスコードの始まりから､ その記号までのすべてを取り除くことができる｡
だから､ 後処理でそれをやるのはかなり簡単だろう｡
分かった｡
とにかく､ 推論を実行するのがいかに簡単であるかはわかった｡
ええと､ また次回､ UIにこれを組み込んでやってみよう｡
ではまた