そしてJupyterLabに戻ってきた｡
少し時間が経った｡
先週はColabで作業していたが､ 今日はJupyterに戻ってローカルで作業している｡
コードを見て､ これからやろうとしていることを確認する前に､
フロンティア・モデルのコーディング能力を調べたリーダーボードを思い出してみよう｡
AI企業であるヴェラムのリーダーボードを覚えているかもしれないが､ ヴェラムには人間による評価､ つまり簡単なPythonテストがある｡
この指標に照らし合わせると､ GPTフォーゼロがリードしていることがわかるだろう｡
そして､ クロード・スリー・ソネットを見下ろすと､ ここではあまりうまくいっていない｡
ええと､ 今､ いろいろな理由があって､ これはおそらく最新のものではないような気がするんだ｡
他のところでは､ ラマ3がないことに気づいた｡ このサイトでは1なので､ おそらくこれは少し古いのではないかと思っている｡
人間による評価がテストのベストではないことも知っているし､ 私はコーディングのシールリーダーボードに興味がある｡
このサイトに来て彼らの紹介文を読むと､ 人間による評価だけでなく､ ライブ・コードベンチやプログラミング・パズルなど､
さまざまな種類のコーディング・テストを行っていることがわかる｡
だから､ これは超包括的だと感じている｡
また､ ラマ3世も喜んでいる｡ 1がリストに載っているので､ これも最近のものという印象だ｡
そして､ このリーダーボードのトップはクロード3だ｡ 5ソネット､ GPTフォーゼロと続き､ 3位にはミストラルのラージとオープンソースモデルのミストラルが入った｡
だから､ これで何が起こっているかがわかる｡
GPT4が多くの特徴を持っているか見てみよう｡
私には見えない｡
GPT4が必要かもしれない｡
ああ､ もしこの面でトップモデルを本当に比較したいのなら､ だが｡
でも､ もっと質素にしたいのであれば､ GPT2をミニに使ってもかまわない｡
少し節約できた｡
それはともかく､ Jupyter Labに移動して4週目に入り､
3日目に今週のコードを見てみよう｡
そして､ いつものように､ 今日学ぶことのために､ いろいろなことが起こっている｡
そのうちのひとつは､ コードを生成する問題についてのものだ｡
しかし､ 私たちはこれを､ さまざまなモデルを比較したり､ 先ほどと同じようにリーダーボードを見たり､
LMソリューションでビジネス上の問題を解決する方法を理解したりする方法としても使うつもりです｡
そして､ ここで気づくかもしれないことがある｡
Gradioを使い､ プロトタイプにまとめるということがどういうことなのか､
また別の機会にお見せしたいと思います｡
インポートを実行し､ 通常のload envを使って環境変数を設定する｡
今一度､ EMVファイルを持つことを思い出してほしい｡
今回はOpenAIとanthropicを使う｡
このセルをセットアップして､ OpenAIとクラウドのインターフェイスを通常通り初期化し､ OpenAIとクラウド3を使います｡
5.
申し訳ない｡
GPT4とクラウド3を使う｡ 5.
ソネット......そのリーダーボードで上位2位に入っていた｡
それでは､ システム・メッセージとユーザー・プロンプトを作成しましょう｡
昔と同じやり方でやっている｡
システムメッセージがハードコードされていたのは､ もう昔のことのように感じる｡
ユーザー・プロンプトは､ 変数を渡して､ その変数に対するユーザー・プロンプトを生成するものだ｡
つまり､ あなたはPythonのコードを高性能のCプラス4とM1マックで再インプリメントするアシスタントだということだ｡
ここで僕が使っているのは明らかにM1マックだ｡
特にCプラスプラスのセットアップについては､
微調整が必要かもしれません｡
Cプラスプラスコードでのみ対応｡
コメントは控えめに｡
時折のコメント以外の説明はしないこと｡
Cプラス・プラス・レスポンスは､ 可能な限り最速で同一の出力を生成する必要があるため､
1秒前のスライドでお見せしたプロンプトよりも少し言葉が多くなっていますが､
これは私が微調整を加えて最もうまくいったものです｡
このPythonコードをC言語に書き換え､ さらに可能な限り最速の実装を行う｡
ちょっと繰り返しが多い｡
ええと､ それから､ ここだけちょっとズルをして実験をしているのがわかるだろう｡
実は､ 今にわかると思うけど､ たぶん､ これはリーダーボードが示唆している通りなんだ｡
クロードには余計なヒントは必要なかったが､ GPT4には必要だった｡
そうでなければ､ 生成されたC＋＋のコードは機能しなかった｡
ええと､ オーバーフローがないように､ 数字の型に注意してくださいと言わなければならなかった｡
また､ 以下のような必要なcplusplusのパッチをすべて含めることも忘れずに｡
もしそうしなければ､ GPT4はcplusplusコードを生成するが､
そのパッケージを正しくインクルードしない｡
だから､ どんな理由であれ､ 結局はそうしなければならなかったんだ｡
あー､ たぶんこれを試してみたら､ そうならないことがわかると思うよ｡
指示的でなくても､ もっといい促し方があるだろう｡
ええと､ GPT4ではちょっとズルい気がします｡
でも､ これでいい｡
とにかく､ このことを念頭に置いて､ この関数を実行し､ ユーザー・プロンプトを作成する関数を定義します｡
そして､ このセクションはあなたにとって非常に馴染み深いものだろう｡
ええと､ ええと......のメッセージは､ リストを作成するところです｡
システム・メッセージにはロール・システム､ ユーザー・プロンプトにはロール・ユーザー｡
これで､ Pythonに与えられたメッセージ・リストが生成された｡
これはcplusplusのコードで､ そこにあるべきでないものを取り除いてくれる｡
モデルは､ 上がこのキープ､ 下がこのキープで反応する傾向があるんだ｡
それをテキストから削除して､ optimized dot cppというcplusplusファイルに保存する｡
つまり､ これが実行されると､ ディレクトリに最適化されたcppファイルが現れることになる｡
と呼ばれたとき｡
分かった｡
そして､ GPT APIを呼び出すために最適化されたGPT関数です｡
OpenAI dot chat dot completions dot createと呼ぶことにする｡
モデル・イコールOpenAIのモデル・メッセージで､ Pythonのメッセージを渡して､
ストリーミングに設定します｡
そして､ 私たちはストリームでチャンクのためにプレーする｡
つまり､ 結果が戻ってくるたびに､ その小さなかたまりを印刷するのだ｡
そして最後にこれをファイルに書き出す｡
願わくば､ こんなことをする必要はないのだが......｡
クロードが同じことをするのと同じバージョンだ｡
クロードを呼ぶつもりだ｡
クロード・モデルのメッセージ・ドット・ストリーム｡
ええと､ クロードの場合､ システムメッセージをユーザー・プロンプトとは別に提供しなければならないことを覚えているよね｡
そうだ｡
これもまた､ 皆さんよくご存知の構図だ｡
トークンの最大数を伝えなければならない｡
そして､ これがストリーミングバックのやり方だ｡
同じようなことだ｡
出力を印刷する｡
分かった｡
この時点で､ 実際に試してみる準備をしているので､ この2つを実行する｡
そして､ 次のビデオのために一時停止します｡
次のビデオでは､ GPT4とクロード3を試しているところを見てほしい｡
5ソネットは､ この難題に直面したときに実行する｡
ではまた