そこで､ オープンソースの世界への旅を続け､ オープンソース・コードを生成する能力を調査するためにどのモデルを選ぶべきかを理解する時が来た｡
何から始めようか？
もちろん､ まずは大きなコードモデルのリーダーボードから｡
これは､ 以前見た､ 抱き合った顔の空間として動いているリーダーボードで､ コード生成タスクにおけるオープンソースモデルのパフォーマンスを比較するものだ｡
コード・ラマ､ コード・クワン､ ディープ・シーク・コーダーなど､ 本当にうまくいっているベースモデルのいくつかを見ることができる｡
というのも､ C＋＋コードのようなタスクのために特別に訓練されたモデルは､
基本モデルよりもはるかに優れたパフォーマンスを発揮するからです｡
PythonとCに加えて､ テスト能力も見ていきます｡
そして､ これらを見るとき､ ひとつ注目すべきことは､ ここで終了と書かれているものは､ 彼らのベンチマークであり､ スコアリングの一部は外部で行われたものだということだ｡
だから個人的には､ そのシンボルがないもの､ ハグフェイスの一部としてベンチマークされたもの､
スペース・プラットフォーム､ そしてこのリストのトップにあるコード・クワン1に傾倒する傾向がある｡
570億ドル､ まさにトップだ｡
クワンのコードバリエーション｡
チャット用に訓練されているので､ 例えばPythonのコードを与えて完了するのを期待するのではなく､
対話することができる｡
このPythonのコードを最適化されたC言語に変換してくれない？
プラス？
中に入って見てみよう｡
我々は今､ コード・クワン1を見ている｡ 570億円のチャットがトップモデル｡
そして､ ここにその機能の一部が記されている｡
そして､ どのようにそれに接することができるのか｡
例えば､ Pythonでクイックソートのアルゴリズムを書けばいい｡
そして､ トークナイザーがチャットテンプレートを適用してトークンに変換し､
それをモデルを通して実行します｡
だからこれは､ 過去に他の単純な活動､ つまりテキストを生成する活動に対して多くのモデルを実行した方法と非常に一致している｡
Codeclanを見ると､ PythonのコーディングとCプラスアルファのコーディングで実に高いスコアを出していることがわかる｡
ここで負けているのは､ ほんのわずかしか成績が良くない外部運営のこちらだけだ｡
そして見てみると､ このモデル自体が実はクインの微調整そのものなのだ｡
だから率直に言って､ コードにこだわることでうまくいっていると思う｡
クインだ｡
その後は大きく落ち込む｡
もうひとつは､ コード・ジェンマをお見せしたかったんです｡
しかし､ コードを使おうとすると､ そうなってしまう｡
ジェマ......とても簡単なタスクには答えられたけど､ もっと難しいタスクを与えられるとクラッシュしたんだ｡
コードを取得できるかどうか､ 練習として試してみるのもいいかもしれない｡
Gemmaは動くが､ この特別な問題では動かなかった｡ 少なくとも､ CプラスプラスでPythonの複雑な翻訳や再実装はできなかった｡
しかし､ 他のモデルを試してみるのもいい練習になるだろう｡
だから､ コード・クアンを選んだんだ｡
もう1度突っ込んでみよう｡
ええと､ 次にやるべきことは､ どうやってこれをいろいろな方法で走らせるかを考えることだ｡
私たちならできる｡
そのうちの一人はすでにご存じだろう｡
Google Colabにアクセスして､ Hugging Face Transformersライブラリを使ってCodexコードに直接アクセスし､
それを読み込んで推論時に実行するコードを書けばいいのだ｡
それは素晴らしいことだ｡
問題は､ コンパイルしたコードを自分のマシンで実行したいので､ ちょっと不便だということだ｡
そのコードをJupyterで実行し､ Google Colabで実行し､ 私のボックスにコピー＆ペーストしなければならない｡
そして､ そのすべてを1つの素敵なユーザーインターフェイスで行えることを望んでいた｡
だから基本的には､ このモデルをそのまま､ でも自分のボックスから実行できるようにしたいんだ｡
その方法はいくつかあるので､ そのすべてを紹介するつもりはないが､
超便利な方法がある｡
そしてそれは､ あなたのためにこのモデルを実行し､ あなたのコードからリモートでモデルを呼び出すために使用できるエンドポイントを与えてくれるよう､
hugging faceに依頼することである｡
つまり､ このモデルのようなモデルや､ あなたが望むオープンソースのモデルを実行するためのホスティング・ソリューションのようなもので､
自分で実行するためのエンドポイントを提供する｡
そして､ それは超高度に聞こえる｡
こんなことをするのは大変だと思うかもしれない｡
全然難しくないことがわかった｡
ここにあるデプロイボタンをクリックするだけだ｡
そして最初の選択肢は､ 本番用の推論専用の推論エンドポイントだ｡
そして､ このモデルを独自に展開することができる方法だと言っているのだ｡
そして､ どこからでも自分で電話をかけ､ このモデルを自分で使うことができるようになる｡
もちろん､ そのための費用は支払わなければならない｡
タダではないが､ 決して高くはない｡
でも､ これはちょっと高いんだ｡
確かに注意すべきことだ｡
これらの推論エンドポイントを使用する場合､ AWS､ Azure､ GCP､ Google
Cloudのどれで実行するかを選択します｡
また､ CPUボックスかGPUボックスかを選ぶこともできる｡
このモデルの場合､ GPUボックスが必要で､ 少なくともNvidia L4が必要だ｡
少なくとも､ GPUに24GBのラムを搭載している私たちには､ それが推奨されている｡
これを選択し､ いくつかの項目を入力し､ エンドポイントの作成をクリックします｡
それはとても簡単なことだ｡
私たちは､ あなたの個人的な使用のために私たち自身の専用エンドポイントを持っている抱擁顔0ドルを支払って実行している｡
時給80円｡
米国にお住まいの方は､ 価格が異なるかもしれません｡
だから､ 超安くはないけれど､ いつでも好きなときにオフにしたりオンにしたりできるんだ｡
もし予算が許すのであれば､ 実験することをお勧めするが､
もしそうでなければ､ 心配はいらない｡
どんなものか､ 一緒に見てみるといい｡
このメニューを使って､ 専用のエンドポイントに移動します｡
そして､ 2つの専用エンドポイントを設定したことがわかるだろう｡
そのひとつがコードクランである｡
私は基本的にその画面に従い､ 推奨されたL4ボックスで動作している｡
というわけで､ 現在の支出は0ドルだ｡ このエンドポイントを走らせる喜びのために1時間80ドル｡
私があなたのために何もしないとは言わせない｡
そして､ ジェンマのコードも試した｡
アルファボックスで試してみた｡
私はこれを実行させることができなかった｡
簡単なことはできるけど､ 複雑すぎるとクラッシュするんだ｡
でも､ 私はこれを練習の場として使ってほしい｡
コード・ジェンマを使えるようにしてみて､ それがコードとどう一致するのか興味がある｡
しかし､ リーダーボードを見ればわかるように､ コーデクランがこの種のタスクにおいて非常に優れており､
非常に有能であることに疑いの余地はないだろう｡
だから､ この時点で､ あなたは願わくば､ この通りにしてほしい｡
codeclanエンドポイントが立ち上がって実行されるまで､ コーヒーを買いに行って5分待つ必要がある｡
その後､ このエンドポイントを呼び出してコード生成を試すために､ 私たちのボックスで実行されているJupyterLabに戻る準備ができる｡
すぐに会おう｡