これからモデルについて少し話をしようと思う｡
よく耳にする言葉にフロンティアモデルというものがあるが､ これは現在可能なことを開拓しているllms､
つまり可能性のある最大のモデルを指す｡
そして､ フロンティア・モデルと言われる場合､ クローズド・ソース・モデル､ GPTやクロードのような有料モデルを指すことが多い｡
実際､ 最大で最強のオープンソース・モデルを指してフロンティア・モデルと言うこともある｡
だから文脈によっては､ どちらの意味にもなる｡
しかし､ まずはクローズドソースのフロンティアモデルについて話そう｡
また､ これらはスーパースケーラーと呼ばれることもある｡
モデルの中で最も大きく､ スケールが大きい｡
まず､ 紹介するまでもないだろう､ OpenAIのGPTだ｡
2022年末にChatGPTが登場したとき､ そのパワーは私たちを驚かせた｡
あなたもよくご存知でしょう｡
アントロピックのクロード｡
AnthropicはOpenAIのライバルだ｡
それはよく知られていることだ｡
そしてクロードは､ 通常データサイエンティストに好まれるものだ｡
しかし､ クロードとGPTは今､ 首位争いを繰り広げている｡
クロードがやや優勢｡
ジェミニはグーグルの参入企業である｡
グーグルにはジェンマもいる｡
オープンソースのバリエーションもある｡
そしてコマンドRは､ コヒーレで見たことがあるかもしれないし､ ないかもしれない｡
カナダのAI企業｡
そして "perplexity "は､ 実際に他のモデルのいずれかを使用することができる検索エンジンであるが､ 同時にモデル自体も持っている｡
これが大きなフロンティアモデルだ｡
そして､ オープンソースのいくつかのモデルについて話そう｡
というのも､ metaはオリジナルのllamaをオープンソース化することで､
オープンソースLMSの分野を切り開いたからだ｡
フランスのミストラル社のミストラルというモデルがある｡
複数の小型モデルが含まれている｡
クエンは､ 私たちがオバマとプレーしていたときに話したモデルだ｡
強力なモデルだ｡
アリババクラウドは本当に素晴らしく､ 私たちも時々Quanを使うつもりです｡
私が述べたGemmaはGoogleの小型モデルで､ FiはMicrosoftの小型オープンソースモデルだ｡
だから､ これは混乱しているし､ 超重要なことなんだ｡
すでにご存知の方もいらっしゃるかもしれませんが､ 何人かの方にとっては､ ずっと気になっていたことかもしれません｡
これだけははっきりさせておきたい｡
モデルにはまったく異なるアプローチの使い方があり､
その違いを理解することが重要だ｡
ここで何が起こっているのか､ 頭の中に思い浮かべてください｡
ChatGPTはウェブフロントエンドで､ チャットをしながらクラウド上で動作している何かを呼び出すことができます｡
ChatGPTの場合､ もちろんクラウドやジェミニ・アドバンスなどもある｡
クラウドAPIがある｡
ここでもまた､ クラウド上で実行されている何かを呼び出しているわけだが､ ユーザー・インターフェースを介してではなく､
コードを使っている｡
Jupyterラボの要約Jupyterノートブックでやったことは､ OpenAIのAPIを呼び出すことだった｡
私たちはOpenAIに接続し､ 彼らのAPIを呼び出していました｡ 一般的にチャット・インターフェースでは､
無料のティアか､ ユーザー・インターフェースのチャットをほぼ好きなだけ使うために月額利用料を支払うかのどちらかです｡
そこには限界がある｡
APIは違う｡
APIにはサブスクリプションも月額料金もなく､ APIリクエストのたびに料金を支払う｡
有料APIの場合｡
オープンソースの無料APIもあるので､ APIを直接呼び出すこともできる｡
ラング・チェインのような抽象化レイヤーを提供するライブラリもあり､ ラング・チェインを使うこともできる｡
そして､ その中でさまざまなAPIを呼び出すことができる｡
そして､ それらを統一した1つのAPIを提供する｡
ラングチェーンのようなフレームワークもある｡
ラングチェーンを使っている人を見かけたら､ それは単にlm APIを使っているだけだ｡
より良いユーザー､ より良いAPIインターフェイス､ より一貫性のあるものを提供するだけだ｡
マネージドAIクラウドサービスと呼ばれるもので､
アマゾンやグーグル､ マイクロソフト・アズールなどのプロバイダーと接続するものだ｡
そして､ 彼らはクラウド上でモデルを実行し､ 裏側で実行できるように共通のインターフェイスを提示している｡
オープンソースかもしれないし､ クローズドソースかもしれない｡
アマゾン・ベッドロックのことも耳にするだろう｡
それがアマゾンの提案だ｡
Google vertex AIはGoogleとAzureのMLである｡
マイクロソフトが提供するこの製品は､ 他の名前でも呼ばれている｡
これがマネージドAIクラウドサービスだ｡
しかし､ これらに共通しているのは､ ローカルでコードを書いているということだ｡
そして､ クラウド上で稼働しているLMを呼び出す｡ それがクラウドAPIだ｡
第3のアプローチは､ LMのコードとウェイトを自分で入手し､
それを自分のマシンで､ あるいはリモートを使って実行する方法だ｡
そしてここでも､ このコースでは2つの異なる方法がある｡
そして､ 両者の違いを理解することが重要だ｡
PythonのコードやPyTorchのコードにアクセスできるようになる｡
そして､ そのモデルを使ってかなり細かい作業ができるようになり､ トークン化されたテキストのようなことができるようになり､
トークンを使ってモデルを呼び出し､ 実際にモデルを操作することになります｡
通常､ Google Colabのようなものを使い､
クラウド上の非常に高性能なマシンでそれを実行する｡
それに代わるものとして､ 人々はこのコードを高性能のC＋＋＋コードに最適化し､ コンパイルして､
自分のコンピュータ上でローカルに実行できるようにした｡
それがオラマだ｡
C＋＋のコードとして､ 裏ではllama CPWというものを使っている｡
つまり､ ローカルで実行できるということだ｡
しかし､ 完全にコンパイルされたコードなので､ 何が起こっているのかをコントロールすることはできない｡
だから､ これで少しはわかってもらえると思う｡
細かいことは省くが､ モデルを使ってできる3つの異なる方法と､
その下にあるいくつかのサブ・テクニックを紹介したい｡
それを踏まえて､ これからどうするか｡
これから練習をしますが､ オラマを使うので､ コースを通して使い続けられる､
役に立つ練習になるでしょう｡
では､ 早速JupyterLabでエクササイズを説明しよう｡