そして､ ハギング・フェイス・トランスフォーマー・ライブラリーのモデル・クラスを巡る旅の続きへようこそ｡
私たちはただ､ 単純に書いたときに得られるラマ・モデルのアーキテクチャを見て､ 他のモデルにも目を向けるべきだと言っただけなのだ｡
もうひとつ指摘しておきたいのは､ 常に次元を見ることだ｡
簡単に触れたように､ ボキャブラリーを表す入力次元の数を見て､ それがこの下の出力と一致していることを確認してほしい｡
そして､ 建築物を通して寸法を追うことができ､ 何が起こっているのかを感じ取ることができる｡
分かった｡
しかし､ こうしてすべてを終え､ 何が起こっているのかを話し合い､ インプットを作り上げた今､
ビジネスの時が来た｡
これがドットジェネレーションのメソッドモデルだ｡
GPU上にある私たちの入力を取り込み､ その準備をする｡
新しいトークンは80枚までとする｡
ええと､ 念のために言っておくけど､ 私たちがお願いしたのはジョークだよ｡
データサイエンティストの部屋でのジョーク｡
私たちのお気に入りの小さな実験｡
それから出力を取るんだ｡
アウトプットのリストの最初のものを取る｡
そして､ トークナイザー・ドット・デコードを呼び出して､ トークンから文字に戻し､ 再びテキストにする｡
そしてその結果を印刷する｡
そうしよう｡
だから走り出す｡
この下を見て､ フォワードパスをするのを見るのが好きなんだ｡
そして､ 軽妙なジョークに対する私たちの答えがそこにある｡
なぜ回帰モデルはニューラルネットワークと別れたのか？
ニューラルネットワークが感情をオーバーフィットさせていたからだ｡
ああ､ 大丈夫だよ｡
ひどくはない｡
それは､ ええと｡
ああ､ まったくもっともなジョークだよ｡
今まで聞いた中で一番面白いとは思わないけど､ まあね｡
悪くないよ｡
ロジスティック回帰モデルはなぜセラピーを受けたのか？
感情を分類するのに苦労していたからだ｡
それは本当にいいことだと思うよ｡
それは素晴らしいことだと思う｡
よりシンプルで､ データ・サイエンスの読者には的確だ｡
フロンティアのモデルたちが思いつくギャグより､ その方がいいと思うよ｡
ああ､ よくやった｡
ラマ 3. 1.
ええと､ 念頭に置いておかなければならないのは､ もちろん､ ここで扱っているのは80億パラメータのバージョンのラマ3だということだ｡
1､
つまり最小のバージョンで､ それを4ビットに量子化し､ さらに2倍に量子化した｡
ええと､ つまり､ この超スリム版のモデルで､ 完全に立派なジョークを言っただけなんだ｡
楽しんでもらえたかな？
次にすることは､ メモリを解放するためのクリーンアップだ｡
そうでなければ､ このまま走り続ければ､ さまざまなモデルがあっという間にGPUを使い果たしてしまう｡
このようなことが起こるかもしれないが､ その場合はいつでもランタイムのセッションを再起動して､
インポートを行った後､ 中断したところから続けることができる｡
だから次にすることは､ 今やったことをすべて､ そのすべてを行う小さな関数にパッケージ化することだ｡
この関数は､ モデル名を受け取り､ 通常の辞書のリストをメッセージします｡
そして､ 今やったことを修正する方法として､ これを一行ずつ見ていこう｡
まず､ オート・トークナイザー・クラスを使用して､ 作業中のモデルに基づいて新しいトークナイザーを作成します｡
この行は､ パディング・トークンを文末トークンと同じにするためのものである｡
このようなことは､ お決まりの定型文のようなものだ｡
そしてこれだ｡
私たちはそれを知っているし､ よく知っている｡
ここで､ このトークナイザーに適したチャットテンプレートをリストのメッセージに適用します｡
そして､ 一連のトークンを返してくる｡
それをGPUに載せ､ 入力に割り当てる｡
これは新しい｡
だから､ もうひとつ､ ちょっとした技を加えて､ 結果をストリーミングで返そうと思うんだ｡
そして､ Huggingfaceライブラリーはそれもサポートしている｡
テキストストリーマーというものを作るんだ｡
トークンをストリームバックする際に､ トークンをテキストに変換する必要があるからだ｡
どのトークナイザーを使っているかを知る必要がある｡
だから､ それを提供し､ そして行動する｡
ええと､ まずモデルを手に入れます｡
これは因果LMの自動モデルである｡
これはオート・トークナイザーに相当する｡
しかし､ 事前に訓練されたモデルをロードするには､ モデル名を指定する｡
デバイス・マップはオート､ つまりユーザーGPUを意味する｡
もし4ビットの数値があれば､ その数値のコンフィギュレーションを4ビット・ダブル量子化NFに設定する｡
そして､ bfloat16は計算､ つまりデータ型である｡
そして､ 今こそビジネスモデルのドットジェネレーションの時だ｡
それが大きな方法だ｡
そしてインプットを渡すと､ 最大80の新しいトークンを生成し､ ストリーマに渡す｡
これが､ 出力をストリーミングし､ クリーンアップする部分だ｡
つまり､ この関数は､ 前にやったことをすべてラップし､ さらにストリーミングを追加したものだ｡
それで､ 今書いた関数を使って､ 単純にファイ3をメッセージで呼び出してみよう｡
これでファイ3が再びロードされることになる｡
初めてロードするので､ 少し時間がかかります｡
ええと､ すでにロードしてあるので､ ディスクにキャッシュされています｡
ええと､ だから､ ハグした顔から全部を再ダウンロードする必要はないんだ｡
ハブだ｡
そうしている間に､ ロードするためにまだ少しやることがあるんだ｡
そうだな｡
ああ､ 資源を見ることができると言おうと思ったんだけど､ あっという間に終わってしまいそうだから､
ストリーミングで戻ってきてほしいんだ｡
そして､ がっかりされるかもしれないという事実を覚悟しておくべきだと思うんだ｡
少なくともプロンプトを使った限りでは､ ファイ3にジョークを言わせることはできなかった｡
むしろ､ データ・サイエンティストが話していそうな一般的な事柄をいくつか挙げて､ とりとめもなく説明している｡
このプロンプトを､ 53歳にとってもう少し自己主張の強いものに改善できるか､
それとも単に53歳がやりたがらないだけなのかはわからない｡
53は実に多くのことを立派にこなすが､ この特別な仕事はできない｡
だから､ 他のモデルも試してみてほしい｡
また､ 53にジョークを言わせるために促し方を改善できるかどうか､ あるいはジョーク好きでないなら､ 得意なことをいくつか見つけられるかどうかも見てみよう｡
Llmsの使用方法など､ 我々がllmsに尋ねた他の質問にも､ 実にうまく答えてくれるだろう｡
それが53の結果だ｡
さて､ ジェマはどうするか｡
Gemmaはシステム・プロンプトをサポートしていないので､
このようにユーザー・プロンプトを渡さなければならない｡
そして､ ジェンマを試してみよう｡
もちろん､ 20億のモデルだ｡
とても小さなモデルだ｡
非常に小さなモデルであることに加えて､ 私たちはそれを4ビットに量子化し､ また量子化している｡
というわけで､ この時点では非常にスリムなモデルを扱っていて､ メモリもそれほど消費しないし､ 読み込みも早くてジョークもすぐに言えるはずだ｡
そこにジョークがある｡
データサイエンティストはなぜ統計学者と別れたのか？
p値に関する意見の相違が多すぎたからだ｡
p値に関する､ またオタクっぽいジョークだよ｡
私には理解できない｡
でも､ もしかしたら私が見落としている明白な何かがあるかもしれない｡
ああ､ ようこそ｡
どなたか教えてください｡
ええと｡
それでも､ 親切でフレンドリーなところがいい｡
もうひとつある｡
またジョークを聞きたいなら言ってくれ｡
これを走らせたら､ もっといいジョークが飛び出すかもしれないよ｡
あー､ でも､ あー､ 確かに､ あー､ 楽しい､ あー､ トーンだ｡
そして､ ジェマ2世はデータ・サイエンスに関連した､ 称賛に値する仕事をしたと思う｡
そして､ 特に､ この小さなモデルをさらに量子化していることを思い出してほしい｡
ジェマ2世は素晴らしい結果を残したと思うが､ 私が使っている量子を使えば､
もっと優れた結果が出るだろうし､ パイ3世でももっと良い結果が出るかもしれない｡
それから､ ミックスドトライアルモデルを選ぼうが､ もう少しスリムで自分も使えるものを選ぼうが､
いずれにせよ､ いい結果が得られると想像している｡
また､ 彼らが苦手とする数学の質問をしてみるのもいいだろう｡
難しい数学を扱っているのなら｡
しかし､ 私はラマ3世にかなり難しい質問をしてみた｡ 1以前は全く問題なかった｡
いずれにせよ､ 今はこれらのモデルを使って､ いろいろなことを試してみる時だ｡
あなたはオープンソースのモデルを使っている｡
APIにコストはかかっていない｡
あなたが支払うコストは､ 使い切った場合だけです｡
フリー・コラボを利用していない方で､ グーグル・コラボのユニットを使い切ろうとしている方｡
ええと､ 私が使っているのは1. 毎時76台｡
というわけで､ これを使って作業したり､ 抱きつき顔トランスフォーマー・ライブラリーを使ってオープンソースのモデルで推論を楽しんだりする時間は､
本当にたくさんある｡