LMSで商業的な問題を解決するという私たちの戦略を継続し､
ステップ4に進む｡
事前に訓練されたモデル､ あるいは既存のフロンティアモデルを超えて､
より多くの力を引き出す｡
そのうちの2つは私たちが使ってきたもので､ そのうちの1つは､
マルチショット・プロンプト､ 複数のプロンプトがある場合のチェイニング､
ツールの使用といったものです｡
これらはすべて､ より良い結果を得るための方法だ｡
もちろん､ 今では超お馴染みのラグもある｡
私は､ あなた自身の人生について知識を深めるための余分なプロジェクトができたことを望んでいる｡
ボロ布があり､ そしてファインチューニングという新しいものがある｡
これが3つのテクニックだ｡
そして､ そこには確かに多くの混乱がある｡
質問されることはたくさんある｡
どの場面でどのテクニックを使うか､ どうやって決めるのか｡
もちろん､ すべてのテクニックを併用することも可能だが､ 普通は､ 少なくとも最初は､
ひとつに集中するものだ｡
そして､ 最初の2つのテクニックは推論時間のテクニックであることを指摘する価値がある｡
これらは､ 訓練されたモデルを推論時に､ より多くの力を引き出す方法を見つけ出すというものだ｡
そして3つ目は､ トレーニングの時間､ テクニックだ｡
つまり､ 事前に訓練されたモデルを使って､ より多くのデータを供給し､ 重みを微調整して､
問題を解決する能力をさらに高める方法を考えようということだ｡
そこで､ それぞれのテクニックの利点について､ プロンプトを出す際にとても手短にお話ししましょう｡
私たちはこのように素早く､ 簡単に､ さまざまなプロンプトを出すことができた｡
それを再現すればいい｡
LLMへのプロンプトメッセージを継続的に改善し､ より良い結果を得ることは簡単だ｡
そして､ 通常､ それによって非常に早く直接的な改善が見られる｡
マルチショット､ プロンプト､ 背景､ 文脈をプロンプトに加えると､ すぐに改善される｡
しかも低コストだ｡
だから､ プロンプトを使うメリットはたくさんある｡
つまり､ ボロ布は､ LLMを武装させるために､ 非常に特定の情報を抜き出すことができるため､
このような強力な正確さをもたらすという利点があるのだ｡
非常にスケーラブルで､ 膨大な量のデータが入ってきても､ ラグ・パイプラインが関連するコンテキストを抜き出すことができる｡
そして､ それは3つ目のポイント､ つまり､ それができるから効率的だということにつながる｡
うーん､ 微調整だね｡
では､ どんなメリットがあるのか？
そのため､ 深い専門知識､ スペシャリストのスキルセットをモデルに組み込むことができる｡
非常に微妙なニュアンスで､ 何かをするのにとても優れたモデルを作ることができる｡
だから､ ただ余分な事実が与えられているわけではない｡
あの､ CEOのことなんですが｡
CEOの名前は？
エイブリー・ランカスター
エイブリーについての具体的な事実や､ 彼女が以前していたことを教えてもらうだけではない｡
時間をかけて学んでいくものなんだ｡
私はCEOのキャリアを知らないし､ エルム社という保険会社について､ またその文化やコミュニケーションについて学ぶこともない｡
そのため､ より深い洞察力を得ることができ､ 示されたデータについて推論する､ ほとんど人間のような能力を示すことができる｡
つまり､ 推論時間のテクニックよりも､ モデルの能力と性能を変える方法の方がはるかに深いということだ｡
それによって､ モデルは異なるスタイルやトーンを学ぶことができる｡
もちろん､ システム・プロンプトを追加して辛辣なコメディー・スタイルを求めたり､
llmsをバトルさせてGPTの4ゼロを敵に回した初期のように､ プロンプトを出すだけでもある程度は達成できる｡
だから､ システム・プロンプトでそれができる｡
しかし､ もしあなたが非常に微妙な口調を求めるのであれば､ 例えば長年訓練を受けてきたカスタマーサービス・スペシャリストのスタイルを模倣したモデルを求めるのであれば､
彼らには多くのデータを見る必要がある｡
学ぶべき事例がたくさんある｡
そして4つ目のポイントは､ これはトレーニングに大きな投資を必要とするものですが､ 一度トレーニングしてしまえば､
推論時に実行することができるということです｡
ラグのようなことをする必要もない｡
そうなると､ 文脈を調べて､ もう必要のない文脈を提供しなければならない｡
すでにモデルの重みに焼き込んでしまったからだ｡
だから速くなった｡
では､ 短所はどうだろう？
さて､ これらの欠点の多くは､ 他の欠点の長所から派生したものである｡
ええと､ プロンプトの場合､ 1つの欠点は､ 全体のコンテキストウィンドウによって制限されることです｡
もちろん､ プロンプトに突っ込める量は限られるし､ たとえ使い切ったとしても､
ジェミニのようなメガコンテキストウィンドウがあったとしても､ 100万個のトークンがあったとしても､
それを覚えているのであれば､ そのコンテキストに大量に突っ込めば､ 推論時にそこから学習する量が減り､
明らかにリターンが逓減することがわかる｡
推論そのものが遅くなり､ コストもかかる｡
より多くの文脈を汲み取る｡
また､ より大きな問題を解決するために複数の推論を呼び出すときに､ プロンプト・チェイニングのようなことをしていると､
当然､ すべてが遅くなる｡
だから､ いくつかの欠点がある｡
ベクターのデータベースが必要なんだ｡
ベクター・データベースに入力する必要がある｡
もしエイブリー・ランカスターがCEOを退任するのであれば､
おそらく正確なデータを提供し､ 最新の状態に保つ必要がある｡
ニュアンスに欠ける
データの背後にある深い意味を知る能力がないんだ｡
事実と微調整のマイナスを取り上げているだけだ｡
もちろんそうだ｡
難しいよ｡
作る方が難しい｡
とても楽しくなりそうだが､ 汗だくになりそうだ｡
難しいだろうね｡
大量のデータが必要だ｡
たくさんの例が必要だ｡
ええと､ どの程度専門的になりたいかとか､ 目的にもよるんだけどね｡
しかし､ 一般的に言って､ 高いデータニーズがあり､ トレーニングコストがかかることは目に見えている｡
もうひとつ､ よく語られる詐欺がある｡ それは「壊滅的な忘却」と呼ばれるもので､ とても深刻に聞こえる｡
壊滅的な忘却というのは､ つまり､ ラマ3のような事前に訓練されたモデルを使った場合のことです｡
1､
そしてそれを大量のデータで微調整していけば､ あなたの特定の問題を解決するのにどんどん良くなっていくだろうが､ 時間が経てばそうなるだろう｡
トレーニング時間が長くなるにつれて､ ベースモデルのベース情報のいくつかを忘れるようになり､ その結果､
トレーニングしている特定の種類の質問以外を行った場合､ 品質が低下する可能性があります｡
だから､ これは注目されている行動であり､ いくつか懸念される影響もある｡
そのため､ ベースモデルの情報を失わないようにする必要がある場合､ それがパフォーマンスに影響するのであれば､
この点には注意が必要だ｡
分かった｡
最後に､ プロンプトを使うときは､ プロジェクトの出発点として使われることが多いということをお伝えしておこう｡
多くの場合､ モデルの最初のバージョンはおそらくフロンティアモデルで､
精度が必要な特定のケースで､ 性能を追加する方法としてプロンプトを使用します｡
トレーニングに余分なお金をかけたくないし､ 既存の知識ベースのデータもある｡
それからだ｡
そして､ 特殊なタスクがあり､ 非常に大量のデータがあり､ 最高のパフォーマンスが必要な場合は､
ファインチューニングを行う｡
それに､ ニュアンスも必要でしょう？
そしてそれはもちろん､ 私たちが製品価格予測装置を使っている状況でもある｡
私たちには大量のデータがある｡
私たちには専門的な仕事がある｡
私たちは最高のパフォーマンスを求めているし､ 多種多様な商品の価格を区別できるほど､
商品に対するニュアンスの理解を求めている｡
さて､ ここでちょっと小休止して､ また戦略のセクションに戻り､ データに戻ってキュレーションに入ります｡