第6週へようこそ｡
2日目は1日｡
データに戻ったとき､ 私たちはデータセットを怒りにまかせて振り返り､ トレーニングに入ったときに針を動かすことができるような巨大なデータセットを構築する｡
その前に､ 今日の大半は会話に費やされる｡
このセッションは､ 戦略について話すもので､ おそらく､ 最も心をつかむような内容ではなく､
契約した理由でもないだろうが､ 非常に重要なものだ｡
これは､ これから起こることに正しい方法で取り組むための､ 良い基礎情報となる｡
特に､ ビジネス上の問題に直面してから､ 本番でLMソリューションを実現するまでの戦略と､
そのステップについてお話ししたいと思います｡
そして今､ 私たちはそれを実行しようとしているのだから､ 私たちの実際の商業的な問題について､ その練習をするつもりだということを伝えたい｡
そして､ 私たちが経験する旅に共感してもらうことが重要だ｡ なぜなら､ この後､ 自分のビジネスの問題で同じことをすることになるからだ｡
また､ これからお話しする､ あるいはこれまでお話ししてきた､ モデルを最適化するための3種類のテクニックを少し比較してみたいと思います｡
ラグを使ってプロンプトを出すのか､ 微調整を使ってプロンプトを出すのかという話だ｡
そして､ どのような状況でそれらの異なるアプローチのいずれかを選択するのかについて､ 多くの混乱がある｡
どのようなテクニックを使うべきか､ 具体的な例を挙げて説明したい｡
それではまず､ 商業的な問題にモデルを適用するための5つのステップ戦略についてお話ししましょう｡
そして最初のステップは理解することだ｡
これは､ ビジネス要件に深く入り込み､ どのような問題を解決しようとしているのかを理解することである｡
成功をどう判断するのか？
非機能とは何かについては後で話すが､ それをすべて入念に文書化し､
ベースラインモデルのテストやデータセットのキュレーションなど､ 一般的に来るべきものに対する準備をすることだ｡
そして､ 最初にしなければならないのは､ 使用するモデル､ あるいは残りのプロジェクトの一部として使用するモデルを選択することだ｡
そして､ タイは前の週の内容を多く取り入れるだろう｡
リーダーボードを見て､ さまざまなモデルの長所と短所を分析した｡
カスタマイズとは､ ラグやファインチューニングといった大きなテクニックを使ってモデルからより多くの力を引き出すことです｡
そして､ これまでまったくお話ししてきませんでしたが､ 非常に重要なことをプロダクション化します｡
次に何が来るのか？
Jupyterノートブックが本番で使えるようになるとは限らないからだ｡
もっと何かをしなければならない｡
まずはステップ1から始めよう｡
だから理解できるし､ これはすべて常識的なことだ｡
でも､ こういうことはいくら言っても足りないんだ｡
つまり､ ごく簡単に言えば､ ビジネス要件を収集する必要があるということだ｡
評価する必要がある｡
成功がどのように評価されるのか､ 前もって理解しておく必要がある｡
超重要だ｡
また､ 私たちがよく知っているデータ・サイエンスの指標についてだけでなく､ あなたのユーザーやあなたのビジネス・スポンサーは､
プロジェクトが目標を達成したかどうかをどのように判断するのでしょうか？
最終的なビジネス指標とは何か､ それはあなたがすぐに影響を及ぼすことはできないかもしれないが､
理解する必要がある｡
私たちが量をこなしてきたように､ データを掘り下げる必要がある｡
いくらですか？
DQ､ つまりデータクオリティの状況はどうなっているのか？
形式は､ 構造化されているのか､ 構造化されていないのか､ あるいはその両方なのか？
それは､ あなたが選択するモデルや､ どのようにアプローチしていくかに影響するからだ｡
非機能要件の決定
非機能的なものとは､ 予算､ どのように､ どれくらいのスケールが必要なのか､ レイテンシーとは､ 一瞬のレスポンスが必要な場合､
モデルからのレスポンスが返ってくるまでどれくらいの時間待つことができるのか､ といったようなものだ｡
それと､ 市場投入までの時間も理解している｡
非常に短期間でこれを作らなければならないのか､ それともこれに取り組んでいる時間があるのか｡
そしてもちろん､ 非常に短期間で必要とされるものであれば､ APIを使ったフロンティア・モデルが適している｡
そして､ ユーザー・インターフェースに関して言えば､ Gradioのようなものであれば､ もちろん数分で立ち上げることができる｡
だから､ これが後の決断の指針になる｡
準備に関しては､ 実に3つの活動がある｡
まず第一に､ 何がすでにあるのか､ どのような既存のソリューションがあるのかを調査する必要がある｡
今すぐこの問題を解決し､ 彼らのパフォーマンスや仕事内容について､ 非常に良いハンドルを手に入れよう｡
その一環として､ データ・サイエンスをまったく伴わないソリューションにも目を向けるべきだ｡
いくつかのif文だけのソリューションもあるだろうし､ 線形回帰のような伝統的なデータサイエンス・ソリューションもあるだろう｡
これが商品価格を予測しようとするものであれば､ 例えばこうだ｡
それなら､ 最初はそこに行くことになるだろう｡
そして､ たとえあなたが私に､ いいか､ 私は絶対に知っている､ LLMがすでにあるもの､ あるいはこれらの既存のモデルを大幅に凌駕することに疑問の余地はない､
と言うかもしれない｡
今の彼らがどうであろうと関係ない｡
その答えは､ 基準値が得られるので､ まだやる価値があるということだ｡
そして､ 新しいモデルへの投資に基づいて､ その改善を定量的に示すことができる｡
だから､ 単なる基準値としても､ これは貴重な練習になる｡
しかしそれ以上に､ 何がすでに世に出ているのかを知る必要がある｡
そして､ 関連するLMSを比較する｡
まず第一に､ 価格､ コンテキストの長さ､ ライセンスの制約､ そしてベンチマークといった基本的なものに分けて説明したのを覚えているだろう｡
リーダーボードを見たり､ アリーナを見たり､ 自分がやろうとしていることのスペシャリストのスコアがあるかどうかを理解する｡
スケールからシールスペシャリストのリーダーボードのようなものを使用している｡
そしてもちろん､ データのキュレーション､ スクラビング､ 前処理｡
そして､ まだ特に話していないのが､ データセットの分割だ｡
通常､ 全データをトレーニング用データと､ モデルの評価に使う検証用データに分け､
最後にテスト用データに分けます｡
そして､ ハイパーパラメータを微調整し､ すべてを正しくするために検証を利用できるように､
ずっと保持しておくものだ｡
そして最後の最後には､ このテストであなたのモデルの最終的な成功を測るのだ｡
つまり､ データのクリーニング､ 前処理､ つまり解析､
そして最終的な分割は準備の一部なんだ｡
LMSを基準に基づいて選択し､ 実験し､ トレーニングし､
キュレーションしたデータで検証する｡
まだやっていない｡
それは､ 私たちが楽しみにしていることだ｡
というわけで､ ここで一旦中断し､ 次回は重要なステップ4である最適化について話を続けることにする｡