LLMエンジニアリングの旅の第3週目に戻ってきた皆さんを熱烈に歓迎しましょう｡
先週､ 素晴らしいGradioフレームワークを使ったユーザー・インターフェースの構築を楽しんだのなら､
今週はもっと気に入るはずだ｡
その前に､ すでにできることをいつものように簡単にまとめておこう｡
トランスフォーマーについて説明でき､ 重要な専門用語に精通している｡
コンテクスト・ウィンドウについては､ 牛が帰ってくるまで話すことができる｡
GeminiでもClaudeでもOpenAIでも､ 自信を持ってコーディングできる｡
APIは知っているだろう｡
ストリーミングのやり方も､ マークダウンのことも､ JSONレスポンスのことも知っている｡
また､ AIアシスタント､ チャットボットを作ることもできる｡
道具を使わせることもできる｡
さまざまなエージェントを使うこともできるし､ マルチモーダルにもできる｡
そして､ 自分たちでも作った｡
そして願わくば､ それをさらに広げてほしい｡
それもそうだ｡
それで､ 今日は何が起きているんだ？
今日はハグ顔に入ろう｡
そもそも､ ハグ顔とは何か､ その範囲と規模を説明できればいいわけだし｡
ハグ顔で最も注目すべきことのひとつは､ その幅広さだ｡
オープンソースのデータ・サイエンス・コミュニティに提供するさまざまなものを､
すぐに理解してもらえるだろう｡
モデル､ データセット､ 空間をハグハグしながら見ていくんだけど､ Google Colabについてもよく理解できるようになるよ｡
すでにGoogle Colabを理解しているかもしれないが､ その場合はすぐに復習できるだろう｡
しかし､ そうでない人たちのために､ 私たちはそれに踏み込もうとしている｡
優れたGPUを搭載したマシンでどのようにコードを走らせることができるかを見てもらい､ 世の中にあるさまざまな製品と､
このクラスで使うGPUを理解してもらう｡
だから､ 私たちがセッティングします｡
だから､ オープンソースのものを準備するんだ｡
その前に､ いつものように､ これまでの経過と現在地､ そして残された課題を簡単に振り返っておこう｡
最初はLMエンジニアリングの知識がない状態で左からスタートした｡
第1週は､ フロンティアのあらゆることに没頭した｡
第2週は｡
先週はUIを構築した｡
私たちはトップ3のAPIをすべて使い､ ツールを使って実験した｡
エージェント化 マルチモダリティ 今週は､ オープンソースについて､ ハグ顔について｡
来週は､ 問題に適したLMの選択とコードの生成について話す｡
そのあとはラグ・ウィークだ｡
そしてフロンティアモデルを微調整し､ オープンソースモデルを微調整し､ フィナーレですべてを持ち帰る｡
それでは早速､ ハグ顔の話をしよう｡
つまり､ どこにでもあるものなんだ｡
地域全体で使われているんだ｡
素晴らしいリソースだ｡
ハギング・フェイス・プラットフォームは､ ハギング・フェイス・コーにアクセスし､ アカウント登録すれば利用できる｡
あなたは3つのカテゴリーにアクセスできる｡
まず第一に､ 80万を超えるオープンソースのモデルがあり､ それらは様々な種類のタスクをこなすことができる｡
そして今後の週にはデータセットがある｡
それは宝の山で､ 20万を超えるデータセットが､ 考えられるほとんどすべての問題をカバーしている｡
検索してみてください｡
このコースの後半で､ 特に素晴らしいデータセットを使うことになる｡
しかし､ あなたの問題を解決するためのデータはたくさん見つかるだろう｡
Kaggleというプラットフォームと似ていて､ よりデータ面に特化しています｡
でも､ あなたはその膨大なデータを抱きかかえる顔の中に持っている｡
また､ ハギング・フェイスにはスペースというものがあり､ アプリを書いてそのアプリを公開することができる｡
クラウドのハードウェアで動作させ､ 他の人が使えるようにする｡
自分のコードがオープンソースであることに満足しているのであれば､ それこそがハギング・フェイスのすべてなのだから｡
多くのスペースアプリはGradioで作られています｡
つまり､ これらはグラディオのアプリなのだ｡
ええと､ グラディオのアプリではないものもあります｡
Streamlitと呼ばれるものがあり､ これも非常に不思議なアプリの作り方だ｡
グラディオとは違って､ かなりマジカルだ｡
他にもアプリを公開する方法はいくつかあります｡
あー､ でも､ グラディオが一番一般的だと思うよ｡
特にリーダーボードと呼ばれるものがあり､ これはグラディオのアプリで､ さまざまなLLMを評価し､ ランク付けしてスコアカードのような形で表示するものだ｡
リーダーボードは､ さまざまなLLMを比較するときによく使うが､ 今日もハギングフェイス・スペースを見るときに､
そのいくつかを見ることになるだろう｡
これがHuggingfaceのプラットフォームで､ Huggingface Co.にアクセスしてログインし､ そこにあるものを見始めるとたどり着くことができる｡
Hugging faceは､ 多くのオープンソースプロジェクトの基礎となるライブラリコードも提供しています｡
そして図書館は､ 私たちがやりたいことを実現するための素晴らしいスタートを切ってくれる｡
なぜなら､ 定型的なコードをほとんど使用することなく､ すぐに実行に移せるからだ｡
それは､ 参入障壁を低くし､ 人々を素早く生産的にするために非常にうまく作られたライブラリだ｡
Hugging Face Hubは､ Hugging Faceにログインして､
データセットやモデルのようなものをHubからダウンロードしたりアップロードしたりできるライブラリです｡
データセットは､ ハグハグフェイスやトランスフォーマーのデータリポジトリにすぐにアクセスできるライブラリだ｡
これは中心的なライブラリで､ トランスフォーマーアーキテクチャに従うLlmsのラッパーコードであり､ そのカバーの下には実際にニューラルネットワークを実行するPyTorchかTensorFlowのコードがある｡
しかし､ トランスフォーマーを作れば､ 実際のディープ・ニューラル・ネットワークのコードを指先で操作できる｡
トランスフォーマーのコードで関数やメソッドを呼び出すとき､ 私たちはもはやOpenAIの傘下にあるどこかのクラウド上で動いているAPIを呼び出しているわけではない｡
私たちは､ ディープ・ニューラル・ネットワークに対する推論やトレーニングを実行するために､ 自分たちでコードを実行している｡
このコースの後半で紹介する､ より高度なライブラリが他にも3つある｡
その最初のPeftは､ Parameter efficient fine tuning（パラメータ効率的な微調整）の略だ｡
このユーティリティを使えば､ LLMSの何十億ものパラメーターを操作することなく､ LLMSをトレーニングすることができる｡
つまり､ パラメータが効率的なんだ｡
特に使うテクニックはローラ､ あるいはローラはローラのバリエーションと呼ばれるもので､
これについては後でたっぷり説明する時間がある｡
でも､ それが私たちが使うものだということを念頭に置いておいてほしい｡
そして､ ペフト・ライブラリーのパラメーターの効率的な微調整の一部でもある｡
それから､ Trealというライブラリーがある｡ TrealはTransformer Reinforcement Learning（トランスフォーマー強化学習）の略だ｡
それにはいくつかのことが含まれている｡
リワード・モデリングと呼ばれるようなことができる能力だ｡
うん｡
また､ 近接政策最適化PPOと呼ばれるものもある｡
また､ 時折､ mmやPPOの名前を目にすることもあるだろう｡
そしてこれは､ 少し前に話したWRFと呼ばれるものの両方に関連していて､ LMSがチャットで本当に効果的であるように､
私たちがLMSを訓練することができる方法です｡
そして､ 2022年後半にChatGPTを生み出した重要な革新だった｡
だから､ そのコードの多くはTRLの中にある｡
また､ TRLの中にはスーパーバイズド・ファイン・チューニングやSFTと呼ばれるものがあり､ これはコースの後半で私たち自身が直接使うことになる｡
これは､ オープンソースのモデルを微調整するために使用する特定のライブラリであり､ 特定の問題を抱える特定の領域でより効果的になるようにする｡
SFTがTRLライブラリーの微調整の一部を監督するように設定する｡
略語ばかりだ｡
SFTはTRLの一部であり､ 不可欠なフレームワークだ｡
でも､ これはまた後ほど紹介する､ より高度なものなんだ｡
だから､ 今すぐ全部覚える必要はないし､ 頭文字を全部覚える必要もない｡
ただ､ 後で見たときに聞いたことがあるようなものになるように､ 種を植えさせてほしい｡
もうひとつは裏方的なものですが､ インポートして活用しているのをよく見かけます｡
accelerateと呼ばれるもので､ 高度なHuggingfaceコードによって､ トランスフォーマーがどんな分散構成でも実行できるようになっているんだ｡
そのため､ トレーニングと推論の両方を､ 効率的で適応性のある方法で､ 複数のGPUにまたがる可能性もあるスケールで実行することができる｡
これから行う実験では､ GPUは最大でも1つしか使わない｡
これが､ ハグフェイスの背後にある重要なライブラリのいくつかだ｡
この時点ではね｡
そろそろハグしている顔を見てもいい頃だと思う｡
それでは早速､ ハグフェイス・プラットフォームから見て回ろう｡