まあね｡
皆さん､ こんにちは｡
第7週が始まるまでよく頑張ってくれた｡
期待を裏切らないつもりだ｡
その価値は必ずある
そうだ｡
この先､ 本当に素晴らしいコンテンツが待っている｡
先週の不本意な結果を受け､ 少しアンチクライマックスを感じているかもしれない｡
あれだけ大騒ぎしたフロンティアモデルの微調整｡
ただ､ 言えることは､ 良い映画と同じで､ 緊張感や失望を感じる期間があるということだ｡
救済がある､ 救済があるんだ｡
もしあなたが私のように､ あの結果が出たあとも打ち込み続けていたのなら､
きっといくつかの改善点が見えてくるはずだ｡
微調整ができるようになり､ 実際にアンチューンド・ヴァージョンで得た結果よりもいい結果が得られるようになった｡
でもとにかく､ 今は前進あるのみだ｡
私たちは7週目に突入し､ 皆さんにどんな1週間をお届けできるだろうか？
今週は大変な一週間だ｡
本当に大規模な1週間だ｡
ハードルを上げる上級者向けの週だ｡
私たちは今､ あなたがこのようなllmsのディープラーニング分野で高度なスキルを身につけるところまで来ています｡
もちろん､ フロンティアモデルやAPI､ ハグフェイスのオープンソースコードを使えば､
テキストやコードを生成することはできる｡
ラグ・パイプラインを構築し､ データセットを構築することができる｡
データセットとベースラインモデル､ そして微調整が可能なフロンティアモデルにかなりの時間を費やした｡
今日のユースケースは高度なものだ｡
オープンソースのモデルを微調整するためにLoraというテクニックを使うことについて話す｡
量子化について説明する｡
Qローラについて話し､ 3つの重要なハイパーパラメーター､ Rアルファとターゲットモジュールについて説明する｡
この時点では退屈に感じるかもしれないが､ 自分の成果に誇りを持ち､
自分が学んだことすべてがどこから始まったのかを思い出すことが重要だと思う｡
最初にLlmsとフロンティアのモデルについてセッションを行い､ 両者を比較しました｡
その後､ UIを使用することを検討し､ Gradioを使用し､ エージェント化マルチモダリティを使用しました｡
その後､ パイプライン､ そしてトークナイザーとモデルをハグすることになった｡
そして4週目には､ タスクにLMSを選択してコードを生成した｡
第5週はボロ負けウィークだった｡
私たちは素晴らしいクロマとラング・チェーンを使ってラグ・パイプラインを構築した｡
そして先週､ フロンティアモデルを微調整したんだ｡
ああ､ これでやり方がわかっただろう｡
データセットの作成については理解しているはずだ｡
フロンティア・モデルがすでに巨大であるため､
機能性を実際に組み込もうとする場合などだ｡
さて､ 7週目に入ったところで､ フロンティア・モデルよりもかなり小さいオープンソース・モデルを微調整し､
その到達点を見ることにする｡
そして､ 第8週がすべての集大成となる｡
ということで､ 今日のメイントピックはローラ｡