WEBVTT 00:00.800 --> 00:01.310 まあね。 00:01.310 --> 00:02.450 皆さん、 こんにちは。 00:02.450 --> 00:06.770 第7週が始まるまでよく頑張ってくれた。 00:06.800 --> 00:10.670 期待を裏切らないつもりだ。 00:10.670 --> 00:12.530 その価値は必ずある 00:12.530 --> 00:13.190 そうだ。 00:13.220 --> 00:15.830 この先、 本当に素晴らしいコンテンツが待っている。 00:15.830 --> 00:22.250 先週の不本意な結果を受け、 少しアンチクライマックスを感じているかもしれない。 00:22.250 --> 00:25.760 あれだけ大騒ぎしたフロンティアモデルの微調整。 00:25.850 --> 00:32.210 ただ、 言えることは、 良い映画と同じで、 緊張感や失望を感じる期間があるということだ。 00:32.420 --> 00:35.870 救済がある、 救済があるんだ。 00:35.870 --> 00:41.480 もしあなたが私のように、 あの結果が出たあとも打ち込み続けていたのなら、 00:41.480 --> 00:45.260 きっといくつかの改善点が見えてくるはずだ。 00:45.260 --> 00:58.910 微調整ができるようになり、 実際にアンチューンド・ヴァージョンで得た結果よりもいい結果が得られるようになった。 00:58.910 --> 01:02.260 でもとにかく、 今は前進あるのみだ。 01:02.260 --> 01:08.860 私たちは7週目に突入し、 皆さんにどんな1週間をお届けできるだろうか? 01:09.010 --> 01:10.780 今週は大変な一週間だ。 01:10.780 --> 01:12.400 本当に大規模な1週間だ。 01:12.400 --> 01:15.220 ハードルを上げる上級者向けの週だ。 01:15.220 --> 01:23.920 私たちは今、 あなたがこのようなllmsのディープラーニング分野で高度なスキルを身につけるところまで来ています。 01:23.920 --> 01:29.860 もちろん、 フロンティアモデルやAPI、 ハグフェイスのオープンソースコードを使えば、 01:29.890 --> 01:35.350 テキストやコードを生成することはできる。 01:35.350 --> 01:41.080 ラグ・パイプラインを構築し、 データセットを構築することができる。 01:41.380 --> 01:49.450 データセットとベースラインモデル、 そして微調整が可能なフロンティアモデルにかなりの時間を費やした。 01:49.450 --> 01:53.830 今日のユースケースは高度なものだ。 01:53.860 --> 01:59.160 オープンソースのモデルを微調整するためにLoraというテクニックを使うことについて話す。 01:59.160 --> 02:00.870 量子化について説明する。 02:00.870 --> 02:17.460 Qローラについて話し、 3つの重要なハイパーパラメーター、 Rアルファとターゲットモジュールについて説明する。 02:17.580 --> 02:23.550 この時点では退屈に感じるかもしれないが、 自分の成果に誇りを持ち、 02:23.580 --> 02:33.960 自分が学んだことすべてがどこから始まったのかを思い出すことが重要だと思う。 02:34.290 --> 02:41.220 最初にLlmsとフロンティアのモデルについてセッションを行い、 両者を比較しました。 02:41.250 --> 02:50.460 その後、 UIを使用することを検討し、 Gradioを使用し、 エージェント化マルチモダリティを使用しました。 02:50.490 --> 02:55.530 その後、 パイプライン、 そしてトークナイザーとモデルをハグすることになった。 02:55.530 --> 03:01.900 そして4週目には、 タスクにLMSを選択してコードを生成した。 03:01.900 --> 03:04.060 第5週はボロ負けウィークだった。 03:04.060 --> 03:12.580 私たちは素晴らしいクロマとラング・チェーンを使ってラグ・パイプラインを構築した。 03:12.820 --> 03:16.510 そして先週、 フロンティアモデルを微調整したんだ。 03:16.510 --> 03:17.980 ああ、 これでやり方がわかっただろう。 03:17.980 --> 03:19.660 データセットの作成については理解しているはずだ。 03:19.660 --> 03:23.950 フロンティア・モデルがすでに巨大であるため、 03:23.950 --> 03:33.820 機能性を実際に組み込もうとする場合などだ。 03:34.270 --> 03:41.470 さて、 7週目に入ったところで、 フロンティア・モデルよりもかなり小さいオープンソース・モデルを微調整し、 03:41.470 --> 03:46.540 その到達点を見ることにする。 03:46.540 --> 03:49.120 そして、 第8週がすべての集大成となる。 03:49.210 --> 03:55.300 ということで、 今日のメイントピックはローラ。