You can not select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
 
 

136 lines
4.7 KiB

WEBVTT
00:00.800 --> 00:01.310
まあね。
00:01.310 --> 00:02.450
皆さん、 こんにちは。
00:02.450 --> 00:06.770
第7週が始まるまでよく頑張ってくれた。
00:06.800 --> 00:10.670
期待を裏切らないつもりだ。
00:10.670 --> 00:12.530
その価値は必ずある
00:12.530 --> 00:13.190
そうだ。
00:13.220 --> 00:15.830
この先、 本当に素晴らしいコンテンツが待っている。
00:15.830 --> 00:22.250
先週の不本意な結果を受け、 少しアンチクライマックスを感じているかもしれない。
00:22.250 --> 00:25.760
あれだけ大騒ぎしたフロンティアモデルの微調整。
00:25.850 --> 00:32.210
ただ、 言えることは、 良い映画と同じで、 緊張感や失望を感じる期間があるということだ。
00:32.420 --> 00:35.870
救済がある、 救済があるんだ。
00:35.870 --> 00:41.480
もしあなたが私のように、 あの結果が出たあとも打ち込み続けていたのなら、
00:41.480 --> 00:45.260
きっといくつかの改善点が見えてくるはずだ。
00:45.260 --> 00:58.910
微調整ができるようになり、 実際にアンチューンド・ヴァージョンで得た結果よりもいい結果が得られるようになった。
00:58.910 --> 01:02.260
でもとにかく、 今は前進あるのみだ。
01:02.260 --> 01:08.860
私たちは7週目に突入し、 皆さんにどんな1週間をお届けできるだろうか?
01:09.010 --> 01:10.780
今週は大変な一週間だ。
01:10.780 --> 01:12.400
本当に大規模な1週間だ。
01:12.400 --> 01:15.220
ハードルを上げる上級者向けの週だ。
01:15.220 --> 01:23.920
私たちは今、 あなたがこのようなllmsのディープラーニング分野で高度なスキルを身につけるところまで来ています。
01:23.920 --> 01:29.860
もちろん、 フロンティアモデルやAPI、 ハグフェイスのオープンソースコードを使えば、
01:29.890 --> 01:35.350
テキストやコードを生成することはできる。
01:35.350 --> 01:41.080
ラグ・パイプラインを構築し、 データセットを構築することができる。
01:41.380 --> 01:49.450
データセットとベースラインモデル、 そして微調整が可能なフロンティアモデルにかなりの時間を費やした。
01:49.450 --> 01:53.830
今日のユースケースは高度なものだ。
01:53.860 --> 01:59.160
オープンソースのモデルを微調整するためにLoraというテクニックを使うことについて話す。
01:59.160 --> 02:00.870
量子化について説明する。
02:00.870 --> 02:17.460
Qローラについて話し、 3つの重要なハイパーパラメーター、 Rアルファとターゲットモジュールについて説明する。
02:17.580 --> 02:23.550
この時点では退屈に感じるかもしれないが、 自分の成果に誇りを持ち、
02:23.580 --> 02:33.960
自分が学んだことすべてがどこから始まったのかを思い出すことが重要だと思う。
02:34.290 --> 02:41.220
最初にLlmsとフロンティアのモデルについてセッションを行い、 両者を比較しました。
02:41.250 --> 02:50.460
その後、 UIを使用することを検討し、 Gradioを使用し、 エージェント化マルチモダリティを使用しました。
02:50.490 --> 02:55.530
その後、 パイプライン、 そしてトークナイザーとモデルをハグすることになった。
02:55.530 --> 03:01.900
そして4週目には、 タスクにLMSを選択してコードを生成した。
03:01.900 --> 03:04.060
第5週はボロ負けウィークだった。
03:04.060 --> 03:12.580
私たちは素晴らしいクロマとラング・チェーンを使ってラグ・パイプラインを構築した。
03:12.820 --> 03:16.510
そして先週、 フロンティアモデルを微調整したんだ。
03:16.510 --> 03:17.980
ああ、 これでやり方がわかっただろう。
03:17.980 --> 03:19.660
データセットの作成については理解しているはずだ。
03:19.660 --> 03:23.950
フロンティア・モデルがすでに巨大であるため、
03:23.950 --> 03:33.820
機能性を実際に組み込もうとする場合などだ。
03:34.270 --> 03:41.470
さて、 7週目に入ったところで、 フロンティア・モデルよりもかなり小さいオープンソース・モデルを微調整し、
03:41.470 --> 03:46.540
その到達点を見ることにする。
03:46.540 --> 03:49.120
そして、 第8週がすべての集大成となる。
03:49.210 --> 03:55.300
ということで、 今日のメイントピックはローラ。