From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
247 lines
8.6 KiB
247 lines
8.6 KiB
WEBVTT |
|
|
|
00:00.890 --> 00:03.800 |
|
これでマンモスプロジェクトは終了だ。 |
|
|
|
00:03.830 --> 00:05.780 |
|
構想3週間。 |
|
|
|
00:05.780 --> 00:12.440 |
|
この3週間の間に、 データのキュレーションから始まり、 フロンティアモデルでの作業、 |
|
|
|
00:12.440 --> 00:20.360 |
|
そして、 エージェントからのトレースとメモリの結果とともに、 Gradioの完全なユーザーインターフェイスと、 |
|
|
|
00:20.360 --> 00:27.650 |
|
右下の非常に不要だが素晴らしいプロット3Dチャートが完成した。 |
|
|
|
00:27.770 --> 00:30.110 |
|
そして、 そのすべてが一緒になった。 |
|
|
|
00:30.110 --> 00:32.360 |
|
覚えておいてほしいのは、 ユーザーインターフェイスは、 本当は重要ではなかったということだ。 |
|
|
|
00:32.360 --> 00:34.820 |
|
ユーザー・インターフェイスは少し余分だったので、 モニターすることができる。 |
|
|
|
00:34.820 --> 00:41.420 |
|
最大のポイントは、 それがただ実行され、 ただ実行され続けるということである。 そして、 それが実行されるにつれて、 |
|
|
|
00:41.420 --> 00:47.090 |
|
数分ごとに、 まだ表面化していない新しい取引を絶えず通知してくる。 |
|
|
|
00:47.150 --> 00:55.070 |
|
そしてこれが、 私たちが最後まで作り上げた、 非常に満足のいく素晴らしいプロジェクトの結論である。 |
|
|
|
00:55.910 --> 01:03.310 |
|
それでは、 この8週間を振り返ってみよう。 |
|
|
|
01:03.310 --> 01:04.510 |
|
もう1度だけ。 |
|
|
|
01:04.510 --> 01:10.930 |
|
何度も繰り返してきたことだから、 8週間前に始めた回顧が今回で最後となるのは、 |
|
|
|
01:10.930 --> 01:14.590 |
|
嬉しいような、 ちょっと寂しいような。 |
|
|
|
01:14.590 --> 01:27.070 |
|
左側では、 私たちはLMエンジニア、 つまりLMエンジニアリングをマスターし、 高度に熟達した上級者になりたかった。 |
|
|
|
01:27.070 --> 01:29.530 |
|
最初の週は、 たくさんのモデルを使ってプレーした。 |
|
|
|
01:29.530 --> 01:32.920 |
|
文中にAという文字が何回出てくるかを調べた。 |
|
|
|
01:32.920 --> 01:35.920 |
|
私たちは、 とりわけプレビューをざっと見てみた。 |
|
|
|
01:35.920 --> 01:42.610 |
|
週目にはグラデーションを初めて見て、 マルチモダリティで遊んだ。 |
|
|
|
01:42.610 --> 01:46.600 |
|
エージェント化の初期バージョンも見た。 |
|
|
|
01:46.600 --> 01:49.540 |
|
第3週は、 ハグにはまった。 |
|
|
|
01:49.540 --> 01:52.750 |
|
パイプラインがあり、 トークナイザーがあり、 モデルがあった。 |
|
|
|
01:52.750 --> 01:55.810 |
|
第4週では、 ハグする顔をより深く追求した。 |
|
|
|
01:55.810 --> 02:04.480 |
|
私たちはLlmsを選択し、 コードを生成し、 5週目には6万時間のパフォーマンス向上という驚くべきプロジェクトを実現した。 |
|
|
|
02:04.510 --> 02:16.390 |
|
インサートフィルムのために、 クロマを使ったラグ・ソリューションを作った。 |
|
|
|
02:16.390 --> 02:19.210 |
|
それに付随する大きなプロジェクトもやったかもしれない。 |
|
|
|
02:19.240 --> 02:24.670 |
|
第6週はフロンティアモデルの微調整を行ったが、 その大半はデータのキュレーションに費やされた。 |
|
|
|
02:24.670 --> 02:26.950 |
|
でも、 それはとても重要な活動なんだ。 |
|
|
|
02:27.160 --> 02:27.910 |
|
第7週 |
|
|
|
02:27.910 --> 02:43.480 |
|
そして8週目には、 それを7つのエージェントとユーザー・インターフェースを備えた遺伝的AIソリューションとしてパッケージ化した。 |
|
|
|
02:43.480 --> 02:45.700 |
|
そして素晴らしかった。 |
|
|
|
02:45.700 --> 02:48.580 |
|
それが旅だった。 |
|
|
|
02:49.600 --> 02:52.270 |
|
この場を借りてお礼を言わせてください。 |
|
|
|
02:52.300 --> 02:55.750 |
|
最後まで残ってくれて本当にありがとう。 |
|
|
|
02:55.780 --> 03:00.160 |
|
どれだけ感謝しているか説明できないよ。 |
|
|
|
03:00.190 --> 03:06.900 |
|
コースを通して、 8週間の旅を通して、 私たちがやってきたことをすべて利用して、 ここまでたどり着いた人たちがいるのは、 |
|
|
|
03:06.900 --> 03:12.330 |
|
本当に、 とても素晴らしいことだ。 |
|
|
|
03:12.330 --> 03:19.530 |
|
その過程で、 何人かの皆さんからお話を伺いましたが、 このような経験をすることができて、 本当に本当にやりがいがありました。 |
|
|
|
03:19.560 --> 03:21.330 |
|
とても感謝している。 |
|
|
|
03:21.480 --> 03:23.250 |
|
楽しんでいただけたなら幸いだ。 |
|
|
|
03:23.280 --> 03:25.350 |
|
もちろん、 とても楽しんでいるよ。 |
|
|
|
03:25.380 --> 03:26.280 |
|
ああ、 あまりにも多すぎる。 |
|
|
|
03:26.310 --> 03:28.020 |
|
楽しんでいただけたなら幸いだ。 |
|
|
|
03:28.050 --> 03:29.820 |
|
これからも連絡を取り合ってほしい。 |
|
|
|
03:29.820 --> 03:32.340 |
|
ぜひ、 それを受け入れてくれるなら、 私と一緒にLinkedInをやってほしい。 |
|
|
|
03:32.340 --> 03:34.470 |
|
それでよければ、 大歓迎だよ。 |
|
|
|
03:34.470 --> 03:35.880 |
|
リンクトインのコネクション |
|
|
|
03:35.880 --> 03:41.550 |
|
そして私たちはコミュニティを持つことができる、 うーん、 もしあなたがここまでたどり着いたのなら、 私にメッセージをください。 |
|
|
|
03:41.700 --> 03:44.160 |
|
そしてもちろん、 あなたにはこの大きな挑戦がある。 |
|
|
|
03:44.160 --> 03:48.150 |
|
さて、 あなたは学んだことを自分のプロジェクトに生かすことができるだろうか? |
|
|
|
03:48.180 --> 03:52.260 |
|
ファイナンスのデータを使うというアイデアは面白いかもしれない。 |
|
|
|
03:52.290 --> 03:55.230 |
|
お金になりそうなものを作れるかどうか見てみよう。 |
|
|
|
03:55.230 --> 03:57.840 |
|
もしそうなら、 私はランチを期待している。 |
|
|
|
03:57.870 --> 03:59.340 |
|
少なくとも、 おそらくは。 |
|
|
|
03:59.550 --> 04:01.280 |
|
あー、 でもそれは楽しい挑戦だね。 |
|
|
|
04:01.520 --> 04:04.010 |
|
何をするにしても、 その話を聞きたい。 |
|
|
|
04:04.040 --> 04:10.130 |
|
もし、 あなたがこの学習の一部を利用して素晴らしいプラットフォームを構築したのであれば、 ぜひシェアしてほしい。 |
|
|
|
04:10.160 --> 04:17.360 |
|
他の生徒たちにもぜひ見てもらいたいし、 そういうアウトプットを小さなおまけとして持っているのは素晴らしいことだ。 |
|
|
|
04:17.390 --> 04:21.170 |
|
第1週目に、 最後の最後にちょっとしたおまけがあると言ったのを覚えているかどうかわからないが、 |
|
|
|
04:21.170 --> 04:25.100 |
|
それがこれだ。 |
|
|
|
04:25.130 --> 04:30.590 |
|
私は個人的なプロジェクトでLLMを微調整したことをお伝えしたかったのです。 |
|
|
|
04:30.590 --> 04:37.880 |
|
実際、 今年の初めからラマ2世LLMだった。 |
|
|
|
04:37.910 --> 04:47.300 |
|
私のiPhoneには24万通のテキストメッセージがあることがわかった。 |
|
|
|
04:47.420 --> 04:54.800 |
|
それで、 たくさんのテキストメッセージの履歴があって、 それを使ってラマ2世に私のシミュレーションをさせることができた。 |
|
|
|
04:54.890 --> 04:59.600 |
|
僕のウェブサイト、 エドワード・ドット・コムのブログにも記事があるよ。 |
|
|
|
04:59.600 --> 05:03.200 |
|
見てみればいいし、 やり方も書いてある。 |
|
|
|
05:03.230 --> 05:11.030 |
|
そしてもちろん、 僕はllama 2を使っていて、 今はllama 3を使っている。 1は、 クワンなど他の選手と並んでとても良い。 |
|
|
|
05:11.210 --> 05:16.880 |
|
そうすれば、 私よりももっといい結果が得られるだろう。 |
|
|
|
05:16.910 --> 05:19.010 |
|
そして、 私が得た結果は不気味なものだった。 |
|
|
|
05:19.310 --> 05:21.230 |
|
本当に素晴らしかった。 |
|
|
|
05:22.310 --> 05:27.410 |
|
それでは最後のスライドをご覧ください。 |
|
|
|
05:27.470 --> 05:29.300 |
|
おめでとう。 |
|
|
|
05:29.690 --> 05:32.270 |
|
自分が成し遂げたことを誇りに思ってほしい。 |
|
|
|
05:32.300 --> 05:38.150 |
|
そのような感覚を感じてほしい。 |
|
|
|
05:38.180 --> 05:41.120 |
|
あなたは山頂に着いた。 |
|
|
|
05:41.360 --> 05:43.610 |
|
とても、 とても嬉しい。 |
|
|
|
05:43.820 --> 05:52.580 |
|
そして、 あなたがこれを本業やキャリアに活かして前進してくれることを心から願っている。 |
|
|
|
05:52.580 --> 05:54.860 |
|
そして、 私はそのすべてを聞きたいと思っている。 |
|
|
|
05:54.860 --> 05:56.540 |
|
だから、 連絡を取り合ってほしい。 |
|
|
|
05:56.540 --> 05:58.280 |
|
改めてありがとう。 |
|
|
|
05:58.280 --> 06:01.250 |
|
そして、 本当におめでとう。
|
|
|