From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
103 lines
4.1 KiB
103 lines
4.1 KiB
WEBVTT |
|
|
|
00:00.770 --> 00:08.450 |
|
でも、 もしかしたら、 まだ、 まばたきしているかもしれない。 |
|
|
|
00:08.450 --> 00:13.490 |
|
でもそれは、 今すぐ戻って自分でやって見るべきだということだからだ。 |
|
|
|
00:13.490 --> 00:18.770 |
|
このコードを実行し、 モーダル・スクリーンで何が起こっているかを見れば、 完全に理解できると思います。 |
|
|
|
00:18.950 --> 00:25.310 |
|
あの、 ハグする顔のトークンで何か問題があったら、 Jupyterラボにもっといい説明を書くつもりです。 |
|
|
|
00:25.310 --> 00:26.570 |
|
だから、 それはあなたにとって非常に明確なことなんだ。 |
|
|
|
00:26.570 --> 00:34.820 |
|
そして、 もしそうなるのであれば、 それはかなり簡単なことで、 それがどのように機能するのか、 なぜそんなに速く機能するのかがわかると思う。 |
|
|
|
00:34.850 --> 00:37.010 |
|
しばらく走らせてみて初めてわかることがある。 |
|
|
|
00:37.010 --> 00:38.660 |
|
ウォームアップに数分かかる。 |
|
|
|
00:38.660 --> 00:47.390 |
|
しかしその後、 モデルの重みをキャッシュし、 メモリにロードしたため、 先ほどと同じように素早く実行されるはずだ。 |
|
|
|
00:47.450 --> 00:54.650 |
|
これで、 Jupyter Labのような外部のアプリケーションで、 Pythonコードだけでモデルを呼び出せるように、 |
|
|
|
00:54.650 --> 01:03.590 |
|
モデルを本番環境にデプロイする方法を学んだことになる。 |
|
|
|
01:04.040 --> 01:07.490 |
|
そして願わくば、 あなたがそのことを理解し始めていることを。 |
|
|
|
01:07.490 --> 01:12.350 |
|
壮大なプロジェクトだし、 やるべきことはたくさんある。 |
|
|
|
01:12.350 --> 01:16.790 |
|
実際、 次の日のアクティビティが一番大きいんだ。 |
|
|
|
01:16.820 --> 01:18.740 |
|
非常に多くのことが起きている。 |
|
|
|
01:18.860 --> 01:30.390 |
|
ええと、 でも今日のところは、 サーバーレス・プラットフォームであるモーダルを使って本番環境にモデルをデプロイする話だったことを思い出してください。 |
|
|
|
01:30.600 --> 01:38.940 |
|
ある意味、 モデルをデプロイしたとき、 あるいは私が抱擁顔のエンドポイントを使って抱擁顔にモデルをデプロイしたときと似ている。 |
|
|
|
01:39.120 --> 01:49.650 |
|
でも、 コードでインフラを構成する機能や、 価格設定の方法など、 このプラットフォームが非常に強力なプラットフォームであることはお分かりいただけると思います。 |
|
|
|
01:49.920 --> 01:57.690 |
|
今度、 あなたは高度なWraggソリューションを構築することができるようになる。 |
|
|
|
01:57.690 --> 01:58.620 |
|
我々はラッグをやり遂げた。 |
|
|
|
01:58.620 --> 01:59.670 |
|
ラッグのことはよく知っている。 |
|
|
|
01:59.670 --> 02:01.140 |
|
あなたはさらにそれを知ることになる。 |
|
|
|
02:01.140 --> 02:01.650 |
|
次こそは |
|
|
|
02:01.650 --> 02:03.030 |
|
ウラッグを使うつもりだ。 |
|
|
|
02:03.030 --> 02:05.010 |
|
チェーンなしで直接やるんだ。 |
|
|
|
02:05.010 --> 02:05.940 |
|
僕らはもうプロだ。 |
|
|
|
02:05.940 --> 02:06.930 |
|
長いチェーンは必要ない。 |
|
|
|
02:06.930 --> 02:08.070 |
|
自分たちでできるんだ。 |
|
|
|
02:08.070 --> 02:18.180 |
|
Chromeのデータストアで物事を調べ、 モデルにコンテキストを与えるために使うのだが、 それは膨大で素晴らしいデータストアになるだろう。 |
|
|
|
02:18.180 --> 02:25.590 |
|
そして、 アンサンブルモデルと呼ばれる、 複数のモデルの長所を組み合わせたモデルを構築する。 |
|
|
|
02:25.590 --> 02:32.400 |
|
そして、 複数のモデルにまたがるプロダクション・レディなコードを提供できるようになるだろう。 |
|
|
|
02:32.400 --> 02:39.360 |
|
つまり、 LMエンジニアリングの知識人からLMエンジニアリングの達人への移行を果たすために、 |
|
|
|
02:39.360 --> 02:46.140 |
|
スキルセットを強化し、 専門知識を身につけるということだ。 |
|
|
|
02:46.350 --> 02:48.330 |
|
それでは、 また次回。
|
|
|