From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
76 lines
2.6 KiB
76 lines
2.6 KiB
WEBVTT |
|
|
|
00:00.920 --> 00:04.850 |
|
というわけで、 5つのステップのうち、 ステップ1から4までを説明した。 |
|
|
|
00:04.850 --> 00:11.240 |
|
そして、 ステップ5、 つまり、 これまであまり考えていなかったかもしれないが、 プロダクション化だ。 |
|
|
|
00:11.240 --> 00:13.520 |
|
そしてこれは、 私たちがモデルを構築したと言うことだ。 |
|
|
|
00:13.520 --> 00:16.250 |
|
プライムタイムの時間だ。 |
|
|
|
00:16.730 --> 00:23.810 |
|
私たちは通常、 コードを呼び出すためにモデルを呼び出すのに使えるAPIを定義することから始める。 |
|
|
|
00:23.810 --> 00:36.680 |
|
それ自体は、 オープンソースのモデルを使うか、 ラグやプロンプト・エンジニアリングのような様々な足場を持つフロンティア・モデルを呼び出すかのどちらかだ。 |
|
|
|
00:37.190 --> 00:42.500 |
|
そして、 我々のモデルやAPIをどのようにホストし、 デプロイするかを決める。 |
|
|
|
00:42.530 --> 00:48.410 |
|
どのように監視するのか、 情報セキュリティーへの懸念、 どのように規模を拡大するのか、 |
|
|
|
00:48.410 --> 00:49.580 |
|
などだ。 |
|
|
|
00:49.730 --> 00:56.750 |
|
そして、 ステップ1で特定したビジネス指標を測定し、 継続的に再訓練を行い、 |
|
|
|
00:56.750 --> 01:02.390 |
|
パフォーマンスを測定し、 モデルを改善していく。 |
|
|
|
01:02.420 --> 01:06.320 |
|
これらはすべてプロダクショナイズの活動の一部である。 |
|
|
|
01:07.820 --> 01:14.660 |
|
というわけで、 製品価格を予測するために私たちが取り組んでいるビジネス上の問題とは、 どのようなものなのでしょうか? |
|
|
|
01:14.660 --> 01:17.600 |
|
だから、 最初の一歩は理解できた。 |
|
|
|
01:17.630 --> 01:18.410 |
|
私たちはそれを理解していた。 |
|
|
|
01:18.440 --> 01:19.850 |
|
メトリクスの話はした。 |
|
|
|
01:19.850 --> 01:21.170 |
|
やるべきことは分かっている。 |
|
|
|
01:21.200 --> 01:23.900 |
|
今やっているのは準備だ。 |
|
|
|
01:23.900 --> 01:26.630 |
|
データセットを準備している最中だ。 |
|
|
|
01:26.630 --> 01:30.290 |
|
そして、 モデルを選択する必要がある。 |
|
|
|
01:30.290 --> 01:32.300 |
|
カスタマイズが必要だ。 |
|
|
|
01:32.390 --> 01:35.060 |
|
そして最後にプロダクション化する必要がある。 |
|
|
|
01:35.060 --> 01:38.060 |
|
だから私たちは、 そのすべてのステップを踏むことになる。 |
|
|
|
01:38.150 --> 01:43.400 |
|
しかし、 まずは第2段階の準備を終える。 |
|
|
|
01:43.400 --> 01:49.520 |
|
それではJupyterLabに戻って準備に取り掛かりましょう。
|
|
|