From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
94 lines
4.1 KiB
94 lines
4.1 KiB
WEBVTT |
|
|
|
00:00.080 --> 00:03.050 |
|
そして、 これで我々は重要な節目を迎えた。 |
|
|
|
00:03.080 --> 00:07.940 |
|
8週間の旅の最初の週が終わった。 |
|
|
|
00:07.970 --> 00:10.490 |
|
そして、 ここまで来られたことを祝福する。 |
|
|
|
00:10.520 --> 00:17.540 |
|
この時点で、 あなたはトランスフォーマーの歴史と衝撃的なここ数年を説明する立場にある。 |
|
|
|
00:17.540 --> 00:23.210 |
|
トークンの使い方、 トークン化、 コンテキスト・ウィンドウの重要性とその意味、 APIのコストを調べるにはどこに行けばいいか、 |
|
|
|
00:23.240 --> 00:27.230 |
|
などなど。 |
|
|
|
00:27.410 --> 00:37.400 |
|
大手6社だけでなく、 その中のいくつかのモデルや最新のイノベーションなど、 さまざまなフロンティア・モデルを実際に見て経験することができる。 |
|
|
|
00:37.400 --> 00:45.890 |
|
Aという文字が文中に何回現れるかを数えるようなことは、 LLMにとって驚くほど難しいことである。 |
|
|
|
00:45.920 --> 00:50.660 |
|
そして今、 トークン化について理解したあなたは、 おそらくその理由をよく理解しているはずだ。 |
|
|
|
00:50.720 --> 00:57.590 |
|
そして最も重要なことは、 この時点で、 ストリーミングやマークダウンなどの追加を含め、 OpenAI |
|
|
|
00:57.620 --> 01:02.070 |
|
APIを自信を持って使えるようになっていることだ。 |
|
|
|
01:02.070 --> 01:07.920 |
|
あなたは課題で自分のツールを作り、 私たちが行った練習も使った。 |
|
|
|
01:07.950 --> 01:12.330 |
|
あなたはLMSに何度も電話をかけ、 システムのプロンプトを弄った。 |
|
|
|
01:12.330 --> 01:22.680 |
|
具体的な指示だけでなく、 トーンの設定や応答の性格など、 システム・プロンプトの使い方をよく理解している。 |
|
|
|
01:22.800 --> 01:33.930 |
|
また、 LMからより正確で、 確実で、 再現性のある結果を得るための方法として、 シングルショットとマルチショットプロンプトの両方を使用することも理解していますね。 |
|
|
|
01:34.230 --> 01:42.960 |
|
さらに、 llama APIを使って、 あなたのボックスで動いているモデルを直接呼び出すこともできる。 |
|
|
|
01:42.960 --> 01:45.780 |
|
特に今後やっていくようなことではない。 |
|
|
|
01:45.780 --> 01:47.760 |
|
オープンソースのモデルを使うようになったら |
|
|
|
01:47.760 --> 01:54.900 |
|
私たちは、 実際に内部に入り込んでトークンなどを調べ始めることができるようになったら、 むしろ抱きつき顔のコードを使いたい。 |
|
|
|
01:54.990 --> 01:59.340 |
|
でも、 いつでもウラマAPIの使用に切り替えることができる。 |
|
|
|
01:59.370 --> 02:02.730 |
|
APIコストを削減したい場合。 |
|
|
|
02:02.880 --> 02:10.950 |
|
ということで、 非常に内容の濃い1週間であった。 |
|
|
|
02:11.190 --> 02:16.800 |
|
来週は、 すべてのフロンティア・モデルでAPIを使うことになる。 |
|
|
|
02:16.800 --> 02:21.240 |
|
だから僕たちはOpenAIとAnthropicとGeminiを使うつもりだ。 |
|
|
|
02:21.270 --> 02:23.490 |
|
もう少し仕事をすることになる。 |
|
|
|
02:23.520 --> 02:30.300 |
|
エージェントにもう少し手を加えることで、 エージェント型AIのエージェント化の方向にまた一歩進んだ。 |
|
|
|
02:30.300 --> 02:38.430 |
|
しかし最も重要なのは、 私が大好きな素晴らしいGradioプラットフォームを使って、 データサイエンスのUIをいくつか構築することだ。 |
|
|
|
02:38.460 --> 02:44.730 |
|
私たちは、 写真を見せたり、 音声を出したり、 コンピューターに電話をかけるツールを使ったりできる、 完全なマルチモーダル・カスタマーサポート・エージェントを構築することも含めて、 |
|
|
|
02:44.730 --> 02:51.240 |
|
そうするつもりです。 |
|
|
|
02:51.270 --> 02:53.220 |
|
というわけで、 来週は盛りだくさんの内容だ。 |
|
|
|
02:53.220 --> 02:56.670 |
|
超エキサイティングな1週間になりそうで、 そこで皆さんにお会いできるのが待ち遠しいです。
|
|
|