From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
193 lines
8.1 KiB
193 lines
8.1 KiB
WEBVTT |
|
|
|
00:00.050 --> 00:07.400 |
|
というわけで、 Olamaのパワーを使って、 ローカルでさまざまなLMSの実験を楽しんでいただけたなら幸いです。 |
|
|
|
00:07.430 --> 00:10.040 |
|
おそらく私と同じような経験をしたことがあるだろう。 |
|
|
|
00:10.040 --> 00:16.820 |
|
クイン2は確かにそうだった。 5はおそらく、 異なる言語を把握する上で最も強力なモデルだろう。 |
|
|
|
00:16.820 --> 00:20.300 |
|
他のモデルの中には、 説明するのが上手なものもあると思う。 |
|
|
|
00:20.360 --> 00:22.820 |
|
だから、 あなたの見解を聞きたい。 |
|
|
|
00:22.820 --> 00:26.750 |
|
コースと一緒に投稿するか、 私に直接メッセージをください。 |
|
|
|
00:26.780 --> 00:34.460 |
|
いろいろなモデルを試してみて、 自分の問題に最も適したものを見つける。 |
|
|
|
00:34.460 --> 00:37.160 |
|
これはLMエンジニアにとって重要なスキルだ。 |
|
|
|
00:37.160 --> 00:39.560 |
|
だからこれは貴重な時間だった。 |
|
|
|
00:39.590 --> 00:40.370 |
|
分かった。 |
|
|
|
00:40.370 --> 00:42.620 |
|
これからの8週間について話そう。 |
|
|
|
00:42.620 --> 00:51.650 |
|
だから私は、 あなたが今いる左側にいる状態から、 8週間後にはLMエンジニアリングのマスターになることを目指している。 |
|
|
|
00:51.650 --> 00:53.090 |
|
そして、 こうするんだ。 |
|
|
|
00:53.120 --> 01:00.200 |
|
今週は、 フロンティア・モデルと呼ばれる、 現在可能なことのフロンティアにあるモデルを見ることから始めよう。 |
|
|
|
01:00.260 --> 01:11.730 |
|
GPT4001のプレビューやクロード3などだ。 5、 そしてクローズドソースでありながら驚くべきことを成し遂げることができる先駆的なモデルの数々。 |
|
|
|
01:11.730 --> 01:16.800 |
|
ChatGPTのようなウェブ・ユーザー・インターフェイス、 そしてAPIを通してそれを行います。 |
|
|
|
01:17.280 --> 01:25.290 |
|
そして、 すぐに役立つような商業的なプロジェクトを立ち上げる。 |
|
|
|
01:25.410 --> 01:32.160 |
|
そして来週は、 私が大好きなGradioというプラットフォームを使って、 その上にユーザー・インターフェースを載せる予定だ。 |
|
|
|
01:32.160 --> 01:34.980 |
|
そして、 私たちはそれを楽しみ、 私がそれを愛していることがわかるだろう。 |
|
|
|
01:34.980 --> 01:45.300 |
|
少し説明してしまうが、 とても使いやすく、 フロントエンドが苦手な私のような人間でも、 素晴らしくシャープなユーザー・インターフェースを実に簡単に素早く構築することができる。 |
|
|
|
01:45.300 --> 01:53.400 |
|
古典的なJNIのユースケース、 つまりAIアシスタント、 チャットボットを構築することを解決するために、 |
|
|
|
01:53.400 --> 01:57.120 |
|
音声と画像を使った方法でそれを行います。 |
|
|
|
01:57.120 --> 02:07.650 |
|
マルチモーダルであり、 ツールを使用することができる。 つまり、 コンピューター上で実行されているコードを呼び出すことができる。 |
|
|
|
02:07.650 --> 02:08.760 |
|
それだけだ。 |
|
|
|
02:08.760 --> 02:09.690 |
|
週目。 |
|
|
|
02:10.290 --> 02:16.380 |
|
第3週はオープンソースに目を向け、 データサイエンティストやLMエンジニアがこぞって使用しているユビキタス・プラットフォーム「Hugging |
|
|
|
02:16.380 --> 02:21.870 |
|
Face」を使い、 両者を構築する。 |
|
|
|
02:21.960 --> 02:27.270 |
|
パイプラインAPIと呼ばれるハギング・フェイスのシンプルなAPIを使い、 より高度なAPIを使い、 |
|
|
|
02:27.270 --> 02:32.040 |
|
ハギング・フェイスのトークナイザーやモデルのようなものを探求していく。 |
|
|
|
02:32.280 --> 02:42.840 |
|
第4週は、 AIの世界で特に茨の道となっている問題についてお話しします。 |
|
|
|
02:42.840 --> 02:47.220 |
|
目の前のタスクに適したモデルを選ぶにはどうすればいいのか? |
|
|
|
02:47.220 --> 02:53.940 |
|
だから、 ベンチマークやリーダーボードのようなものに取り組み、 その決定経路をどうするか考えたい。 |
|
|
|
02:53.940 --> 02:59.160 |
|
そして、 コード生成に関する特に異なる種類の商業的な問題に取り組むつもりだ。 |
|
|
|
02:59.160 --> 03:07.380 |
|
我々は、 PythonのコードをC+++の高性能なC+++のコードとして書き換えることができるアプリケーションを作ろうとしている。 |
|
|
|
03:07.380 --> 03:11.010 |
|
そして、 クローズドソースとオープンソースのモデルで試してみるつもりだ。 |
|
|
|
03:11.010 --> 03:12.270 |
|
そして、 そのうちの1人が優勝する。 |
|
|
|
03:12.300 --> 03:15.390 |
|
勝った方がテスト用のPythonコードを受け取ることになる。 |
|
|
|
03:15.390 --> 03:22.620 |
|
新しいコードは60,000倍も速くなるんだ。 |
|
|
|
03:22.650 --> 03:24.210 |
|
そして、 あなた自身がそれを目にすることになる。 |
|
|
|
03:24.270 --> 03:28.760 |
|
そして、 他の種類のコード生成ツールを作るための練習もある。 |
|
|
|
03:29.210 --> 03:35.780 |
|
第5週目では、 今最もホットなトピックのひとつである、 ボロ検索、 拡張世代、 |
|
|
|
03:35.780 --> 03:49.640 |
|
専門知識をLLMに追加するための情報のデータ・ストアの利用、 組織に関する質問に答えるための独自のラグ・パイプラインの構築を取り上げる。 |
|
|
|
03:49.640 --> 03:56.480 |
|
そして、 あなたにとって難しい商業的な挑戦があり、 これをあなた自身の情報に応用する練習がある。 |
|
|
|
03:56.480 --> 04:03.860 |
|
そして、 みんながこれをどう評価するのか、 そして自分自身のラグ・パイプラインを再構築するプロジェクトを見るのがとても楽しみだ。 |
|
|
|
04:04.790 --> 04:10.400 |
|
第6週からは、 このコースの3週間のフラッグシップ・プロジェクトが始まる。 |
|
|
|
04:10.400 --> 04:13.250 |
|
ええと、 第6週はビジネス問題を設定します。 |
|
|
|
04:13.250 --> 04:21.410 |
|
私たちはデータについて多くの作業を行い、 そして伝統的な機械学習モデルを作成する。 |
|
|
|
04:21.410 --> 04:29.810 |
|
そして、 フロンティアでモデルを試し、 フロンティアでもモデルを微調整して、 このビジネス問題でできる限りうまくいくようにする。 |
|
|
|
04:29.810 --> 04:33.110 |
|
第7週は、 これをオープンソースに応用する。 |
|
|
|
04:33.110 --> 04:38.080 |
|
私たちはオープンソースのモデルを採用し、 当初はひどいパフォーマンスを示すだろう。 |
|
|
|
04:38.080 --> 04:46.000 |
|
少なくともGPT4と競争できるようになるまで微調整することで、 オープンソースのモデルを改善することを使命とするつもりだ。 |
|
|
|
04:46.210 --> 04:47.680 |
|
フロンティアでのモデル。 |
|
|
|
04:47.680 --> 04:53.770 |
|
何が起こるかを話すつもりはないが、 その結果はあなたを驚かせると信じている。 |
|
|
|
04:53.800 --> 04:54.880 |
|
そう言っておこう。 |
|
|
|
04:54.880 --> 04:59.080 |
|
だから、 第7週に何が起こるか、 見守る価値は大いにある。 |
|
|
|
04:59.350 --> 05:05.200 |
|
しかし、 8週目のフィナーレですべてがまとまる。 これは、 完全自律型のAgentic |
|
|
|
05:05.230 --> 05:15.430 |
|
AIソリューションを構築する8週間の締めくくりにふさわしいもので、 7人のエージェントが協力して実際の商業的問題を解決する。 |
|
|
|
05:15.730 --> 05:17.170 |
|
そして終わり。 |
|
|
|
05:17.200 --> 05:21.400 |
|
インターネットをスキャンして様々なものを探し出すだけでなく、 |
|
|
|
05:21.400 --> 05:24.880 |
|
その発見をプッシュ通知で送ってくれるのだ。 |
|
|
|
05:24.940 --> 05:27.340 |
|
だから、 本当に素晴らしいものになるよ。 |
|
|
|
05:27.340 --> 05:30.100 |
|
最後には素晴らしい結果が待っている。 |
|
|
|
05:30.130 --> 05:35.830 |
|
毎週学んできたことの集大成として、 前週に学んだことを土台にして、 |
|
|
|
05:35.830 --> 05:45.100 |
|
本業ですぐに実践できるような真の商業的なプロジェクトを生み出す良い方法となるだろう。
|
|
|