From the uDemy course on LLM engineering.
https://www.udemy.com/course/llm-engineering-master-ai-and-large-language-models
You can not select more than 25 topics
Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
100 lines
4.1 KiB
100 lines
4.1 KiB
WEBVTT |
|
|
|
00:01.340 --> 00:05.000 |
|
ようこそ、 第3週最終日へ。 |
|
|
|
00:05.030 --> 00:05.810 |
|
第3週 |
|
|
|
00:05.840 --> 00:06.710 |
|
5日目。 |
|
|
|
00:06.740 --> 00:12.740 |
|
オープンソースのモデル推論をハグ顔でラッピングしているところだ。 |
|
|
|
00:12.740 --> 00:16.790 |
|
そして今日、 今日がプロになる日だ。 |
|
|
|
00:16.790 --> 00:23.150 |
|
今日は、 この4日間の講義で学んだことをすべてまとめ、 |
|
|
|
00:23.150 --> 00:41.180 |
|
素晴らしい、 あ、 ジューシーなプロジェクト、 ビジネス・プロジェクトでそれを本当に強固なものにする日だ。 |
|
|
|
00:41.180 --> 00:46.970 |
|
ツール、 マルチモダリティ、 画像生成、 音声生成でAIアシスタントを作ることができる。 |
|
|
|
00:47.120 --> 00:55.100 |
|
そして、 パイプライン、 トークナイザー、 抱擁顔トランスフォーマー・ライブラリー内のモデルを使うことができる。 |
|
|
|
00:55.130 --> 00:59.960 |
|
今日は、 トーケナイザーとモデルを使って、 さらに自信を深めてください。 |
|
|
|
00:59.960 --> 01:13.260 |
|
オープンソースのモデル間で簡単に推論を実行できるようになり、 フロンティアモデルとオープンソースモデルを1つの素晴らしいパッケージにまとめたLLMソリューションを実装したことになる。 |
|
|
|
01:13.260 --> 01:21.240 |
|
また、 これに取り組み続けることは、 あなたにとって良いビジネス・チャレンジになるはずですから、 始めましょう。 |
|
|
|
01:22.440 --> 01:32.130 |
|
私たちが抱えているビジネス上の問題は、 私たち誰もが知っている多くのアプリケーションにある機能である。 |
|
|
|
01:32.130 --> 01:41.880 |
|
私たちは、 行動や所有者などを含む会議の議事録を作成できるソリューションを構築したいと考えています。 |
|
|
|
01:42.120 --> 01:52.620 |
|
音声を録音して、 フロンティアモデルを使い、 APIを使って音声をテキストに変換する。 |
|
|
|
01:52.620 --> 02:01.830 |
|
実はこれは、 先週のあるプロジェクトのフォローアップ練習として私が出した課題なんだ。 |
|
|
|
02:01.830 --> 02:07.430 |
|
音声をテキストに変換するフロンティアモデルを呼ぶことにする。 |
|
|
|
02:07.430 --> 02:14.120 |
|
そのテキストをオープンソースのモデルを使って議事録にし、 要約し、 |
|
|
|
02:14.120 --> 02:17.760 |
|
行動や所有者などを抜き出す。 |
|
|
|
02:17.820 --> 02:21.870 |
|
そして、 結果をストリームバックし、 マークダウンで表示する。 |
|
|
|
02:21.870 --> 02:25.380 |
|
だから、 これらの活動は私たちがやろうとしていることなんだ。 |
|
|
|
02:25.410 --> 02:27.060 |
|
そうやってまとめるんだ。 |
|
|
|
02:27.390 --> 02:31.800 |
|
そして、 役に立つ製品を作ることになる。 |
|
|
|
02:32.250 --> 02:34.140 |
|
これが私たちの望むものだ。 |
|
|
|
02:34.170 --> 02:40.440 |
|
このような議事録を作成し、 ディスカッションのポイント、 要点、 アクションアイテム、 |
|
|
|
02:40.470 --> 02:47.700 |
|
そしてこれから使用するリソースを入力データとして作成できるソリューションが欲しい。 |
|
|
|
02:47.730 --> 02:57.270 |
|
ハギング・フェイスでは、 全米各地の協議会の音声ファイルが公開されている。 |
|
|
|
02:57.270 --> 02:59.400 |
|
そこから始めよう。 |
|
|
|
02:59.670 --> 03:03.930 |
|
すでに音声ファイルのひとつをダウンロードし、 その一部を抜粋した。 |
|
|
|
03:04.200 --> 03:09.030 |
|
時間の都合上、 デンバー市議会の会議全体ではなく、 その一部だけを取り上げる。 |
|
|
|
03:09.300 --> 03:12.900 |
|
しかし、 このアイデアは、 それが機能することを示すのに役立つということだ。 |
|
|
|
03:12.900 --> 03:19.680 |
|
そして、 私たちが実用的な製品を完成させた暁には、 おそらく、 あなた自身のミーティングでも使えるようになるでしょう。 |
|
|
|
03:19.710 --> 03:24.840 |
|
それでは早速、 Google Colabにアクセスしてアプリケーションを作ってみよう。
|
|
|