Colabへようこそ､ そして我々のビジネスプロジェクトへようこそ｡
というわけで､ 今回もオーディオファイルをもとに議事録を作成することになった｡
それで､ とても役に立つデータを見つけたんだ｡
完璧なデータセットを用意してくれるのは､ 典型的な抱きつき顔だ｡
ミーティング・バンクと呼ばれるデータセットで､
これはかなり有名なデータセットらしい｡
それで､ これを使っているんだ｡
あるデンバー市議会の会議をダウンロードし､ その一部を10分間撮影した｡
ええと､ 10分だったか､ 20分だったか､ そのどちらかだ｡
とにかく､ その音声をカットしてグーグルドライブに保存したんだ｡ 僕がここで考えているのは､ この製品でグーグルドライブにあるもの､
あるいは会社のために作るのであれば会社のドライブにあるものを何でも取り込んで､
それを使って議事録を作成できるようにしたいんだ｡
このプロジェクトの一環として､ ちょっとしたサイドバーとして､ Google DriveからColabを読み込む方法も紹介しよう｡
では､ ピップ・インストールのインポートについて､ いつものように説明しよう｡
このラボにもOpenAIをインストールすることになる｡
ハグフェイスだけじゃなくて､ ハグフェイスのパッケージをたくさん使っているんだ｡
そしてOpenAIのライブラリも｡
OpenAIのインポートも含め､ あらゆるものをインポートしている｡
それから､ いくつかの定数を設定します｡
私たちはウィスパーと呼ばれるオーディオモデルを使うつもりです｡
以前､ 君にこの任務を与えたときだ｡
それからこれがラマ3だ｡ 180億ドルのインストラクター・モデルも使用する予定だ｡
これが､ これから学ぶ新しい能力だ｡
今日もちょっとおまけ｡
これがColabをGoogle Driveに接続する方法です｡
超シンプルだ｡
しかも､ ただのドライブドットマウントだ｡
そして､ どこに行きたいかを伝える｡
ドライブをマウントする｡
基本的にはそれだけだ｡
そして､ 自分のドライブの範囲内ということを自分に課している｡
LMSというフォルダの中にデンバー・エクストラクト・ドットmp3というのがあって､
これがデンバー市議会の10分から20分の間のセグメントをMP3で録音したものです｡
これを実行すると､ ポップアップで「Googleに接続しています｡
2回目の実行ですが､ 最初に実行したときは､ もちろん認証がポップアップ表示され､
Googleアカウントでログインしていることを確認し､ アクセスを許可するよう選択されました｡
今回はすでにそこに装着されていると言っている｡
ここのフォルダに行けば､ Googleドライブにアクセスして､ スラッシュ・コンテンツ・スラッシュ・ドライブの下にあるすべてのファイルを見ることができる｡
そこでHuggingfaceのハブにサインインする｡
さあ､ 始めよう｡
ログインに成功しました｡
そしてOpenAIにもサインインする｡
だから､ これはとても似ている｡
OpenAIのキーを取得します｡ このコラボの秘密の中にOpenAIのキーを設定しました｡
そして､ そのキーを取得し､ 通常のOpenAIのコンストラクタを呼び出して､ インターフェースの接続を確立します｡
しかし今回は､ OpenAIのAPIキーを渡している｡
過去には､ 環境変数が設定されていることに頼っていたので､ これを指定する必要がなかったのを覚えているだろう｡
今回は明確にパスする｡
そうだ｡
これでOpenAIの接続が確立した｡
それからどうすればいいんだ？
グーグルドライブにあるこの音声ファイルを､ このコラボにマッピングしておこうと思う｡
そしてOpenAI dot audioを呼び出す｡
ドット転写ドット作成は､ 私たちが使ってきた他のOpenAI APIのメソッドと非常によく似ています｡
特に､ 私たちが実際に作り､ 喋らせ､ 音声を発生させたときのものと似ている｡
モデル名､ ウィスパー・ワン・モデル､ ファイル名､ そしてレスポンスをテキストで表示することを入力した｡
そして､ OpenAIのウィスパーモデルから返ってきたものをプリントする｡
つまり､ フロンティア・モデルと呼ばれる音声の束が提供され､ あるいは今話しているように音声の束が提供され､
現在その会議の書き起こしが戻ってくるのを待っているところです｡
まあ､ それは起こっている｡
他のことを先に進めるように､ このまま続けるつもりだ｡
私は走らなければならない｡
システムプロンプト､ システムメッセージ､ ユーザープロンプトのシステムメッセージがある｡
あなたは､ 議事録から要約､ 主要な論点､
要点､ 行動項目をマークダウンした所有者を含む議事録を作成するアシスタントです｡
それでいい｡
僕の英語は下手だと思ったけど､ 大丈夫だよ｡
その他のデンバー評議会
議事録は､ 出席者､ 場所､ 日付､ ディスカッションのポイント､ 持ち帰り事項､ 所有者を記したアクションアイテムなどのサマリーを含めて､
マークダウンで作成してください｡
そして､ そのユーザープロンプトの直後にミーティングの記録を押し込む｡
以下はその記録である｡
ちょうどプリントアウトしたところで､ 長い古い記録なんだ｡
デンバー市議会｡
かなり長い時間話し込んだが､ その多くは､ 今度の連邦祝日である先住民の日についてだった｡
そして､ 先住民の日を議会がどのように認識するのが正しいかについても議論があった｡
この文章をすべて読み通すか､ あるいは音声を聴いてみてほしい｡
つまり､ これはすべてこの転写変数にテキストで入っている｡
そこで私たちはオーディオから始めた｡
OpenAIのウィスパー・ワン・モデルのおかげで､ テキストが使えるようになった｡
システムプロンプトとユーザープロンプトを作成する｡
見慣れた光景だろう｡
これがクオンツのコンフィグだ｡
また量子化することになる｡
なぜだ｡
ラムダ3では非常に効果的だった｡ メモリが55まで大幅に減少する前に､ 1. 5ギガバイト｡
しかし､ そうはならなかった｡
少なくとも､ 彼のパフォーマンスは私たちには完璧に見えた｡
もしかしたら､ 量子化せずに試してみて､ どれだけジョークがうまくなったか確かめたのかもしれない｡
うーん｡
大差なくても驚かないよ｡
量子化は非常に効果的だ｡
よし､ アクションの時間だ｡
これは前回もやったことなので､ 皆さんもよくご存知のはずだ｡
自動トークナイザーFrompretrainedメソッドを使用して､ Lama用のトークナイザーを作成します｡
パッド・トークンをセットする作業は､ これまでと同じように行う｡
次に､ apply chat template functionメソッドを呼び出します｡
メッセージで伝える......これだ｡
私たちはそれをパスしている｡
もちろん､ これには全記録が含まれる｡
会議全体のテキストとユーザーによるプロンプトが含まれる｡
そして､ その大量のテキストをGPUに載せるのだ｡
またストリーミングするつもりだ｡
そこで､ このテキスト・ストリーム・オブジェクトを使う｡
そして､ こうだ｡
これがそうだ｡
これがモデルを作るときだ｡
我々は､ 因果関係エルムの自動モデルを作成する｡
ラマのモデル名を渡す｡
GPUがあれば使ってください｡
T4ボックス（小型GPUボックス）を使っている｡
そして量子化コンフィグを渡す｡
しばらく時間がかかるだろうから､ 今から走り始めるつもりだ｡
話す前に走り出すべきだった｡
その方がスマートだ｡
ええと......｡
そしてモデルを作成し､ アクションを実行する｡
アクションはモデルのジェネレートを呼び出すことである｡
generateを呼び出すときには､ もちろん､ トークン化されたプロンプトとトランスクリプト全体を入力として渡さなければならない｡
これは､ あなたが以前使っていたものより少し大きい｡
以前は新規トークンの上限は80枚だと言っていた｡
現在､ 新規トークンの上限を2000としているのは､ かなりの反響がある可能性があるからだ｡
ええと､ それで､ ええと､ 会議の議事録を取り戻すには十分なスペースが必要なんだ｡
そして､ ストリーマーを提供し､ そのストリーマーが結果を私たちのラボにストリームバックできることを伝えている｡
少し考え込んでいる間に､ 次に何が起こるかと言うと､ 会議の議事録をここに流すんだ｡
ええと､ その後､ 私たちができることは､ 出力を取ってテキストを取得することです｡
そして､ それをトークナイザー・ドット・デコードを使ってデコードする｡
それをresponseという変数に入れるんだ｡
さて､ 議事録だ｡
うーん｡
もうすぐだ｡
これまでのところだ｡
を置くだけだ｡
その記録である｡
デンバー市議会10月9日（月）の議事録と出席者｡
概要
彼らは10月9日（月）に会合を開き､ 先住民の日の宣言を討議し採択した｡
ロペス議員が宣言を発表した｡
主な論点
収穫｡
この日の重要性を認識して採択された｡
彼らは､ 包括性とあらゆる文化を尊重することの重要性を強調した｡
オーナーと行動
ロペス議員と事務員
書記官は､ この宣言にデンバー市およびデンバー議会の印章を押印する｡
そして､ ロペス議員がデンバー・アメリカン・インディアン委員会とその他の地域に宣言のコピーを送付し､
最後に次のステップを紹介する｡
だから､ ラマ3世には敬意を表したい｡ 1.
この議事録は､ 出席者､ 日付､ 形式､ セクションがすべて揃った､
非常に包括的で､ 明確で､ 徹底した議事録のようだ｡
もちろん､ マークダウン形式であることにお気づきだろう｡
そして､ 以前Jupyter Notebookでフロンティアモデルをローカルで扱ったときに､
Colabでマークダウンを表示する方法として､ このディスプレイマークダウンレスポンスが使えることをご存知でしょう｡
そしてここに､ デンバー市議会の議事録があり､ 要約､ 要点､ 行動項目､ 次のステップなど､
さまざまなセクションに整理されている｡
そこで､ フロンティアモデルとオープンソースモデルを使って､ 音声を取り込み､ それをトランスクリプトに変換し､ そのトランスクリプトをアクションと次のステップを含むミーティングの要約に変換するアプリケーションを紹介しよう｡
さて､ あなたには明らかな練習がある｡
もうおわかりいただけただろうか｡
それを素敵なユーザーインターフェイスに落とし込むのは簡単だ｡
Gradioは､ 前の週と同じように使うことができる｡
グーグル・ドライブ上のファイル名を入力し､ 「議事録の作成」を押せばいい｡
その音声を読み込んでテキストに変換し､ 会議の議事録､ 持ち帰り事項､ 次のステップに変換する｡
それがあなたにとっての課題です｡
そうしてくれ｡
そして､ 素晴らしいユーザー・インターフェースを見るのが待ちきれない｡
コードを入手したら､ ぜひプッシュしてほしい｡
また次の講義でお会いしましょう｡