You can not select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
 
 

283 lines
11 KiB

WEBVTT
00:00.920 --> 00:06.650
そこで、 前日に構築したソリューションをもう一度見直して、 測定基準について話をしよう。
00:06.650 --> 00:15.020
今申し上げたように、 私たちは非常にシンプルなビジネス中心の指標で業績を測定し、 業績を評価しています。
00:15.020 --> 00:17.180
単純にコードのパフォーマンスだ。
00:17.180 --> 00:19.100
コードはどれだけ速くなったか?
00:19.100 --> 00:27.500
そして明らかにクロード3だ。 5ソネットはそれを打ち砕き、 トップランナーとして、
00:27.740 --> 00:37.670
GPTフォーゼロがミッションに失敗することもあったが、 成功することもあった。
00:38.030 --> 00:45.320
そして残念なことに、 コード・クワンは、 私が言うように、 まともな努力をしたが、 システム・プロンプトを通して強制的に結果を出そうと何度か試みたものの、
00:45.320 --> 00:50.000
正しい結果を得ることはできなかった。
00:50.030 --> 00:52.610
わずかなズルも十分ではなかった。
00:52.760 --> 01:04.370
クインには70億のパラメータがあり、 クローズドソースでは1兆をはるかに超えるパラメータがライバルになる。
01:04.370 --> 01:09.050
だから、 それができたという事実そのものが、 信じられないほど印象的なんだ。
01:09.050 --> 01:18.920
それとは別に、 運営費、 つまり0ドルであることを忘れないでほしい。 80、 私は推論エンドポイントとして稼働するために1時間を支払っていた。
01:18.920 --> 01:20.540
それはさておき、 無料である。
01:20.540 --> 01:21.800
オープンソースだ。
01:21.920 --> 01:25.070
だから、 APIのコストは払っていない。
01:25.070 --> 01:37.790
特にGPUを持っている場合は、 GPUを動かすための電気代以外にコストはかからない。
01:38.030 --> 01:42.110
とても印象的なモデルだよ。
01:42.110 --> 01:48.350
たった70億のパラメーターを持つオープンソースのモデルが、 円周率を計算するためにそのコードを変換するようなことができるのは、
01:48.350 --> 01:51.380
率直に言って異常なことだ。
01:51.440 --> 01:56.060
そこで、 この時点で皆さんに課題を紹介したい。
01:56.060 --> 02:01.540
そして今週、 私はそのいくつかを手に入れた。 それはとてもハードなものだが、
02:01.540 --> 02:05.770
とても充実し、 満足のいくものだ。
02:05.890 --> 02:07.390
時間があることを願うよ。
02:07.390 --> 02:12.460
この数日間のレクチャーは、 時間を空けるために比較的簡潔なものにした。
02:12.460 --> 02:16.060
これで、 これまで学んできたことの多くがより確かなものになるだろう。
02:16.090 --> 02:18.010
微調整すべき点がいくつかある。
02:18.010 --> 02:19.690
解決策はすでにある。
02:19.720 --> 02:33.220
クローズドソースのモデルにジェミニを追加することで、 ジェミニはクロードとジェミニのGPTとなり、 さらにオープンソースのモデルを追加することもできる。
02:33.220 --> 02:43.390
私が提案したように、 コード・ラマとスターコーダーを加えれば、 コード・ジェンマを強制的に働かせることができるかどうかがわかるだろう。
02:43.420 --> 02:52.660
乱数ジェネレーターを書き換えないように、 積極的なプロンプトを出すことで、 そうならないように説得できるかもしれない。
02:52.660 --> 02:54.580
ええと、 僕より運があるかどうか見てみて。
02:54.580 --> 02:57.600
もしそうなら、 どうかコードをプッシュしてほしい。
02:57.660 --> 02:58.680
見せてくれ。
02:58.710 --> 03:00.840
他の人たちにも教えてあげよう。
03:00.840 --> 03:03.390
そうすれば、 私たち全員がその恩恵を受けることができる。
03:03.390 --> 03:04.290
そしてそれは
03:04.320 --> 03:04.710
そうだね。
03:04.740 --> 03:05.940
本当に素晴らしい。
03:05.940 --> 03:09.240
ぜひ試して、 結果をシェアしてほしい。
03:09.240 --> 03:10.470
でも、 それなら
03:11.190 --> 03:19.380
しかし、 そんなあなたには、 コードを生成する能力を必要とする3つの難題がある。
03:19.380 --> 03:21.030
それは次のレベルに進むことになる。
03:21.270 --> 03:24.630
そこで、 本当に素晴らしいアイデアをいくつか紹介しよう。
03:24.630 --> 03:33.900
そのひとつは、 コードにコメントやdocstringを自動的に追加できるコーディング・ツールを書くことだ。
03:34.080 --> 03:38.490
すでにそれを実現する製品がいくつかあることは知っているが、 自分でやってみて、 それが機能しているのを確認し、
03:38.490 --> 03:42.180
自分のためにこれを実行するのに十分なコードかどうかを確認するのは素晴らしいことだ。
03:42.600 --> 03:47.610
もうひとつは、 ユニットテストを書けるツールだね。
03:47.610 --> 03:53.340
ユニットテストは、 私たちの人生の悩みの種だ。
03:53.400 --> 03:55.620
ああ、 とても過酷なものだよ。
03:55.870 --> 04:02.170
また、 ユニットテストが単に関数の入出力を複製するだけで、 何か賢明なことをするわけではない場合、
04:02.170 --> 04:06.190
ユニットテストは非常に稚拙に書かれることがある。
04:06.190 --> 04:17.410
そこで、 特定のPythonモジュールのユニットテストケースを生成するために、 フロンティアモデルや、 もしかしたらオープンソースモデルを使うことができるかどうかを見てみましょう。
04:17.620 --> 04:21.220
そして最後に、 これは本当に楽しいものだ。
04:21.220 --> 04:21.940
そして、 私はこれをやった。
04:21.940 --> 04:26.980
だから、 私自身はエンターテインメントとしての価値だけでこれを持っている。
04:27.160 --> 04:28.330
そして素晴らしい。
04:28.330 --> 04:29.320
素晴らしいよ。
04:29.440 --> 04:41.590
そして、 シミュレートされた環境で株式の売買を決定するコードを書くコード・ジェネレーターを書くことを試すべきだ。
04:41.590 --> 04:43.420
もっと大きなプロジェクトなんだ。
04:43.420 --> 04:47.050
でも、 コードを生成させるだけで、 少しずつステップを踏んでいくことができる。
04:47.050 --> 04:49.810
必ずしもシミュレートされた環境が必要なわけではない。
04:49.900 --> 04:52.090
APIを提供するわけだ。
04:52.120 --> 04:58.120
株価を調べるために利用できる一般的なAPIを探すこともできる。
04:58.120 --> 05:03.430
あるいは、 APIを考案し、 それをプロンプトで提供するだけで、 モデルが特定の日付のティッカーの価格を取得するためにどのメソッドを呼び出すことができるかを知り、
05:03.430 --> 05:14.530
売買の決定を行う関数を生成できるようにすることもできる。
05:14.530 --> 05:17.710
そうそう、 これはすごく楽しかった。
05:17.710 --> 05:26.380
フロンティア・モデルとオープンソース・モデルの両方を使って、 たくさんの異なる売買シグナルを構築することができた。
05:26.380 --> 05:31.960
ひとつ言っておきたいのは、 何をするにしても、 もしこれをやったとしても、 実際に売買の意思決定に使わないでほしいということだ。
05:31.960 --> 05:36.970
私は、 この種のモデルを使って取引を決定しないことを強く勧める。
05:36.970 --> 05:41.770
実際、 フロンティアモデルにこのような手法を生成するように頼もうとすれば、 そうしてくれるだろうが、
05:41.770 --> 05:47.440
どんなことがあっても実際の取引判断に使うべきではないと警告されるだろう。
05:47.440 --> 05:49.720
だから、 これは厳重注意だ。
05:49.930 --> 05:59.050
クローズドソースであろうとオープンソースであろうと、 LMの気まぐれで名声と富を実際に危険にさらすためではなく、
05:59.080 --> 06:05.950
純粋に自分自身の楽しみのため、 そして関係する能力を確認するために使ってください。
06:06.250 --> 06:08.530
しかし、 これは素晴らしいプロジェクトだ。
06:08.530 --> 06:09.820
きっと楽しめると思うよ。
06:09.820 --> 06:16.150
もし誰もやらなかったら、 僕のコードを共有するかもしれない。 でも、 まず第一に、 僕は君に挑戦状を出したんだ。
06:16.180 --> 06:19.420
もしあなたが売買シグナルを出したのなら、 私はあなたに挑戦する。
06:19.420 --> 06:25.930
もちろん、 シミュレートされた環境においてのみですが、 私たちが生成したさまざまな取引機能のうち、
06:25.930 --> 06:32.980
どちらが偽の市場でより多くのお金を稼ぐことができるのか、 あなたと対決してみます。
06:33.070 --> 06:34.030
そうだ。
06:34.030 --> 06:38.500
それはあなたにとって本当に楽しいプロジェクトになるはずだし、 みんながどんなものを考え出すのか見るのが待ちきれないよ。
06:38.530 --> 06:41.050
それで、 あなたはそれを信じるだろうか?
06:41.080 --> 06:42.490
信じられるか?
06:42.520 --> 06:51.680
私たちは、 熟練したLMエンジニアになるための旅の50%地点に到達したところです。
06:51.710 --> 06:53.510
もう半分まで来ている。
06:53.540 --> 06:57.230
少なくとも、 いくつかの宿題をこなし、 いくつかのプロジェクトを作り上げた後では、 その道半ばだ。
06:57.230 --> 07:01.100
というのも、 私が言うように、 学ぶための最善の方法は実践することだからだ。
07:01.130 --> 07:08.120
それができたら、 自分を褒めて、 50%は達成できたと言える。
07:08.480 --> 07:19.040
そして次回は、 ラグ・スーパーホットトピックについて、 そしてラグの背後にある大きなアイデアについてお話しする予定です。
07:19.040 --> 07:35.900
そして、 Ragのおもちゃバージョン、 つまりRagの背後にある大きな考え方であるベクトル・データベースと呼ばれるものを導入しないシンプルなバージョンを実装します。
07:35.900 --> 07:38.480
だから、 そのすべてにたどり着くのが待ちきれない。
07:38.480 --> 07:41.300
来週は本当に、 本当にエキサイティングになりそうだ。
07:41.390 --> 07:50.990
そしてもう一度、 LLMSマスターへの道のりの半ばにいることを心から祝福したい。