そして､ ベクターに焦点を当てたこの日に､ LMエンジニアリングに戻ってこられたことを嬉しく思う｡
最後に､ 私はずっとベクターについて話してきた｡
今日は実際に彼らと遊ぶことができる｡
近々Jupyter Labに入り､ チャンクを作成する予定だ｡
私たちはOpenAIのエンベッディングを使って､ テキストの塊からベクトルを作っています｡
これらのベクターは､ chromaという非常に人気のあるオープンソースのベクターデータベースに保存します｡
そして､ そのベクトルを視覚化し､ それが何を表しているかを把握する｡
そしてそれは､ ベクターで遊び続けるための練習になる｡
自分の物事をベクトルに置き換えてみて､ テキストを数字の束に変えることで意味を持つということがどういうことなのかを､
どんどん感じ取ってほしい｡
そこで､ これらの異なるタイプのモデルについて少し話をしよう｡
テキストをベクターに変換する方法｡
だから､ まず第一に､ 非常に単純化された方法がある｡
例えば､ ボキャブラリーを考え出すとかね｡
そこで､ 可能性のある言葉のリストを考えてみよう｡
例えば､ あなたのボキャブラリーの最初の単語がdogで､ 2番目の単語がcatだとしよう｡
そして､ テキストのブロックを取り出して､ そのブロックの中にある特定の単語の回数を数えることができる｡
そして､ 例えばdogという単語が2回入っていたら､ ベクトルの最初の位置に2を入れ､
catは1回入れる｡
そして､ その場所に1本､ といった具合だ｡
つまり､ 特定のタイプの単語の数を数えて､ それをベクターに入れるだけなのだ｡
それはとても単純なことだ｡
単語が並べられた順番は反映されないし､ 例えば同じJavaという単語がコーヒー豆の一種を指すこともあれば､
プログラミング言語を指すこともあるという事実も反映されない｡
単語数のカウントだけだろう｡
だから､ それはむしろ単純なことだ｡
そして幸運なことに､ これにはもっと高度な方法がある｡
注目されたもののひとつは､ 2013年に登場したワード・ツー・ベックと呼ばれるもので､
ディープ・ニューラル・ネットワークを使って､ 単語の意味を反映するような形でベクトル変換を始めることができた｡
そして､ 2人のベックという言葉をきっかけに､ 王＋男＋女＝女王というような話をするようになったんだ｡
ええと､ バートは少し前に話したモデルだよ｡
これは､ グーグルが論文『Inventing Transformers』を発表した直後に作成したエンコーディングのトランスフォーマーモデルだ｡
今回使用するOpenAI embeddingsは､ OpenAIのものです｡
そして最新バージョンは､ 2024年から更新されたものだ｡
それで､ これがテキストを数字ベクトルに変換するために使う最新で最高のモデルになるんだ｡
ということで､ クロマについて手短にお話させてください｡
クロマはベクトル・データ・ストアの一例だ｡
その数はかなり多く､ 主要なデータベースの多くも､ 現在ではベクターの採取やベクターでの検索をサポートしている｡
多くの人がNoSQLデータストアとして使っているMongoDBの例では､ ベクトルも扱うことができ､ ベクトルデータベースとして機能する｡
しかし､ クロマーは何よりもまずベクター・データベースのようなものだった｡
そしてこれがそのウェブサイトだ｡
それに､ 昔ながらのマックのインターフェイスで撮った写真よりもいい写真が撮れるんだ｡
でも､ Iアプリケーションでクエリーを実行すれば､ たくさんのベクターから検索することができ､
検索されたデータはプロンプトとクエリーに入力されます｡
つまり､ 前回お見せした図のファンシー・バージョンというわけだ｡
ええと､ クロマーです｡
これをベクターの保存に使う｡
雑談はもう十分だろう｡
JupyterLabを手に入れ､ ベクターを実際に使う時が来たのだ｡
そこで会おう