そして今､ ラグの最も重要な側面であるベクトルについて話す時が来た｡
すでにベクトルやベクトル埋め込みに馴染みのある方は､ そのままお待ちください｡
かなり手短に説明しよう｡
こうして説明するうちに､ 知らなかったことが出てくるかもしれない｡
まず最初に､ 重要な予備知識として､ このコースでは様々なLMSについてお話してきましたが､
これまでお話してきたLMSのほとんどは､ 自己回帰LMと呼ばれるLMの一種です｡
そして､ オートエンコーディングと呼ばれる全く異なるカテゴリーのLMも存在する｡
では､ 何が違うのか？
自己回帰型LMS（Autoregressive LMS）またはLMSは､ 過去のトークンのセットが与えられ､ 過去のトークンが与えられたときに､ シーケンス内の次のトークン（未来のトークン）を生成することが要求される｡
そして､ 次のトークンを作ることを繰り返す｡
トークンの歴史を考えれば､ これは自己回帰的なLMだ｡
そしてもちろん､ 大流行している｡
一緒に仕事をしているほとんどの人がそうだ｡
もちろん､ GPT4やクロード､ ジェミニなどもある｡
オートエンコーディングと呼ばれるタイプもあり､ 過去と現在と未来の両方を表す完全な入力を受け取る｡
フルビットの入力で､ 入力全体を反映した1つの出力を作り出すのだ｡
そして､ それを現実のものとするために､ いくつかの明白な例がある｡
センチメント分析では､ 文章を取り込んで､ それが肯定的か否定的かを判断する｡
文章をバケツに入れる分類｡
どちらも､ 数週間前にハギングフェイス・パイプラインについて少し検討したものだ｡
そして､ これらはどちらもオートエンコードllmsの例である｡
ベクトル埋め込みと呼ばれるものを作るためだ｡
それが､ 今日お話しすることです｡
つまり､ ベクトル埋め込みとは､ テキストの一文､ あるいはさまざまなものを取り込む方法だが､ 通常はテキストの一文である｡
そして､ そのテキストに隠された意味を何らかの形で反映させた一連の数字に変える｡
それが何を意味するのか､ すぐに説明しよう｡
今は少し抽象的に聞こえるが､ テキストを数字に変換し､ その数字が空間上の点を表していると考えることができるというものだ｡
つまり､ テキストを3つの数字に置き換えると､ X､ Y､ Zのようなもので､
何かが空間のどこにあるかを正確に表していると考えることができる｡
そうすると､ 通常は何百､ 何千という数字に変換されてしまう｡
つまり､ 1000次元の空間の一点を表しているのだ｡
私たちは3次元でしか考えることができないから､ それをイメージするのは難しいけど､
同じ考えなんだ｡
その点は､ 自動エンコーディングの例である､ 生成に使われたテキストの背後にある意味を何らかの形で表すことを意味している｡
LlmsはGoogleのバート｡
バートについては､ 最初の週に話したと思う｡
ええと､ だからバートはしばらく前からいるんだ｡
OpenAIが提供するオープンAIエンベッディングもありますし､ 今週ラグ・プロジェクトで使用するオートエンコーダー・モデルもこれです｡
では､ 私たちが意味するところについて､ もう少しお話しさせてください｡
まず第一に､ 1文字､ 1トークン､ 1文字の束､ 1単語､ 1文､ 1段落､ 文書全体､ あるいは抽象的なものに対して､
これらのベクトルを作成することができます｡
私の会社､ ネビュラでもそうですが､ 私たちは人材や仕事などのベクトルを作っています｡
ベクトルを扱う場合､ 数百から数千の次元を持つことがよくあり､ 1つのテキストブロックを表す1000個の数字のようなものだ｡
そして今､ 私は何度か､ これらの数字はインプットの背後にある意味を反映していると言ってきた｡
それは一体どういう意味なのか？
つまり､ 簡単に言うと､ テキストの段落がたくさんあり､ それらがすべて､ 空間内の互いに近い同じような点にマッピングされる､
ということだ｡
つまり､ これらのテキストブロックは似たような意味を持つということだ｡
必ずしも同じ言葉が含まれている必要はない｡
まったく違う言葉かもしれないが､ 意味は同じだ｡
ベクトル空間では互いに近接しているはずだから､ 数字にしたときに近接するものは似たような意味になるはずだ｡
そして､ これが基本的な考え方だ｡
この背景には､ より洗練されたアイデアもあり､ これらの意味の裏側でベクトル数学と呼ばれるものができることもある｡
そして､ 昔からよく言われるこの例がある｡
王様という単語があると仮定して､ 王様という単語を表す空間上の点を見つけるためにベクトルエンコーディングを使ったとする｡
そして､ "man "という言葉を反映したベクトルも見つけることができる｡
そして､ 女性という言葉を映し出すベクトル｡
王という言葉から男を引くと､ 男の方向へ後退することになり､
女を足すと､ 女の方向へ前進することになる｡
あなたが効果的に行ったことは､ 王の概念､ 王の意味を取り上げて､ この王の意味において男を女に置き換えたいと言ったことだ｡
そして少々驚くべきことに､ これを実行すると､ 実際にベクトル空間の位置に行き着く｡
つまり､ 王という言葉の意味を男性から女性に置き換えると､
女王という言葉の意味を反映したものになるようだ｡
その意味で､ ベクトルは､ 似たような単語が近接しているという意味でも､ 概念間の関係を理解するためのベクトル計算の能力という意味でも､
そのベクトルが表す単語の背後にある意味を如実に反映しているように見えるのだ｡
ボロ雑巾との関係は？
ここにすべてが集約される｡
これが今のラグの大きな考え方だ｡
これは以前と同じ図だ｡
でも､ もう少し続くよ｡
一番上にエンコーディングLMという新しいボックスがある｡
これはテキストをベクターに変換できるものだ｡
そして一番下にはベクター・データ・ストアと呼ばれるものがある｡
ナレッジ・ベースの前にあったデータ・ストアのようなものだ｡
しかし今は､ テキストと一緒に､ そのテキストを表すベクトル､ そのテキストの意味を表すベクトルも保存できる｡
分かった｡
だから､ こうするんだ｡
ユーザーからの質問である｡
最初にすることは､ その質問をベクトル化することだ｡
では､ 仮にエイミー・ミーとは誰かという質問があったとしよう｡
ランカスター
エイミー・ランカスターとは誰かという問いの意味を反映するベクトルに変える｡
私が次に何を言おうとしているか､ 想像がつくだろう｡
このベクターデータベースの中で､ エイミー・ランカスターという人物のベクターに近いベクターは何か教えてください｡
だから､ そこにあるさまざまな文書を見てほしい｡
我々はそれらをすべてベクトルに変えた｡
エイミー・ランカスターとは誰か？
そのベクターを渡し､ そのベクターに変換された元の情報､ テキストを渡す｡
そしておそらく､ エイミー・ランカスターの実際の航空文書が､ エイミー・ランカスターとは誰かというベクトルに近い場所にある可能性が極めて高い｡
だから､ その情報を得たら､ 単純にその文章を受け取る｡
さっきのおもちゃの例と同じように､ LLMにプロンプトを送ると､ おそらく余分な文脈を利用したレスポンスが返ってくる｡
そしてそれがユーザーに還元される｡
つまり､ おもちゃの例と同じように､ 関連するデータを調べるために､ より強力なテクニックを使っているということだ｡
質問の意味と最も似た意味を持つ知識を理解する方法として､ ベクトルを使っている｡
まあ､ 本当にそれだけだ｡
というのも､ 次回はこれを実践して､ 実際にデータベースでベクトルを見ることになるからだ｡
また次回は､ この種のアプリケーションを簡単に構築できるように設計された､ 素晴らしい素晴らしいフレームワークであるラング・チェインというものを見ていくつもりだ｡
すべてマニュアル通りにやればいいんだ｡
実際にベクターを作成し､ さまざまなAPIを使ってベクターデータベースに保存することができる｡
しかし､ ラング・チェインでは､ ご覧のように超シンプルに仕上げている｡
ほんの数行のコードで非常にパワフルなことができるようになる｡
だから興奮しているんだ｡
君もそうだといいね｡
その時にまた会おう