STAGE 03 / 08
言葉の地図
生成AIは、言葉（トークン）を数字の並び（ベクトル）に置きかえます（→ STAGE 02「言葉をこまかく切る」）。ベクトルは地図の上の矢印のようなもので、意味の近い言葉ほど、原点から見て同じ向きに置かれます。コマを動かして、言葉どうしの近さを測ってみましょう。
もっと詳しく・体系的に学びたい人へUdemy講座「図解でわかる！生成AIの解剖図鑑」このステージの内容は、講座の #1-4「埋め込み」・#3-4「ベクトルデータベース」で図解の動画でくわしく。生成AIの仕組み30本を、順番に体系的に学べます。講座を見る →
PREDICT「王様−男性＋女性」を計算すると、地図のどの言葉にいちばん近くなる？
予想してから、白いボタン（足し引き）で確かめよう。「男性→女性」と同じ矢印を王様に足すと、王様→女王の矢印とほぼ重なります（近さ 0.99）。元の3語（王様・男性・女性）は答えから除きます。
- 1クリック←→コマを置く（ピンをクリックするとそこへ）コマの位置＝調べたいベクトル。原点から見て向きのそろった言葉ほど「近い」（メーターが 1 に近づく）。
- 2アームをドラッグB基準の言葉を変える（パネルの「基準」でも変えられる）メーターとパネルの数字は、基準とコマの2本の向きのそろい具合（コサイン類似度）。
- 3ボタンをクリックEnter言葉の足し引きをする（パネルの「足し引きする」でもできる）「男性→女性」と同じ矢印を王様に足すと、女王の近くに着く。矢印の向きにも意味がある。
しくみ
「犬」と「猫」の近さ0.99
マイナスは「反対の意味」ではありません。2次元の地図に押しこんだための見かけで、本物では関係のうすい言葉どうしは 0 付近になりやすい。
コマに近い言葉（上位4つ）近さ／向きのずれ
動物国と都市人乗り物食べ物
言葉の足し引き
−＋≒？
図の見かた
ミッション 0 / 4
- 基準と同じ色（同じまとまり）の言葉にコマを合わせて、近さ（パネルの数字）を 0.90 以上にする
- 基準と違う色の言葉にコマを合わせて、近さを 0.30 より小さくする
- 「王様−男性＋女性」を足し引きして、答えを出す
- 王様の例とは別の、関係のある式で足し引きする（例：子犬−犬＋猫）
STAGE 03 CLEAR!
この先を、もっと詳しく体系的に。このステージの内容は、Udemy講座の #1-4「埋め込み」・#3-4「ベクトルデータベース」で、図解の動画でくわしく解説しています。サイトで触った8つの機械を含む、生成AIの30の仕組みを順番に学べます。
Udemy講座を見る →わかったこと
- AIは言葉（トークン）をベクトル（数字の並び）に置きかえる。これを埋め込みという。本物の生成AIでは、数字は数百〜数千個ほど。文の中では、前後の言葉に合わせてさらに調整される（→ STAGE 04「どこに注目する？」）。
- 意味の近い言葉は、原点から見て同じ向きに置かれる。近さはコサイン類似度（向きのそろい具合）で測り、1 に近いほど似ている。原点からの遠さ（長さ）は見ない。
- 矢印の向きにも意味がある。「男性→女性」と同じ矢印を「王様」に足すと「女王」の近くに着く。ただし本物の地図でも、足し引きがいつもきれいに成り立つとは限らない。
確認クイズ 3問
Q1. 生成AIでいう「埋め込み（エンベディング）」とは？
言葉ごとに数百〜数千個の数字の並びを持たせ、意味の近い言葉ほど向きがそろうように、学習で決めます。
Q2. コサイン類似度で「近い」と判定される2つの言葉は？
コサイン類似度は向きのそろい具合だけを見ます（1 が同じ向き、0 が直角）。何以上なら「近い」かの目安はモデルによって違います。反対の意味の言葉（暑い・寒い）は同じ話題で使われるので、本物ではむしろ近くなりやすいです。
Q3. コマを、向きを変えずに原点から2倍遠くへ動かすと、基準との近さ（コサイン類似度）はどうなる？
コサイン類似度は向きだけを見るので、長さを変えても同じです。図でコマを黒いアームにそって動かしても、メーターの針は動きません。なお、検索で使う埋め込みは長さを1にそろえることが多く、そこでは向きが近い＝位置も近くなります。