まとめ・用語集

文章ができるまで（AIの中で起きる順）

賢くする・使うときの工夫・画像では

用語集 28語

生成AISTAGE 01STAGE 07

文章・画像などを新しく作るAI。

大規模言語モデル（LLM）STAGE 01

大量の文章で学習し、次に来る言葉の確率を計算して文章を作るAI。

プロンプトSTAGE 01STAGE 06STAGE 08

AIに渡す指示・書き出し・質問のこと。

次トークン予測STAGE 01

次に来るトークンの確率を計算し、1つ選ぶこと。文章はこのくり返しでできる。

確率・softmaxSTAGE 01STAGE 04

候補ごとの点数を、合計100%になるように割り振る計算。

温度STAGE 01

確率の差の大きさを変える設定。低いと1位ばかり、高いと意外な答えも出る。学習で決まる値ではない。

トークンSTAGE 02

AIが文章を扱う単位。言葉より細かいことが多い。

語彙STAGE 02

AIが使えるトークンの一覧。本物の生成AIでは、数万〜十数万個ほど。

トークン数STAGE 02

文章を切った片の数。一度に読める長さの上限や、API の利用料の単位になる。

コンテキストウィンドウSTAGE 02

AIが一度に読める長さの上限。トークン数で決まる。

埋め込み・ベクトルSTAGE 03

言葉（トークン）を数字の並びにしたもの。意味が近い言葉ほど向きが近くなる。

コサイン類似度STAGE 03

2つのベクトルの向きのそろい具合。1に近いほど意味が近い。

アテンション（注目の重み）STAGE 04

文の中のどの言葉にどれだけ注目するかを計算し、合計100%に割り振る仕組み。文章を作るAIは前の言葉だけを見る。

TransformerSTAGE 04

アテンションを中心にした、いまの生成AIの土台になっている作り。

パラメータ（重み）STAGE 05

AIの中の数値。学習で少しずつ変わる。本物の生成AIでは、数十億個以上。

ハイパーパラメータSTAGE 05

学習率など、人が先に決める設定。学習で動くパラメータとは別。

損失STAGE 05

AIの答えと正解のずれ。学習はこれを小さくする。

勾配降下法STAGE 05

損失が減る向き（傾き＝勾配の反対）へ、パラメータを少しずつ動かす学習の方法。

学習率STAGE 05

1歩の大きさを決める倍率。大きすぎると行き過ぎ、小さすぎると進まない。

局所解STAGE 05

まわりより低いが、いちばん低いとは限らない谷。

ニューラルネットワークSTAGE 05STAGE 07

パラメータがたくさんつながったかたまり。生成AIの本体。

ハルシネーションSTAGE 06

もっともらしい誤りを、自信ありげに答えること。わざとではなく、それらしい続きを作った結果。

RAG（検索拡張生成）STAGE 06

答える前に資料を検索して取り出し、それを読んで答える方法。誤りを減らすが、ゼロにはしない。

拡散モデルSTAGE 07

ノイズから少しずつノイズを消して画像を作る方法。学習では、絵にノイズを足して、それを当てる練習をする。

ステップ数STAGE 07

ノイズを消す回数。少なすぎると粗く、増やしすぎても変わらず時間がかかる。

乱数の種（シード）STAGE 07STAGE 01

最初のノイズを決める番号。同じ番号・同じ設定なら同じ絵になる。

AIエージェントSTAGE 08

考える→道具を使う→結果を見る、をくり返して目標を達成するAI。

ツールSTAGE 08

AIが呼び出して使う道具（計算・検索・予定の確認など）。正確さが必要な所を任せる。

説明は短くまとめたものです。くわしくは各ステージで、機械を動かして確かめてください。