STAGE 06 / 08
もっともらしいウソと、調べてから答える
生成AIは「それらしい続き」を作る仕組みなので（→ STAGE 01「次の言葉はくじ引きで決まる」）、知らないことでも自信ありげに答えてしまうことがあります（ハルシネーション）。RAG（検索拡張生成）は、答える前に資料を検索して取り出し、手元に置いて読ませてから答えさせる方法です。架空の会社の社内規程について質問（プロンプト）して、違いを確かめましょう。
もっと詳しく・体系的に学びたい人へUdemy講座「図解でわかる！生成AIの解剖図鑑」このステージの内容は、講座の #3-3「RAG」・#5-1「ハルシネーション」で図解の動画でくわしく。生成AIの仕組み30本を、順番に体系的に学べます。講座を見る →
PREDICTAIが知り得ない架空の会社の規程を、資料なしで聞いたらどう答える？
予想してから、図をクリックして質問し、書見台の答えを確かめよう。資料がないと、よくある答えの形にありがちな数字を当てはめて言い切ることがあります。「わかりません」と答えられるAIも増えていますが、言い切ってしまうこともあります。
- 1クリックSpaceAIに質問する（最初は資料なし）資料なしだと、この会社の資料を見ていないのに、それらしい数字を言い切ります。これがハルシネーション。わざとではなく、それらしい続きを作った結果です。
- 2レバーをクリックS資料を調べてから答えさせる（RAG）質問と同じキーワードが多い引き出しを開け、カードを書見台に立てて、それを読ませて答えます。正確になりやすくなりますが、読み違えることもあります。
- 3引き出しをドラッグ関係ない資料を手で渡す関係ない資料を渡すと、答えも外れます。RAGでは、何を取り出したか（根拠）を確かめることが大切です。
しくみ
QUESTION 1
図の見かた
ミッション 0 / 4
- 「調べる」をオフ（資料なし）にして質問し、もっともらしいウソ（ハルシネーション）を見る
- 「調べる」をオンにして、検索で取り出した資料から正しい答えを出させる
- 関係ない資料で答えさせて、答えが外れるのを見る（質問5を調べる、または関係ない引き出しをドラッグ）
- 棚の資料を「古いまま（更新漏れ）」にして調べさせ、答えが古い数字になるのを見る
STAGE 06 CLEAR!
この先を、もっと詳しく体系的に。このステージの内容は、Udemy講座の #3-3「RAG」・#5-1「ハルシネーション」で、図解の動画でくわしく解説しています。サイトで触った8つの機械を含む、生成AIの30の仕組みを順番に学べます。
Udemy講座を見る →わかったこと
- 生成AIは、事実と違う内容や根拠のない内容を、もっともらしく言い切ることがある。これがハルシネーション。わざとではなく、それらしい続きを作った結果。言い切り方は正しさの証拠にならない。
- RAG（検索拡張生成）は、質問に近い資料を検索して取り出し、手元に置いて読ませてから答えさせる方法。正しい資料が見つかれば正確になりやすい。それでも読み違えることはあるので、根拠の資料を確かめる。
- 資料が見つからない・関係ない・古いままだと、答えも外れる。この図の検索は同じ言葉の数で探すので言い換えに弱い。本物の多くは意味の近さで探す（→ STAGE 03「言葉の地図」）。
確認クイズ 3問
Q1. 生成AIのハルシネーションとは？
それらしい続きを作る仕組みなので、知らないことでも自信ありげに答えを作ってしまうことがあります。わざとではありません。
Q2. AIが答えを強く言い切った。この答えについて言えることは？
図の言い切りメーターは、正しい答えでも間違った答えでも同じように振れました。正しさは、根拠の資料で確かめます。
Q3. 社内の規程が今日変わった。RAGで答えるAIに、新しい規程で答えさせるには？
RAGは答えるたびに資料を読むので、学習し直さなくても、資料を新しくすれば新しい答えになりやすくなります。図の「古いまま（更新漏れ）」のように、資料が古いと答えも古くなります。