STAGE 05 / 08

まちがいから学ぶ

学習パラメータ損失約5分

AIの中には、パラメータ（AIの中の数値。重みとも呼ぶ）がものすごい数あります。パラメータがたくさんつながったかたまりが、ニューラルネットワークです。学習では、AIの答えと正解のずれ（損失）を測り、ずれが小さくなる向きにパラメータを少しずつ動かします。台車を谷の底まで下ろしてみましょう。

1図をクリックして、台車を1歩進めてみよう図のどこをクリックしても動きますもっと詳しく学ぶなら：Udemy講座へ →
もっと詳しく・体系的に学びたい人へUdemy講座「図解でわかる！生成AIの解剖図鑑」このステージの内容は、講座の #1-8「事前学習」・#2-1「ファインチューニング」で図解の動画でくわしく。生成AIの仕組み30本を、順番に体系的に学べます。講座を見る →

PREDICT歩幅（学習率）を大きくするほど、谷の底に早く着く？

予想してから、歩幅ダイヤルを回して、図をクリックして確かめよう。
あそびかた上から順にやってみよう。図の番号が操作する場所です。
  1. 1クリックSpace台車を1歩進めるいまいる場所の傾きを測り、下り側へ「学習率×傾き」だけ動きます。高さ（損失）が下がるのが学習です。
  2. 2ダイヤルをドラッグ→歩幅（学習率）を0.8以上にする紫の点は、その歩幅で進む8歩の予定。大きすぎると谷底を飛び越えて行ったり来たりし、損失がなかなか下がりません。
  3. 3台車をドラッグHome出発点（パラメータの最初の値）を変える出発点が変わると、たどり着く場所も変わります。左の坂から下ると、浅いくぼみ（局所解）で止まります。台車にわかるのは、いまいる場所の傾きだけだからです。
台車レールの高さ高さ計傾き計歩幅ダイヤル次の一歩浅いくぼみ

しくみ

歩数0
損失—
いまの傾き—

出発点
ふつう｜

損失のグラフ（1本＝1歩、右が最新）

図の見かた

黄緑の台車：位置＝パラメータ（重み）の値、高さ＝損失（AIの答えと正解のずれ）。左の橙の指標で読む水色の指標と点：次の一歩で行く位置と、通ってきた跡紫の歩幅ダイヤル：学習率（人が先に決める設定）　白い傾き計：針が下り側を指す1歩ごとに「いまの値−学習率×傾き」へ動く（勾配降下法）。本物の学習は、この1歩を何万回もくり返す。台車にわかるのはいまいる場所の傾きだけで、地形全体は見えていない。左の浅いくぼみのような場所は局所解とよばれる（本物は次元がとても多く、ゆらぎなどの工夫もあって、1本のレールほど閉じこめられやすくはない）。学習率は人が先に決める設定で、本物は学習が進むにつれて小さくしていくことが多い。地形と数字は説明用の例。本物の生成AIでは、パラメータは数十億〜数千億個ほどで、それを全部同時に少しずつ動かす。

ミッション 0 / 4

  • 図をクリックして進め、損失を出発したときの半分以下にする
  • 歩幅を 1.0 以上にして、台車が谷を飛び越えて行ったり来たりするのを見る
  • 左の坂から歩幅 0.3 くらいで進め、浅いくぼみ（局所解）で止まるのを見る
  • 右の坂の上から出発して、9歩以内に深い谷の底で止まる（ちょうどいい歩幅をさがそう）

わかったこと

  • AIの中身は、ものすごい数のパラメータ（重み）。その値で、次の言葉の確率が決まる（→ STAGE 01「次の言葉はくじ引きで決まる」）。
  • 文章を作るAIは、お手本の文章で実際に次に来た言葉を「正解」として学ぶ。正解の言葉に低い確率しか付けなかったほど損失が大きく、傾きを見て損失が下がる向き（正解の確率が上がる向き）にパラメータを少し動かす。このくり返しが学習（勾配降下法）。
  • 学習率は一歩の大きさを決める倍率（一歩＝学習率×傾き）で、人が先に決める設定（ハイパーパラメータ）。大きすぎると谷を飛び越えて行ったり来たりし、小さすぎるとなかなか進まない。谷底に近づくほど傾きが小さくなり、一歩も自然に小さくなる。

確認クイズ 3問

Q1. AIの「学習」で、少しずつ自動的に変えられていくものは？

Q2. 文章を作るAIの学習で、損失が大きくなるのはどんなとき？

Q3. 谷の底に近づくと、学習率を変えていないのに一歩が小さくなる。なぜ？

NEXT · STAGE 06もっともらしいウソと、調べてから答える→