9 汎化はなぜ起きるのか ── 過剰なパラメータの逆説
前章で、深いネットワークを学習させる技術が揃った。実際、恐ろしくうまくいく。
だが、うまくいきすぎている。古典的な学習理論に照らせば、深層学習は動くはずがない。
パラメータの数がデータの数を上回るモデルは、訓練データを丸暗記して、未見のデータではまるで使い物にならない—それが統計学の常識だった。ところが現代のネットワークは、パラメータ数がデータ数の何十倍あっても汎化する。
本章は、この謎を扱う。そして答えは、まだ出ていない。
出ていないからこそ面白い、というだけではない。この謎は「脳を理解するとはどういうことか」という問いに直結している。第8節で扱う Hasson らの主張—脳もネットワークも簡潔な規則を発見しているのではなく、膨大なサンプルの上で内挿しているだけかもしれない—は、本書が第1章第2節で立てた問いに、真正面から挑むものである。
第1節が古典理論の復習、第2〜3節がその破綻、第4〜7節が現代的な理論、第8〜9節が視点の転換である。
第5節で、ヤコビアンが三つ目の役目を負う。ただし今度は「パラメータに関する」ヤコビアンである。第11章では「入力に関する」ヤコビアンが表現の幾何を支配する—同じ道具が、微分する変数を替えるだけで別の役目を果たす。
第8〜9節が本章の要である。数式は少ないが、本書全体で最も射程の長い議論になる。急ぐならここだけでもよい。
本章には確定した答えがない。「分かっていない」と書いてある箇所は、本当に分かっていない。
1. 学習理論の古典 ── バイアスとバリアンス
何を最小化したいのか
我々が本当に知りたいのは、未見のデータに対する誤差である。汎化誤差（あるいは期待誤差）という。
R(f) = \mathbb{E}_{(\mathbf{x},y)\sim p_{\text{data}}}\big[ \mathcal{L}(f(\mathbf{x}), y) \big]
だが p_{\text{data}} は分からない。手元にあるのは有限個のサンプルだけだ。だから代わりに訓練誤差を最小化する。
\hat{R}(f) = \frac{1}{M}\sum_{i=1}^{M} \mathcal{L}\big(f(\mathbf{x}_i), y_i\big)
問題は、この二つがどれだけずれるかである。
バイアス-バリアンス分解
二乗誤差の場合、汎化誤差はきれいに分解できる。真の関数を g(\mathbf{x})、観測を y = g(\mathbf{x}) + \varepsilon（\varepsilon は平均0・分散 \sigma^2 のノイズ）とする。訓練データ D に依存して学習される関数を \hat{f}_D と書く。
ある点 \mathbf{x} での期待二乗誤差を計算しよう。\bar{f}(\mathbf{x}) = \mathbb{E}_D[\hat f_D(\mathbf{x})] を足して引くのが定石である。
\begin{aligned} \mathbb{E}_{D,\varepsilon}\Big[\big(y - \hat{f}_D(\mathbf{x})\big)^2\Big] &= \mathbb{E}\Big[\big(g + \varepsilon - \hat{f}_D\big)^2\Big] \\ &= \mathbb{E}\Big[\big(\underbrace{g - \bar{f}}_{\textsf{定数}} + \underbrace{\bar{f} - \hat{f}_D}_{\textsf{平均0}} + \underbrace{\varepsilon}_{\textsf{平均0・独立}}\big)^2\Big] &&\textsf{(} \bar f \textsf{ を足して引いた)}\\ &= \underbrace{\big(g(\mathbf{x}) - \bar{f}(\mathbf{x})\big)^2}_{\textsf{バイアス}^2} + \underbrace{\mathbb{E}_D\big[(\hat{f}_D - \bar{f})^2\big]}_{\textsf{バリアンス}} + \underbrace{\sigma^2}_{\textsf{ノイズ}} &&\textsf{(交差項が消えた)} \end{aligned}
交差項が消えるのが要点である。三つの項のうち二つが平均0で、しかも互いに独立だから、掛け合わせた期待値がゼロになる。
三つの項の意味は次のとおりである。
- バイアス — モデルが単純すぎて、真の関数を表現できないことによる誤差
- バリアンス — 訓練データが変わると学習結果が変わってしまうことによる誤差
- ノイズ — どうやっても減らせない
トレードオフ
モデルを複雑にするとバイアスは減り、バリアンスは増える。だから汎化誤差は U 字型になる—モデル複雑度に対して、どこかに最適点がある。
これがバイアス-バリアンストレードオフであり、統計学の教科書に必ず載っている図である。
そして実務上の指針が導かれる。モデルを大きくしすぎてはいけない。交差検証で最適な複雑度を選び、正則化でモデルを抑える—これが正しい作法とされてきた。
容量の理論
「複雑度」を厳密に測ろうという試みもある。VC 次元は「そのモデル族が任意にラベル付けできる点の最大個数」であり、汎化誤差の上界を与える。
R(f) \le \hat{R}(f) + O\!\left(\sqrt{\frac{d_{\text{VC}}}{M}}\right)
パラメータが多いほど d_{\text{VC}} が大きく、上界が緩くなる。だからサンプル数 M をパラメータ数より十分多くせよ—これが古典的な処方箋だった。
さて。この処方箋を、現代の深層学習は完全に無視している。
2. 古典的な枠組みの破綻
ランダムラベル実験
Zhang らは2017年、単純だが決定的な実験をした。
画像のラベルを、完全にランダムに付け替える。猫の画像に「トラック」、犬の画像に「飛行機」—という具合に、意味のある構造を全部壊す。そのデータで、標準的な CNN を訓練する。
結果：訓練誤差はゼロになった。
数万枚の画像に対するランダムなラベルを、ネットワークは完全に記憶した。当然ながらテスト誤差はチャンスレベルである（学ぶべき規則がないのだから）。
何が問題なのか
この結果が突きつけるのは、次のことである。
このネットワークの実効的な容量は、データセットを丸暗記できるほど大きい。ならば VC 次元による上界は、まったく役に立たない。上界が「テスト誤差は100%以下」としか言わないなら、何も言っていないのと同じである。
そして同じネットワークが、正しいラベルで訓練すると汎化する。
同じアーキテクチャ、同じパラメータ数、同じ最適化手法。違うのはデータだけである。ならば汎化を説明するものは、モデルの容量ではありえない。データと、そして最適化手法の側にあるはずだ。
正則化では説明できない
「正則化が効いているのでは」という反論に対しても、Zhang らは答えている。
重み減衰、ドロップアウト、データ拡張—これらをすべて外しても、正しいラベルなら依然として汎化する。正則化は性能を少し改善するが、汎化の本質的な原因ではない。
では何が汎化させているのか。これが本章の問いである。
ここがポイント
深層ネットワークは、ランダムラベルを丸暗記できるほどの容量を持ちながら、正しいラベルでは汎化する。モデルの容量では汎化を説明できない。説明はデータの構造か、最適化のダイナミクスの側にある。
3. 二重降下
U 字の先
古典的な描像では、モデル複雑度に対する汎化誤差は U 字型だった。では、U 字の右端よりさらに複雑にしたらどうなるか。
古典理論は「もっと悪くなる」と予測する。実際には、そうならない。
Belkin らが2019年に整理したのが、二重降下（double descent）である。
- モデルが小さいうちは、複雑にするほど誤差が減る（古典的な左側）
- 補間閾値—訓練誤差がちょうどゼロになる点—の近くで、誤差がピークを打つ
- それを超えてさらに大きくすると、誤差が再び減り始める
U 字の右側の先に、もう一度の下降がある。だから「二重」降下である。
この様子を描いたのが 図 1 である。
補間閾値で何が起きるか
ピークが立つ理由は、直感的に説明できる。
補間閾値のちょうどその点では、モデルは訓練データをぎりぎり通す一本の解しか持たない。自由度がないので、その解はデータのノイズに引きずられて激しく振動する。バリアンスが爆発する。
パラメータをさらに増やすと、訓練データを通す解が無数に存在するようになる。すると「どれを選ぶか」という選択の余地が生まれる。
暗黙のバイアス
そして—最適化アルゴリズムが、その中から特定の解を選ぶ。
勾配降下法は、無数の解のうち「滑らかな」ものを選ぶ傾向がある。線形回帰の場合には厳密に示せる。初期値ゼロから勾配降下すると、訓練データを通す解のうち最小ノルム解に収束する。
\hat{\theta} = \arg\min_\theta \|\theta\| \quad \text{s.t.}\quad X\theta = \mathbf{y}
誰も「ノルムを小さくせよ」と指示していない。目的関数に正則化項は入っていない。それでも勾配降下法という手続き自体が、暗黙にそういう解を選ぶ。
これを暗黙のバイアス（implicit bias / implicit regularization）と呼ぶ。過剰パラメータ化は、この暗黙のバイアスが働く余地を作る—というのが二重降下の説明の骨子である。
三つの方向
Nakkiran らは、二重降下がモデルの幅だけでなく、データ量やエポック数についても起きることを示した。
とくにエポック二重降下は不気味である。学習を続けるとテスト誤差が一度悪化し、さらに続けると再び改善する。「早期打ち切りが常に正しい」という経験則が、単純には成り立たない。
何が説明できていないか
二重降下は現象の記述である。なぜ暗黙のバイアスが「良い」解を選ぶのかは、まだ十分に説明されていない。
最小ノルム解が良いのは、真の関数がたまたま滑らかな場合である。なぜ自然界のデータに対して、その仮定が当たるのか。これは第8節の Direct Fit の議論と関わってくる。
4. 必要な数学：カーネル法の最小限
次節への準備として、カーネル法の考え方を最小限だけ導入する。
特徴写像
線形モデルは表現力が足りない。入力を高次元に写してから線形にすればよい。
f(\mathbf{x}) = \mathbf{w}^\top \phi(\mathbf{x})
\phi: \mathbb{R}^n \to \mathbb{R}^D（D \gg n）が特徴写像である。\phi の中身が非線形なら、f も \mathbf{x} について非線形になる。
カーネルトリック
D が非常に大きい（あるいは無限次元）と、\phi(\mathbf{x}) を陽に計算できない。だが内積だけなら計算できることがある。
K(\mathbf{x}, \mathbf{x}') = \phi(\mathbf{x})^\top\phi(\mathbf{x}')
この K をカーネルと呼ぶ。
表現定理
なぜ内積だけで足りるのか。表現定理（representer theorem）が保証する。
正則化つきの最小化問題
\min_{\mathbf{w}}\; \sum_{i=1}^{M}\mathcal{L}\big(\mathbf{w}^\top\phi(\mathbf{x}_i), y_i\big) + \lambda\|\mathbf{w}\|^2
の解は、必ず訓練データの特徴ベクトルの線形結合で書ける。
\mathbf{w}^* = \sum_{i=1}^{M}\alpha_i\, \phi(\mathbf{x}_i)
証明の筋。\mathbf{w} を「訓練データが張る空間の成分」と「それに直交する成分」に分ける。直交成分は、どの \phi(\mathbf{x}_i) との内積もゼロなので損失に寄与しない。一方で \|\mathbf{w}\|^2 は増やす。だから最適解では直交成分はゼロである。
これを代入すると、
f(\mathbf{x}) = \sum_i \alpha_i\, K(\mathbf{x}_i, \mathbf{x})
D 次元の \mathbf{w} を求める問題が、M 個の \alpha_i を求める問題になった。高次元の特徴空間を、陽に扱わずに済む。
この構図を覚えておいてほしい。次節では、無限幅のニューラルネットワークがまさにこの形に帰着する。
5. Neural Tangent Kernel ── ヤコビアンが学習を支配する
無限幅極限
Jacot、Gabriel、Hongler (2018) は、驚くべきことを示した。幅を無限大にすると、ニューラルネットワークの学習が厳密に解析できる。
線形化
パラメータ \theta を持つネットワーク f(\mathbf{x};\theta) を、初期値 \theta_0 のまわりで一次近似する。
f(\mathbf{x};\theta) \approx f(\mathbf{x};\theta_0) + \nabla_\theta f(\mathbf{x};\theta_0)^\top(\theta - \theta_0)
ここで \nabla_\theta f が現れた。パラメータに関するヤコビアンである。
J_\theta(\mathbf{x}) = \nabla_\theta f(\mathbf{x};\theta_0) \in \mathbb{R}^{P}
（P はパラメータ数。出力がスカラーなので、ここではベクトルである。）
この近似は、普通なら乱暴である。学習中にパラメータは大きく動くのだから、初期値のまわりの一次近似が有効なはずがない。
だが無限幅では、これが正当化される。幅 n を大きくすると、各パラメータの変化量は O(1/\sqrt{n}) で小さくなる。パラメータ数は増えるので出力は有限に変わるが、一つ一つはほとんど動かない。だから線形近似が破綻しない。
NTK
線形化されたモデルは、\phi(\mathbf{x}) = J_\theta(\mathbf{x}) を特徴写像とする線形モデルである。前節のカーネル法がそのまま使える。
対応するカーネルが Neural Tangent Kernel（NTK）である。
\Theta(\mathbf{x}, \mathbf{x}') = J_\theta(\mathbf{x})^\top J_\theta(\mathbf{x}') = \nabla_\theta f(\mathbf{x})^\top \nabla_\theta f(\mathbf{x}')
読み方。「二つの入力に対する勾配が、どれだけ揃っているか」である。揃っていれば、片方を学習したときもう片方も一緒に動く—汎化はここから生じる。
学習ダイナミクス
勾配流（学習率を無限小にした勾配降下）のもとで、出力の時間発展が閉じた形で書ける。二乗誤差なら、
\frac{d\mathbf{f}}{dt} = -\Theta\big(\mathbf{f} - \mathbf{y}\big)
\Theta は訓練データ間の NTK 行列である。これは線形の微分方程式だから、解ける。
\mathbf{f}(t) = \mathbf{y} + e^{-\Theta t}\big(\mathbf{f}(0) - \mathbf{y}\big)
\Theta を固有値分解すれば、固有値の大きい成分から順に学習されることが分かる。第2章第1節の \tau\,dx/dt = -x+I が、行列版になった形である。
そして無限幅では \Theta が学習中に変化しない（初期値で決まる定数）。だから学習の全経過が予測できる。
ヤコビアンの三つ目の役目
ここで立ち止まってほしい。J という記号が、三つ目の役目を負う場面である。
| 章 | 何に関する微分か | 何を支配するか |
|---|---|---|
| 3.3 | 状態 | 固定点の安定性 |
| 5.2 | 変数 | 確率密度の変換 |
| 9.5（本節） | パラメータ | 学習ダイナミクス |
| 11.4 | 入力（刺激） | 表現の幾何 |
| 15.4 | 潜在変数 | 生成モデルの密度 |
とくに本節と第11章の対比が面白い。
\underbrace{\Theta = J_\theta J_\theta^\top}_{\textsf{パラメータに関する。学習を支配}} \qquad\text{vs}\qquad \underbrace{G = J_s^\top J_s}_{\textsf{入力に関する。表現を支配}}
同じ形の量が、微分する変数を替えるだけで、まったく違う役目を果たす。これは偶然ではない。「写像が微小な変化をどう伝えるか」という問いが共通しているからである。
ここがポイント
無限幅極限では、学習が NTK \Theta = J_\theta J_\theta^\top によるカーネル回帰に帰着する。パラメータに関するヤコビアンが、学習ダイナミクスを完全に決める。第11章では入力に関するヤコビアンが表現の幾何を決める—同じ道具の二つの顔である。
限界
NTK は美しいが、実際のネットワークを説明しきってはいない。
第一に、有限幅では NTK が学習中に変化する。そして実際のネットワークの性能は、しばしば対応する NTK 回帰より良い。特徴を学習していることが、NTK では捉えられない。
第二に、NTK レジームでは表現が変わらない。初期値の特徴写像 J_\theta をそのまま使うので、「深層学習が良い表現を学習する」という現象そのものが起きていない。
だから NTK は、深層学習の理論として完成品ではない。「厳密に解ける最初の例」として価値があるが、本質を捉えているとは言い難い。
6. 厳密に解ける例：深層線形ネットワーク
もう一つ、解析的に扱える設定を見る。非線形性を取り去った深層ネットワークである。
設定
\hat{\mathbf{y}} = W_L W_{L-1}\cdots W_1 \mathbf{x}
活性化関数がない。だから全体としては単なる線形写像である。表現力は1層と変わらない。
それでも学習ダイナミクスは、1層とまったく違う。これが面白い点である。
解析解
Saxe、McClelland、Ganguli は、入出力の相関行列を特異値分解し、勾配流のもとでの解を求めた。
入出力相関 \Sigma^{yx} = \mathbb{E}[\mathbf{y}\mathbf{x}^\top] の特異値を s_\alpha とする。適当な初期条件のもとで、ネットワークが実現する写像の \alpha 番目の特異値 a_\alpha(t) は、次を満たす。
\tau\frac{da_\alpha}{dt} = 2\,a_\alpha\big(s_\alpha - a_\alpha\big)
（係数 2 は、a_\alpha が二つの層の重みの積になっていることから出る。深さがそのまま式に現れている。）
ロジスティック方程式である。解は S 字型（シグモイド）になる。
a_\alpha(t) = \frac{s_\alpha\, e^{2s_\alpha t/\tau}}{e^{2s_\alpha t/\tau} - 1 + s_\alpha/a_\alpha(0)}
何が読めるか
第一に、特異値ごとに独立に学習される。モードが分離しているので、それぞれを別々に追える。
第二に、学習は段階的である。a_\alpha は長い停滞のあと急速に立ち上がる。大きい特異値ほど早く立ち上がる。
つまり—データの中の「強い」構造から順に、階段状に学習されていく。
第三に、1層では起きない。1層の線形回帰なら \tau\,da/dt = s - a という単純な指数緩和で、停滞も段階性もない。深さが、この非自明なダイナミクスを生んでいる。
意味論的発達との対応
Saxe らは、この結果を子どもの概念発達と結びつけた。
子どもは概念を段階的に獲得する。まず「生物と無生物」という大きな区別を学び、次に「動物と植物」、そして「犬と猫」と細かくなっていく。しかも各段階の移行は急である。
深層線形ネットワークで階層的な概念構造を学習させると、まったく同じ順序と急峻さが現れる。大きな特異値（大きなカテゴリの区別）が先に、小さな特異値（細かい区別）が後に立ち上がるからだ。
「発達段階」という現象が、線形代数から出てきた。特別な機構を仮定しなくても、勾配降下法と階層的なデータ構造だけで生じる—これは魅力的な主張である。
留保
もちろん、これで発達が説明されたわけではない。線形ネットワークは、実際の脳とも実際の深層学習とも遠い。
だが本書の文脈では、この例には別の価値がある。「厳密に解ける模型を持つこと」の価値である。物理学がイジング模型を持つように、深層学習理論も解ける模型を必要としている。深層線形ネットワークは、その最有力候補の一つである。
7. Neural Collapse
現象
Papyan、Han、Donoho は2020年、分類ネットワークの学習終盤に起きる、驚くほど規則的な現象を報告した。
訓練誤差がゼロになった後も学習を続けると（終末相, terminal phase of training）、最終層の表現が次の四つの性質を示す。
- クラス内分散の消失 — 同じクラスのサンプルの表現が、クラス平均に収束する
- 単体 ETF への収束 — クラス平均どうしが、互いに最大限離れた対称的な配置（単体等角タイトフレーム）をなす
- 自己双対性 — 分類器の重みベクトルが、クラス平均の方向と一致する
- 最近傍クラス平均則 — 分類が「もっとも近いクラス平均を選ぶ」という規則に一致する
アーキテクチャやデータセットによらず、同じことが起きる。
何が起きているのか
分類という目的から考えれば、自然な帰着ではある。クラス内の違いは分類に不要だから捨てられ、クラス間はできるだけ離したい。その極限が Neural Collapse である。
だから「良いこと」に見える。実際、この状態は分類性能とロバスト性に関係するとされる。
だが訓練分布限定である
ここが重要である。Neural Collapse は、訓練データについて成り立つ現象である。
訓練分布の外の入力が、表現空間のどこに写るかについては、何の保証もない。
そして考えてみれば、これは深刻な話だ。クラス内分散をゼロにするということは、そのクラスの中の違いを完全に捨てるということである。
- 「犬」クラスの中の、犬種の違いは？ 捨てられた。
- 姿勢や照明の違いは？ 捨てられた。
分類には要らない。だが他の課題には要る。
表現の次元との関係
第11章第7節で「表現の次元」を扱うとき、この話が戻ってくる。Neural Collapse は、表現次元を極限まで落とす現象である。クラス数を C とすると、最終層の表現は実質 C-1 次元の単体上に潰れる。
分類に最適化すると、分類以外に必要だった次元が失われる。
これは第11章第7節で述べる「良い表現は課題を指定しないと決まらない」という主張の、鮮明な実例である。そして第17章で「脳とAIの表現は一致するか」を問うとき、モデルがどんな課題で訓練されたかが決定的に効くことの理由にもなる。
8. Direct Fit to Nature ── 汎化観の転換
ここから、本章の性格が変わる。技術的な問いから、認識論的な問いへ移る。
前提を疑う
ここまで我々は、暗黙にある前提を置いてきた。
「モデルが汎化するのは、データの背後にある規則を発見したからだ。」
科学者にとって、これは自然な前提である。ケプラーは惑星の位置データから楕円軌道の法則を発見した。簡潔な規則を見つけることが、理解であり、汎化の源泉である。
Hasson、Nastase、Goldstein (2020) は、この前提を疑う。
主張
その主張は、こうである。
脳も深層ネットワークも、簡潔な生成規則を発見しているのではない。高次元空間の密なサンプリングの上で、直接的な当てはめ（direct fit）による内挿を行っているにすぎない。
「direct fit」という言葉が指すのは、盲目的な適合である。パラメータを膨大に持ち、データに直接フィットさせる。理解も抽象化もない。
そして進化がまさにこれをやってきた、というのが論の運びである。進化は簡潔な原理を発見しない。膨大な試行の上で、環境に直接適合する。脳の学習も同じ性格を持つのではないか、と。
内挿と外挿
議論の核心は、内挿（interpolation）と外挿（extrapolation）の区別にある。
- 内挿 — 訓練データに囲まれた領域での予測
- 外挿 — 訓練データの外での予測
素朴には、深層ネットワークの成功は外挿の成功に見える。見たことのない画像を正しく分類するのだから。
Hasson らはこれを否定する。高次元空間に膨大なサンプルがあれば、「新しい」入力も実は訓練データに囲まれている。外挿しているように見えて、内挿しているだけである。
なぜこれが重要か
三つの含意がある。
第一に、汎化の説明が変わる。「良い規則を見つけたから汎化する」のではなく、「サンプルが十分密だから内挿できる」。すると重要なのはモデルの簡潔さではなく、訓練データの被覆の密度になる。
第二に、失敗の予測が変わる。内挿しかできないなら、訓練分布の外では壊れるはずである。そして実際、深層ネットワークは分布シフトに弱い。敵対的例に騙される。第11章第8節で見る「テクスチャ偏重」も、この文脈で読める。
第三に—これが本節の主題だが—「理解」の意味が変わる。
「理解」への挑戦
Hasson らの主張が正しいなら、次の問いが立つ。
脳が簡潔な規則で動いていないなら、我々が脳の簡潔な理論を作れるはずがあるだろうか。
これは深刻である。神経科学は「脳の計算原理を明らかにする」ことを目指してきた。だが対象が原理を持たず、膨大なパラメータによる盲目的な適合で動いているなら—明らかにすべき原理が、そもそも存在しない。
同じことが深層学習の解釈にも言える。「このネットワークは何を学習したのか」と問うても、答えが「訓練データを密に覆う関数を学習した」だけなら、それ以上の説明は原理的にない。
反論もある
もちろん、この主張には反論がある。
反論1：構成的汎化の証拠。「紫色のキリン」を見たことがなくても認識できる。属性が独立に処理され組み合わされているなら、これは内挿では説明できない—第13章第10節の議論である。
反論2：内挿と外挿の区別が曖昧。高次元では「データに囲まれている」という概念自体が怪しい。D 次元で凸包の内部に入る確率は、D が大きいと急速にゼロに近づく。そもそもすべてが外挿かもしれない。
反論3：抽象化の証拠。少数のサンプルから新しいカテゴリを学ぶ（few-shot learning）能力は、単なる内挿では説明しにくい。
決着していない。そしてこの論争を実験的に解決するのは、思われているより難しい。「訓練で見ていない組み合わせ」だと思っていたものが、実は表現空間では訓練データに囲まれていた—ということが起こりうるからだ。
9. では脳の理解とは何か
前節を受けて、本書が第1章第2節で開いた問いに戻る。「説明した」とはどういうことか。
三つの立場
素朴に考えると、次の三つがありうる。
立場1：簡潔さ。短い数式で書けたら理解したことになる。物理学の伝統である。ニュートンの運動方程式、マクスウェル方程式—簡潔さが理解の証だった。
だが前節の議論が正しいなら、脳にこの基準は適用できないかもしれない。
立場2：予測。簡潔でなくてもよい。未見の状況での振る舞いを予測できれば理解である。
だがこれは「モデルが動く」ことと区別がつかない。十分大きなネットワークで脳の入出力を再現できたとして、それを理解と呼びたいだろうか（第1章第2節の万能近似定理の議論である）。
立場3：介入。介入したときの結果を予測できることが理解である。「この細胞を抑えたらこうなる」と言えて、実際そうなる。
因果的な理解であり、実験科学の基準に近い。だが「なぜそうなるか」の説明にはならない。
本書の立場
判定は下さない。だが本書の構成そのものが、一つの態度を表している。
本書は「同じ数学が何度も現れる」ことを軸にした。畳み込みが第4章と第8章と第13章に現れる。ヤコビアンが五つの役目で現れる。エネルギー関数が第7章から第16章まで貫く。
なぜこの構成を採ったのか。それは、理解とは「異なるものが同じ構造を持つと分かること」だという考えに基づいている。
畳み込みが視覚受容野と CNN の両方に現れるのは、両者が同じ制約（平行移動同変性）に従っているからである。この対応が分かったとき、我々は片方について知ったことを他方に転用できる。それは簡潔さでも予測でも介入でもない、第四の理解のかたちである。
そして—その対応が本物かどうかを確かめるには、何をもって「同じ」と言うかを決めねばならない。
これが第11〜13章の主題である。第11章で表現の幾何を測り、第12章で「何を実数に写してよいか」を問い、第13章で「どんな変換のもとで同じと言うか」を群として定式化する。
汎化の謎に答えは出さなかったが、問いの立て方は変わった。「なぜ汎化するのか」から、「何をもって同じ構造と言うのか」へ—本章から第11章への橋は、そこに架かっている。
次章へ
本章は学習をめぐる理論的な山場だった。次章では強化学習を扱う。
だがそこには、本書が繰り返し追ってきた構図がもう一度現れる。TD 誤差という一つの量が、アルゴリズムの中核でありながら、ドーパミン細胞の発火として実際に観測される。数学と生物学が、これ以上ないほど直接に出会った例である。
確認問題
［導出］バイアス-バリアンス分解を導出せよ。導出のどこで交差項が消えるか、その理由を述べよ。（第1節）
［確認］Zhang らのランダムラベル実験の結果を述べ、それが VC 次元による汎化の説明をどう否定するかを説明せよ。（第2節）
［考える］同じネットワークがランダムラベルを記憶し、正しいラベルでは汎化する。この事実から、汎化を説明するものはどこにあると結論できるか。（第2節）
［確認］二重降下の三つの局面を述べよ。補間閾値でピークが立つ理由を説明せよ。（第3節）
［導出］表現定理を述べ、その証明の筋（直交成分が損失に寄与しないこと）を説明せよ。（第4節）
［考える］無限幅では NTK が学習中に変化しない。このことが「特徴を学習していない」ことを意味する理由を説明せよ。（第5節）
［確認］Direct Fit to Nature の主張を要約せよ。内挿と外挿の区別が、なぜこの議論の核心なのか。（第8節）
［考える］Direct Fit の主張に対する反論を二つ挙げよ。そのうえで、第17章第6節の世界モデルの立場との対立点を整理せよ。（第8節・第17章第6節）
参考文献
- Zhang, C. et al. (2017) Understanding deep learning requires rethinking generalization — ランダムラベル実験［2節］
- Belkin, M. et al. (2019) Reconciling modern machine-learning practice and the classical bias–variance trade-off. PNAS — 二重降下［3節］
- Jacot, A. et al. (2018) Neural tangent kernel — NTK の原典［5節］
- Saxe, A. M. et al. (2019) A mathematical theory of semantic development in deep neural networks. PNAS — 深層線形ネットワーク［6節］
- Papyan, V. et al. (2020) Prevalence of neural collapse. PNAS — Neural Collapse［7節］
- Hasson, U., Nastase, S. A. & Goldstein, A. (2020) Direct fit to nature. Neuron — 本章第8節の主張の出典。第17章第6節と対で読んでほしい