1 脳とAIを同じ数理で見る ── 本書の見取り図
1943年、McCulloch と Pitts という二人の研究者が、ニューロンの数学モデルを書いた。入力を重み付きで足し合わせ、閾値を超えたら発火する—それだけのモデルである。彼らの目的は脳の理解だった。
その80年後、同じ形の計算素子を何十億個も積み上げたシステムが、文章を書き、絵を描き、コードを書いている。こちらの目的は工学である。
二つの営みは、途中で別れたのだろうか。それとも、いまも同じ道の上にいるのだろうか。
別れた時期は、確かにあった。AIは生物学的な忠実さを手放すことで前へ進み、脳の理論研究は実際の回路が何をしているかを問い続けた。だが近年、両者はふたたび交わりつつある。細部まで脳を真似ていないネットワークが、サルやヒトの視覚野と似た表現を持つ—そうした一致(アライメント)が次々と報告され、この交点はニューロAI(NeuroAI)と呼ばれるようになった。
本書の立場は後者に近い。ただし「脳とAIは似ている」という素朴な主張をするのではない。もっと限定的で、もっと確かなことを言う—両者を記述する数学が、驚くほど重なっている。
畳み込み。エネルギー関数。変分下界。ヤコビアン。群の作用。これらは脳の側でもAIの側でも現れる。しかも同じ役割を果たす。本書はその重なりを、一つずつ確かめていく本である。
この章は本書全体の地図である。式はほとんど出てこない。どの章で何をやるのか、そしてなぜその順番なのかを掴んでほしい。急ぐなら第3節の表だけ見て先へ進んでもよい。
ただし第2節「モデルとは何をする道具か」は、本書を通じて効いてくる。「説明した」とはどういうことかという問いは、第9章と第17章でもう一度、もっと厳しい形で戻ってくる。
1. 二つの「ニューラルネットワーク」
生物のニューロン
脳には約860億個のニューロンがある。一個のニューロンは、樹状突起で他の細胞から入力を受け、細胞体で統合し、閾値を超えると軸索に活動電位(スパイク)を送り出す。
ここで重要なのは、スパイクが「全か無か」だということである。入力が閾値をわずかに超えても、大きく超えても、出るスパイクの大きさは同じだ。だから情報はスパイクの大きさではなく、いつ・何回発火したかに載っている。
一個のニューロンは数千個の細胞から入力を受け、数千個へ出力する。この結合の強さ(シナプス強度)が経験によって変わる—これが学習の物理的な実体だと考えられている。
人工ニューロン
人工ニューラルネットのユニットは、これを大胆に簡略化している。
y = \varphi\left( \sum_{i} w_i x_i + b \right)
入力 x_i を重み w_i で足し合わせ、バイアス b を加え、活性化関数 \varphi を通す。それだけである。
この式が生物学的に何を捨てているかを確認しておこう。
- 時間がない。生物のニューロンは時々刻々と膜電位が変化するが、この式には時間が現れない
- スパイクがない。出力は連続値であり、「発火率」の近似だと解釈される
- 樹状突起の構造がない。実際には入力の統合は場所によって非線形だが、単純な和にしている
- 興奮と抑制の区別がない。生物のニューロンは、どの細胞へも同じ符号の作用しか及ぼさない(Dale の法則)が、人工ユニットの重みは自由に正負を取る
それでもこのモデルが有用なのはなぜか。第2節の話につながるが、先に一つ答えを出しておく—何を捨てるかは、何を説明したいかで決まる。物体認識の階層的な計算を理解したいなら、時間の詳細は捨ててよいかもしれない。逆に、てんかん発作の発生機構を理解したいなら、捨ててはいけない。
本書での扱い
本書は両方を扱う。第2章ではホジキン・ハクスレー方程式で膜電位を微分方程式として書き、第3章では集団の発火率へ縮約する。第8章では時間も発火も捨てた人工ユニットで深層ネットを組む。
行ったり来たりするのは、意図的である。どの水準の記述がどんな問いに答えるのかを、そのつど確かめるためだ。
2. モデルとは何をする道具か
三つの種類
Dayan と Abbott は、神経科学のモデルを三つに分類した。この区別は本書を通じて有用である。
記述モデル(descriptive model)— データの規則性を要約する。「V1 細胞の応答はガボールフィルタでよく近似できる」というのがこれである。なぜそうなっているかは問わない。第4章の受容野モデルの多くがここに属する。
機構モデル(mechanistic model)— どんな部品がどう組み合わさってその現象が生じるかを示す。ホジキン・ハクスレー方程式が典型で、イオンチャネルのコンダクタンスから活動電位を導く。第2章と第3章が中心である。
規範モデル(normative model)— 「なぜそうなっているのが最適なのか」を問う。効率的符号化仮説(第4章第6節)がそうだ。自然画像の統計に対して情報を効率よく符号化しようとすると、V1 のような受容野が出てくる—という説明である。
三つは競合しない。同じ現象に三つの説明があってよい。むしろ三つが揃ったときに、我々は「理解した」と感じる。
「説明した」とはどういうことか
だが、ここで立ち止まりたい。モデルが現象を再現できたら、それは説明したことになるのだろうか。
素朴には「なる」と言いたくなる。だが困った例がある。
十分に大きなニューラルネットは、任意の関数を近似できる(万能近似定理)。だから、脳のどんな入出力関係でも、十分大きなネットワークで再現できる。では、そのネットワークは脳を説明したのか。
多くの人は「していない」と答えるだろう。再現できることと、理解できることは違う。ではその違いはどこにあるのか—簡潔さだろうか。予測力だろうか。介入への応答が一致することだろうか。
この問いは、本書で二度戻ってくる。
第9章第8〜9節では、Hasson らの「Direct Fit to Nature」という主張を扱う。脳もネットワークも、簡潔な規則を発見しているのではなく、膨大なデータの上で内挿しているだけかもしれない—という見方である。もしそうなら、「簡潔な数式で書けること」を理解の基準にしてよいのか。
第16章第7節では、自由エネルギー原理への批判を扱う。あらゆることを説明できる理論は、何も予測しないのではないか、という批判である。
本書はこの問いに最終的な答えを出さない。だが問いを持ったまま読み進めてほしい。各章でモデルが出てくるたびに、「これは何を説明していて、何を説明していないのか」と自問する習慣は、この分野でいちばん役に立つ癖である。
「機構の説明」の基準 ── 3M
この問いに、科学哲学の側から具体的な基準が提案されている。Kaplan と Craver (2011) の 3M 基準(model–mechanism–mapping constraint)である。
要求は二つある。
- モデルの変数が、機構の構成要素に対応していること
- 変数どうしの依存関係が、実際の因果関係に対応していること
ホジキン・ハクスレー方程式(第2章)は、この基準を気持ちよく満たす。m も h も n も、実在するチャネルの開閉に対応している。方程式の各項は、実際に流れる電流である。
深層ネットワークは、そうはいかない。 個々のユニットは生物のニューロンと一対一に対応しない。だから厳密に 3M を当てはめると、深層ネットワークは脳の機構モデルとして失格になる。
ここが現代の NeuroAI の急所である。応答をよく予測できるモデルが、機構の説明としては認められない。予測と説明が引き裂かれている。この緊張をどう扱うかは、第17章第8節で Cao と Yamins の緩和案として扱う。
いま覚えておいてほしいのは、次の一点だけでよい。 「モデルが脳に似ている」と言うとき、それが予測が当たるという意味なのか、部品が対応しているという意味なのかで、主張の重みはまったく違う。本書はこの区別を、繰り返し持ち出すことになる。
マーの三水準
もう一つ、有名な整理を挙げておく。David マーは、情報処理システムの理解には三つの水準があるとした。
- 計算理論(computational)— 何を計算しているのか。なぜそれが必要か
- 表現とアルゴリズム(algorithmic)— どんな表現を使い、どんな手続きで計算するか
- 実装(implementational)— それが物理的にどう実現されているか
マーの主張は「上の水準の理解なしに、下の水準を調べても意味が分からない」というものだった。ニューロンをいくら詳しく調べても、それが何のためにあるかを知らなければ理解にならない、と。
本書の第11〜13章(表現・測定・対称性)は、この第2水準に正面から取り組む。そして第2水準を扱おうとすると、思いがけず厄介な問題—「表現とは何か、それをどう測るのか」—にぶつかる。
3. 本書で使う数理の見取り図
本書の構成を、どんな数学が現れるかという観点から一望しておく。
部の構成
| 部 | 章 | 主題 | 中心となる数学 |
|---|---|---|---|
| Ⅰ | 2–3 | ニューロンとネットワーク | 微分方程式、力学系、分岐 |
| Ⅱ | 4–6 | 符号化・復号化・情報 | 畳み込み、フーリエ変換、確率、情報理論 |
| Ⅲ | 7–10 | 学習 | 統計力学、最適化、カーネル法 |
| Ⅳ | 11–13 | 表現と測定 | 線形代数、微分幾何の初歩、測定理論、群論 |
| Ⅴ | 14–16 | 生成モデルと推論 | 変分法、確率微分方程式 |
同じ道具が何度も現れる
本書のいちばんの特徴は、一つの数学的な道具が、章をまたいで姿を変えて再登場することである。これは編集の都合ではなく、本書が伝えたい内容そのものだ。
主なものを表にしておく。いま意味が分からなくてよい。読み進めるうちに、この表に何度も戻ってくることになる。
| 道具 | 初出 | 再登場 |
|---|---|---|
| 畳み込み | 4.2(受容野・ガボール) | 8.7(CNN の畳み込み層)→ 13.7 で「平行移動同変性から必然的に導かれる」と正体が明かされる |
| ヤコビアン | 2.4(安定性のヤコビ行列) | 5.2(確率密度の変換)→ 9.5(NTK)→ 11.4(表現の計量 J^\top J)→ 15.4(フローの \lvert\det J\rvert) |
| フィッシャー情報量 | 6.5(Cramér–Rao 下界) | 11.5 で表現幾何と同じ式だったと明かされる |
| エネルギー関数 | 7.1–7.4(ホップフィールド・ボルツマン) | 15.7(スコア)→ 16.2(自由エネルギー) |
| 変分下界 | 14.3(ELBO) | 16.2 で符号を反転すると自由エネルギーになる |
| 準同型 | 12.3(測定の表現定理) | 13.6(群準同型は同じ発想) |
| 正相・負相 | 7.5(ボルツマン学習則) | 14.5(Wake-Sleep の二相に対応) |
本書の構成を一枚にまとめると、図 1 のようになる。
ヤコビアンが五つの役目を負っていることに注目してほしい。力学系の安定性(第2〜3章)、確率密度の変換(第5章)、学習のダイナミクス(第9章)、表現の幾何(第11章)、生成モデルの密度(第15章)—対象はばらばらだが、道具は一つである。「写像が微小な変化をどう伝えるか」を知りたいとき、我々はいつもヤコビアンを見ている。
保留と回収
もう一つ、本書には仕掛けがある。答えを保留したまま先に進み、後の章で回収する箇所がいくつかある。
- 4.5 で「不変性」という言葉を出し、定義せずに使う → 13.4 で不変・同変・共変として整理する
- 6.8 で「読み出せることと使われていることは違う」と述べて保留 → 12.10 で回収する
- 11.2 で「なぜ相関距離がうまくいくのか」と問うて保留 → 12.9 で答えを出す
- 9.9 で「脳の理解とは何か」を開く → 16.7(世界モデルか直接当てはめか)と 16.12 で再訪する
もどかしく感じたら、それは意図されたものである。問いを持ったまま次の章へ進むほうが、答えが来たときの理解が深い。
数学の前提
本書が要求するのは、大学1〜2年で習う範囲である。
必要なもの — 線形代数(行列、固有値、内積)、微積分(偏微分、連鎖律、テイラー展開)、確率の初歩(分布、期待値、条件付き確率)
必要でないもの — 測度論、関数解析、多様体論、抽象代数
必要な道具は、使う直前に本文で導入する。「必要な数学:〜」という節がそれである。前もって数学を積み上げてから応用に入る、という構成は取らない—必要になった場面で、必要な分だけ導入するほうが身につくと考えるからだ。記法だけは巻末に一覧をつけた。
4. 表記法と約束
本書で使う記号の約束を、最小限だけ決めておく。記号に迷ったら、いつでもここへ戻ってきてほしい。
ベクトルと行列
- スカラー — 細字の小文字 x, y, \theta
- ベクトル — 太字の小文字 \mathbf{x}, \mathbf{r}。断りがなければ列ベクトルである
- 行列 — 大文字 W, J, \Sigma
- 転置 — W^\top
ベクトルの成分は x_i のように添字で書く。内積は \mathbf{x}^\top\mathbf{y} または \langle \mathbf{x}, \mathbf{y}\rangle。
添字の上下について
第13章では、添字を上に書く記法が出てくる。v^i と \omega_i を区別するのである。
これは飾りではない。基底を取り替えたときに、その量がどちら向きに変換されるかを表す標識である(上が反変、下が共変)。第13章第5節でこの区別を導入するまでは、すべて下付きで書く。
確率
- 確率変数は大文字 X、その実現値は小文字 x
- 密度関数は p(x)、モデルのパラメータを明示するときは p_\theta(x)
- 期待値は \mathbb{E}[\cdot]、q による期待値は \mathbb{E}_q[\cdot]
- 分布 p から引くことを x \sim p と書く
神経応答
本書を通じて、次の記号を固定する。
- s — 刺激(stimulus)。連続パラメータのときは s \in \mathbb{R}^d
- \mathbf{r} — 応答(response)。N 個のユニットなら \mathbf{r} \in \mathbb{R}^N
- f — エンコーディングモデル \mathbf{r} = f(s)
- J — そのヤコビアン \partial f/\partial s
この s \to \mathbf{r} \to 読み出し という流れが、第4〜6章と第11〜13章を貫く骨格である。
用語の日本語表記
英語と日本語が混在する分野なので、方針を述べておく。定着した訳語があるものは日本語で書き(畳み込み、勾配降下法、変分推論)、定着していないものは英語のまま、または初出時に併記する(untangling、Neural Collapse)。
コードについて
本書は数式が主で、コードは補助である。「手を動かす」の囲みで数値実験を勧めており、 そこで使う Python のコードは別途配布する(いずれも NumPy があれば数十行で書ける範囲に 収めてある)。
ただし本書は、コードを走らせなくても読み通せるように書いてある。実験の結果は グラフか数値として本文に示すので、まず結果を見て、気になったら自分で回してほしい。
確認問題
各問の頭にある印は問題の型である。[確認]は本文をなぞれば解ける、[導出]は本文が省いた一歩を埋める、[考える]は答えが一つに定まらない。末尾は対応する節を示す。この約束は全章に共通である。
[確認]人工ニューロンの式 y = \varphi(\sum_i w_i x_i + b) が、生物のニューロンについて捨てている性質を三つ挙げよ。(第1節)
[確認]記述モデル・機構モデル・規範モデルの区別を述べ、V1 の受容野に対してそれぞれどんな説明がありうるかを考えよ。(第2節)
[考える]「十分大きなニューラルネットは任意の関数を近似できる。だから脳の入出力を再現できる」という主張から、「だから脳を説明した」は導けるだろうか。導けないとすれば、何が足りないのか。(第2節)
[確認]マーの三水準を述べ、本書の第11〜13章がどの水準に対応するかを説明せよ。(第2節)
[考える]同じ数式で書けることと、同じ機構であることは違う—本書が繰り返す主張である。この二つを区別する検査を、一つ考案せよ。何を観測できれば「式が同じなだけ」と言えるか。(第2節・第18章第9節)
参考文献
各章の末尾に、その章で触れた文献のうち次に読むとよいものを挙げる。角括弧はその章の該当節を指す。
- Marr, D. (1982) Vision — 三水準の出典[2節]。第1章だけでも読む価値がある
- Richards, B. A. et al. (2019) A deep learning framework for neuroscience. Nat Neurosci — 「目的関数・学習則・アーキテクチャ」で脳を語る枠組み[2節]
- LeCun, Y., Bengio, Y. & Hinton, G. (2015) Deep learning. Nature — 深層学習側からの見取り図[1節]
- Dayan, P. & Abbott, L. F. (2001) Theoretical Neuroscience ch.1 — 本書全体の下敷き。計算神経科学の標準的な教科書
- Kaplan, D. M. & Craver, C. F. (2011) The explanatory force of dynamical and mathematical models in neuroscience. Philos Sci — 3M 基準の出典[2節]
- 神谷之康 (2026) 脳とAI は似ているか — NeuroAI の挑戦.『人工知能』41(2) — 本書が扱う論点の見取り図[2節]。短く読める