1  脳とAIを同じ数理で見る ── 本書の見取り図

1943年、McCulloch と Pitts という二人の研究者が、ニューロンの数学モデルを書いた。入力を重み付きで足し合わせ、閾値を超えたら発火する—それだけのモデルである。彼らの目的は脳の理解だった。

その80年後、同じ形の計算素子を何十億個も積み上げたシステムが、文章を書き、絵を描き、コードを書いている。こちらの目的は工学である。

二つの営みは、途中で別れたのだろうか。それとも、いまも同じ道の上にいるのだろうか。

別れた時期は、確かにあった。AIは生物学的な忠実さを手放すことで前へ進み、脳の理論研究は実際の回路が何をしているかを問い続けた。だが近年、両者はふたたび交わりつつある。細部まで脳を真似ていないネットワークが、サルやヒトの視覚野と似た表現を持つ—そうした一致(アライメント)が次々と報告され、この交点はニューロAI(NeuroAI)と呼ばれるようになった。

本書の立場は後者に近い。ただし「脳とAIは似ている」という素朴な主張をするのではない。もっと限定的で、もっと確かなことを言う—両者を記述する数学が、驚くほど重なっている。

畳み込み。エネルギー関数。変分下界。ヤコビアン。群の作用。これらは脳の側でもAIの側でも現れる。しかも同じ役割を果たす。本書はその重なりを、一つずつ確かめていく本である。

ヒント本章のガイド

この章は本書全体の地図である。式はほとんど出てこない。どの章で何をやるのか、そしてなぜその順番なのかを掴んでほしい。急ぐなら第3節の表だけ見て先へ進んでもよい。

ただし第2節「モデルとは何をする道具か」は、本書を通じて効いてくる。「説明した」とはどういうことかという問いは、第9章と第17章でもう一度、もっと厳しい形で戻ってくる。


1. 二つの「ニューラルネットワーク」

生物のニューロン

脳には約860億個のニューロンがある。一個のニューロンは、樹状突起で他の細胞から入力を受け、細胞体で統合し、閾値を超えると軸索に活動電位(スパイク)を送り出す。

ここで重要なのは、スパイクが「全か無か」だということである。入力が閾値をわずかに超えても、大きく超えても、出るスパイクの大きさは同じだ。だから情報はスパイクの大きさではなく、いつ・何回発火したかに載っている。

一個のニューロンは数千個の細胞から入力を受け、数千個へ出力する。この結合の強さ(シナプス強度)が経験によって変わる—これが学習の物理的な実体だと考えられている。

人工ニューロン

人工ニューラルネットのユニットは、これを大胆に簡略化している。

y = \varphi\left( \sum_{i} w_i x_i + b \right)

入力 x_i を重み w_i で足し合わせ、バイアス b を加え、活性化関数 \varphi を通す。それだけである。

この式が生物学的に何を捨てているかを確認しておこう。

  • 時間がない。生物のニューロンは時々刻々と膜電位が変化するが、この式には時間が現れない
  • スパイクがない。出力は連続値であり、「発火率」の近似だと解釈される
  • 樹状突起の構造がない。実際には入力の統合は場所によって非線形だが、単純な和にしている
  • 興奮と抑制の区別がない。生物のニューロンは、どの細胞へも同じ符号の作用しか及ぼさない(Dale の法則)が、人工ユニットの重みは自由に正負を取る

それでもこのモデルが有用なのはなぜか。第2節の話につながるが、先に一つ答えを出しておく—何を捨てるかは、何を説明したいかで決まる。物体認識の階層的な計算を理解したいなら、時間の詳細は捨ててよいかもしれない。逆に、てんかん発作の発生機構を理解したいなら、捨ててはいけない。

本書での扱い

本書は両方を扱う。第2章ではホジキン・ハクスレー方程式で膜電位を微分方程式として書き、第3章では集団の発火率へ縮約する。第8章では時間も発火も捨てた人工ユニットで深層ネットを組む。

行ったり来たりするのは、意図的である。どの水準の記述がどんな問いに答えるのかを、そのつど確かめるためだ。


2. モデルとは何をする道具か

三つの種類

Dayan と Abbott は、神経科学のモデルを三つに分類した。この区別は本書を通じて有用である。

記述モデル(descriptive model)— データの規則性を要約する。「V1 細胞の応答はガボールフィルタでよく近似できる」というのがこれである。なぜそうなっているかは問わない。第4章の受容野モデルの多くがここに属する。

機構モデル(mechanistic model)— どんな部品がどう組み合わさってその現象が生じるかを示す。ホジキン・ハクスレー方程式が典型で、イオンチャネルのコンダクタンスから活動電位を導く。第2章と第3章が中心である。

規範モデル(normative model)— 「なぜそうなっているのが最適なのか」を問う。効率的符号化仮説(第4章第6節)がそうだ。自然画像の統計に対して情報を効率よく符号化しようとすると、V1 のような受容野が出てくる—という説明である。

三つは競合しない。同じ現象に三つの説明があってよい。むしろ三つが揃ったときに、我々は「理解した」と感じる。

「説明した」とはどういうことか

だが、ここで立ち止まりたい。モデルが現象を再現できたら、それは説明したことになるのだろうか。

素朴には「なる」と言いたくなる。だが困った例がある。

十分に大きなニューラルネットは、任意の関数を近似できる(万能近似定理)。だから、脳のどんな入出力関係でも、十分大きなネットワークで再現できる。では、そのネットワークは脳を説明したのか。

多くの人は「していない」と答えるだろう。再現できることと、理解できることは違う。ではその違いはどこにあるのか—簡潔さだろうか。予測力だろうか。介入への応答が一致することだろうか。

この問いは、本書で二度戻ってくる。

第9章第8〜9節では、Hasson らの「Direct Fit to Nature」という主張を扱う。脳もネットワークも、簡潔な規則を発見しているのではなく、膨大なデータの上で内挿しているだけかもしれない—という見方である。もしそうなら、「簡潔な数式で書けること」を理解の基準にしてよいのか。

第16章第7節では、自由エネルギー原理への批判を扱う。あらゆることを説明できる理論は、何も予測しないのではないか、という批判である。

本書はこの問いに最終的な答えを出さない。だが問いを持ったまま読み進めてほしい。各章でモデルが出てくるたびに、「これは何を説明していて、何を説明していないのか」と自問する習慣は、この分野でいちばん役に立つ癖である。

「機構の説明」の基準 ── 3M

この問いに、科学哲学の側から具体的な基準が提案されている。Kaplan と Craver (2011) の 3M 基準(model–mechanism–mapping constraint)である。

要求は二つある。

  1. モデルの変数が、機構の構成要素に対応していること
  2. 変数どうしの依存関係が、実際の因果関係に対応していること

ホジキン・ハクスレー方程式(第2章)は、この基準を気持ちよく満たす。mhn も、実在するチャネルの開閉に対応している。方程式の各項は、実際に流れる電流である。

深層ネットワークは、そうはいかない。 個々のユニットは生物のニューロンと一対一に対応しない。だから厳密に 3M を当てはめると、深層ネットワークは脳の機構モデルとして失格になる。

ここが現代の NeuroAI の急所である。応答をよく予測できるモデルが、機構の説明としては認められない。予測と説明が引き裂かれている。この緊張をどう扱うかは、第17章第8節で Cao と Yamins の緩和案として扱う。

いま覚えておいてほしいのは、次の一点だけでよい。 「モデルが脳に似ている」と言うとき、それが予測が当たるという意味なのか、部品が対応しているという意味なのかで、主張の重みはまったく違う。本書はこの区別を、繰り返し持ち出すことになる。

マーの三水準

もう一つ、有名な整理を挙げておく。David マーは、情報処理システムの理解には三つの水準があるとした。

  1. 計算理論(computational)— 何を計算しているのか。なぜそれが必要か
  2. 表現とアルゴリズム(algorithmic)— どんな表現を使い、どんな手続きで計算するか
  3. 実装(implementational)— それが物理的にどう実現されているか

マーの主張は「上の水準の理解なしに、下の水準を調べても意味が分からない」というものだった。ニューロンをいくら詳しく調べても、それが何のためにあるかを知らなければ理解にならない、と。

本書の第11〜13章(表現・測定・対称性)は、この第2水準に正面から取り組む。そして第2水準を扱おうとすると、思いがけず厄介な問題—「表現とは何か、それをどう測るのか」—にぶつかる。


3. 本書で使う数理の見取り図

本書の構成を、どんな数学が現れるかという観点から一望しておく。

部の構成

主題 中心となる数学
2–3 ニューロンとネットワーク 微分方程式、力学系、分岐
4–6 符号化・復号化・情報 畳み込み、フーリエ変換、確率、情報理論
7–10 学習 統計力学、最適化、カーネル法
11–13 表現と測定 線形代数、微分幾何の初歩、測定理論、群論
14–16 生成モデルと推論 変分法、確率微分方程式

同じ道具が何度も現れる

本書のいちばんの特徴は、一つの数学的な道具が、章をまたいで姿を変えて再登場することである。これは編集の都合ではなく、本書が伝えたい内容そのものだ。

主なものを表にしておく。いま意味が分からなくてよい。読み進めるうちに、この表に何度も戻ってくることになる。

道具 初出 再登場
畳み込み 4.2(受容野・ガボール) 8.7(CNN の畳み込み層)→ 13.7 で「平行移動同変性から必然的に導かれる」と正体が明かされる
ヤコビアン 2.4(安定性のヤコビ行列) 5.2(確率密度の変換)→ 9.5(NTK)→ 11.4(表現の計量 J^\top J)→ 15.4(フローの \lvert\det J\rvert
フィッシャー情報量 6.5(Cramér–Rao 下界) 11.5 で表現幾何と同じ式だったと明かされる
エネルギー関数 7.1–7.4(ホップフィールド・ボルツマン) 15.7(スコア)→ 16.2(自由エネルギー)
変分下界 14.3(ELBO) 16.2 で符号を反転すると自由エネルギーになる
準同型 12.3(測定の表現定理) 13.6(群準同型は同じ発想)
正相・負相 7.5(ボルツマン学習則) 14.5(Wake-Sleep の二相に対応)

本書の構成を一枚にまとめると、図 1 のようになる。

図 1: 本書で使う数学の再利用マップ。横軸が章、五本の帯がそれぞれ一つの数学的な道具を表す。黒丸が初出、灰丸が再登場、白丸が「正体が明かされる場所」である。

ヤコビアンが五つの役目を負っていることに注目してほしい。力学系の安定性(第2〜3章)、確率密度の変換(第5章)、学習のダイナミクス(第9章)、表現の幾何(第11章)、生成モデルの密度(第15章)—対象はばらばらだが、道具は一つである。「写像が微小な変化をどう伝えるか」を知りたいとき、我々はいつもヤコビアンを見ている。

保留と回収

もう一つ、本書には仕掛けがある。答えを保留したまま先に進み、後の章で回収する箇所がいくつかある。

  • 4.5 で「不変性」という言葉を出し、定義せずに使う → 13.4 で不変・同変・共変として整理する
  • 6.8 で「読み出せることと使われていることは違う」と述べて保留 → 12.10 で回収する
  • 11.2 で「なぜ相関距離がうまくいくのか」と問うて保留 → 12.9 で答えを出す
  • 9.9 で「脳の理解とは何か」を開く → 16.7(世界モデルか直接当てはめか)と 16.12 で再訪する

もどかしく感じたら、それは意図されたものである。問いを持ったまま次の章へ進むほうが、答えが来たときの理解が深い。

数学の前提

本書が要求するのは、大学1〜2年で習う範囲である。

必要なもの — 線形代数(行列、固有値、内積)、微積分(偏微分、連鎖律、テイラー展開)、確率の初歩(分布、期待値、条件付き確率)

必要でないもの — 測度論、関数解析、多様体論、抽象代数

必要な道具は、使う直前に本文で導入する。「必要な数学:〜」という節がそれである。前もって数学を積み上げてから応用に入る、という構成は取らない—必要になった場面で、必要な分だけ導入するほうが身につくと考えるからだ。記法だけは巻末に一覧をつけた。


4. 表記法と約束

本書で使う記号の約束を、最小限だけ決めておく。記号に迷ったら、いつでもここへ戻ってきてほしい。

ベクトルと行列

  • スカラー — 細字の小文字 x, y, \theta
  • ベクトル — 太字の小文字 \mathbf{x}, \mathbf{r}。断りがなければ列ベクトルである
  • 行列 — 大文字 W, J, \Sigma
  • 転置W^\top

ベクトルの成分は x_i のように添字で書く。内積は \mathbf{x}^\top\mathbf{y} または \langle \mathbf{x}, \mathbf{y}\rangle

添字の上下について

第13章では、添字を上に書く記法が出てくる。v^i\omega_i を区別するのである。

これは飾りではない。基底を取り替えたときに、その量がどちら向きに変換されるかを表す標識である(上が反変、下が共変)。第13章第5節でこの区別を導入するまでは、すべて下付きで書く。

確率

  • 確率変数は大文字 X、その実現値は小文字 x
  • 密度関数は p(x)、モデルのパラメータを明示するときは p_\theta(x)
  • 期待値は \mathbb{E}[\cdot]q による期待値は \mathbb{E}_q[\cdot]
  • 分布 p から引くことを x \sim p と書く

神経応答

本書を通じて、次の記号を固定する。

  • s — 刺激(stimulus)。連続パラメータのときは s \in \mathbb{R}^d
  • \mathbf{r} — 応答(response)。N 個のユニットなら \mathbf{r} \in \mathbb{R}^N
  • f — エンコーディングモデル \mathbf{r} = f(s)
  • J — そのヤコビアン \partial f/\partial s

この s \to \mathbf{r} \to 読み出し という流れが、第4〜6章と第11〜13章を貫く骨格である。

用語の日本語表記

英語と日本語が混在する分野なので、方針を述べておく。定着した訳語があるものは日本語で書き(畳み込み、勾配降下法、変分推論)、定着していないものは英語のまま、または初出時に併記する(untangling、Neural Collapse)。


コードについて

本書は数式が主で、コードは補助である。「手を動かす」の囲みで数値実験を勧めており、 そこで使う Python のコードは別途配布する(いずれも NumPy があれば数十行で書ける範囲に 収めてある)。

ただし本書は、コードを走らせなくても読み通せるように書いてある。実験の結果は グラフか数値として本文に示すので、まず結果を見て、気になったら自分で回してほしい。


ノートコラム:脳を眺めわたす

本書は脳の解剖には深入りしない。だが、扱っている数式がどの空間スケールの話なのかは掴んでおきたい(図 2)。

図 2: 大脳皮質の6層構造と、視覚の領野階層(模式)。上は皮質を垂直に切った断面で、第4層が主な入力層、第5層と第6層が皮質下への主な出力層である。フィードバックの投射が第4層を避けることに注意してほしい—第16章の予測符号化で、この非対称性が論点になる。下は領野の並びで、階層を上がるにつれて受容野が大きくなり、選択性が複雑になる。ただし戻りの結合も同じかそれ以上に多く、一方向の流れではない。

大きな区分。中枢神経系は脳と脊髄からなる。脳はさらに、大脳・小脳・脳幹に分かれる。本書が主に扱うのは大脳皮質、とくに視覚に関わる後頭葉・側頭葉である。

皮質の6層構造。大脳皮質は厚さ2〜4 mm ほどのシートで、表面から深部へ6つの層に分かれる。層ごとに細胞の種類と結合のパターンが違う。第4層が主な入力層(視床からの入力を受ける)、第5層と第6層が皮質下への主な出力層である。ほかの皮質領野へ送る出力は、主に第2/3層が担う。第16章の予測符号化では、この層構造が理論の要求と対応するかが論点になる。

領野と階層。皮質は機能的な領野に分かれる。視覚なら V1 → V2 → V4 → IT という順序があり、これを「階層」と呼ぶ。第11章で扱う「階層を上がるにつれて表現がどう変わるか」は、この順序に沿った話である。

空間スケールの対応表。本書の各章がどのスケールを扱っているかを整理しておく。

スケール おおよその大きさ 本書の章
イオンチャネル ナノメートル 2章(HH 方程式の各項)
シナプス マイクロメートル 2章・8章(可塑性)
ニューロン 10〜100 μm 2章
微小回路・コラム 0.1〜1 mm 4章(受容野)・13章(方位マップ)
領野 1〜10 cm 3章(ウィルソン・コーワン)・11章(表現幾何)
脳全体 〜20 cm 16章

分かっていないこと。この表を見ると階層がきれいに整理されているように見えるが、スケールをまたぐ理解は、実はほとんどできていない。

たとえば—イオンチャネルの性質から、その細胞が属する回路の計算を導けるだろうか。導けない。単一ニューロンの性質を全部知っても、100万個集めたときに何が起きるかは分からない。逆に、領野レベルの計算論的な記述から、そこにどんな細胞が必要かを演繹することもできない。

「どのスケールが本質的か」という問いにも、合意はない。分子生物学の道具が発達したことで細胞レベルの記述は精緻になったが、それが認知の理解にどうつながるかは未解決である。本書が扱う数学的な記述の多くは、特定のスケールの中で閉じている—このことは意識しておいてほしい。

出典 Felleman & Van Essen (1991)、カンデル神経科学 第2版。

確認問題

各問の頭にある印は問題の型である。[確認]は本文をなぞれば解ける、[導出]は本文が省いた一歩を埋める、[考える]は答えが一つに定まらない。末尾は対応する節を示す。この約束は全章に共通である。

  1. [確認]人工ニューロンの式 y = \varphi(\sum_i w_i x_i + b) が、生物のニューロンについて捨てている性質を三つ挙げよ。(第1節)

  2. [確認]記述モデル・機構モデル・規範モデルの区別を述べ、V1 の受容野に対してそれぞれどんな説明がありうるかを考えよ。(第2節)

  3. [考える]「十分大きなニューラルネットは任意の関数を近似できる。だから脳の入出力を再現できる」という主張から、「だから脳を説明した」は導けるだろうか。導けないとすれば、何が足りないのか。(第2節)

  4. [確認]マーの三水準を述べ、本書の第11〜13章がどの水準に対応するかを説明せよ。(第2節)

  5. [考える]同じ数式で書けることと、同じ機構であることは違う—本書が繰り返す主張である。この二つを区別する検査を、一つ考案せよ。何を観測できれば「式が同じなだけ」と言えるか。(第2節・第18章第9節)


参考文献

各章の末尾に、その章で触れた文献のうち次に読むとよいものを挙げる。角括弧はその章の該当節を指す。

  • Marr, D. (1982) Vision — 三水準の出典[2節]。第1章だけでも読む価値がある
  • Richards, B. A. et al. (2019) A deep learning framework for neuroscience. Nat Neurosci — 「目的関数・学習則・アーキテクチャ」で脳を語る枠組み[2節]
  • LeCun, Y., Bengio, Y. & Hinton, G. (2015) Deep learning. Nature — 深層学習側からの見取り図[1節]
  • Dayan, P. & Abbott, L. F. (2001) Theoretical Neuroscience ch.1 — 本書全体の下敷き。計算神経科学の標準的な教科書
  • Kaplan, D. M. & Craver, C. F. (2011) The explanatory force of dynamical and mathematical models in neuroscience. Philos Sci — 3M 基準の出典[2節]
  • 神谷之康 (2026) 脳とAI は似ているか — NeuroAI の挑戦.『人工知能』41(2) — 本書が扱う論点の見取り図[2節]。短く読める