18  表現（表象）とは何か ── 媒体・内容・読み出し

本書はここまで「表現」という言葉を、ほとんど無批判に使ってきた。神経活動のパターンを表現と呼び、その幾何を測り（第11章）、それが何を保つ写像かを問い（第12章）、どんな変換で不変かを調べてきた（第13章）。前章では、脳とAIの表現が似ているかどうかまで論じた。

だが、幾何構造があることと、それが何かを表現していることは、同じだろうか。

この問いは言葉遊びではない。答えによって、実験で何を示せば「表現を見つけた」と言えるかが変わる。最後にこれを扱うのは、ここまでの道具が全部要るからである。哲学の側には百年以上の蓄積があり—そこでは「表象」という訳語で論じられてきた—日本語では戸田山 (2014) の第3〜4章が以下の筋道を整理している。

ヒント本章のガイド

第1節はやや性格が違う。表現の線形性という具体的な話題で、第11章第1節に置いたままだった問い—座標軸に意味があるのか、配置だけに意味があるのか—に答えを出す。ここで大規模言語モデルの解析が、思いがけず第13章の共変・反変の話とつながる。

第2節が本章の入口である。 本書がここまで「表現」と呼んできたものは、哲学では「表象」と訳されてきた同じ語である。そこで何が問題になってきたのかを押さえる。とくに媒体と内容の区別は、本書の第11〜13章が何を測っていたのかをはっきりさせるので、飛ばさないでほしい。

第3節から第6節が、内容を決めるものは何かという議論の本体である。哲学の側の三つの答えを歴史順に辿り（第3節）、その提唱者自身が神経科学に向けて書いたものを読み（第4節）、神経科学の側からの応答を見る（第5節）。第6節で主張を四つの次元に分解する。

第7節は本書でいちばん実験的な節である。 第12章の測定理論を、表象の議論に正面から当ててみる。内容の不定性が「許容変換群の大きさ」として書けること、前章のプラトン派とアリストテレス派の対立が尺度水準の対立だったこと、そして当てても届かない場所がどこかを述べる。

第8節がこの本の到達点である。 「読み出し」と「表現」は対立しない—デコーディングという方法論が、表象の哲学を捨てるのではなく測れる形にするものだ、という主張である。第6章第6節・第6章第8節・第12章第10節に置いてきた伏線が、ここで回収される。

第9節で未解決の問いを並べ、本書を閉じる。

1. 表現の線形性 ── 線形表現仮説

本論に入る前に、一つ宿題を片づけておきたい。

第11章第1節で、我々は問いを立てたまま先送りにしていた。表現の座標軸には意味があるのか、それとも配置だけに意味があるのか。

近年、この問いが大規模言語モデルの解析を通じて、思いがけず具体的な形で再燃している。

二つの「線形」

線形表現仮説（linear representation hypothesis, LRH）とは、大雑把に言えば「意味的な概念が、表現空間の中で線形な構造として現れる」という主張である。

有名な例が単語埋め込みの \overrightarrow{\text{king}} - \overrightarrow{\text{man}} + \overrightarrow{\text{woman}} \approx \overrightarrow{\text{queen}} である。「男性→女性」という概念が、一本のベクトルとして表現されているように見える。

だが Park、Choe、Veitch (2024) が指摘したのは、「線形」という言葉に二つの異なる意味が混ざっていることだった。

第一の意味 — 読み出せる（probing）。概念 c に対応する方向 v_c があって、表現 r との内積 \langle v_c, r\rangle がその概念の有無を予測する。これは出力側の線形性であり、線形プローブが機能することを意味する。

この道具立ての出どころを、ここで押さえておきたい。「線形に読み出せることを、情報が明示的にある証拠とみなす」という方法論は、脳を対象に先に立てられたものである（第6章第6節）。強い非線形デコーダを使うと、読み出せた情報が脳にあったのかデコーダが作ったのかが区別できなくなる—だから線形に限る、という論法だった。深層ネットワークの層に線形プローブを当てる現在の慣行は、この論法をそのまま移植している。

第二の意味 — 操作できる（steering）。表現に v_c を足すと、出力が概念 c を持つ方向へ変わる。r \mapsto r + \alpha v_c。これは入力側の線形性であり、モデルの振る舞いを介入で制御できることを意味する。

この二つは、同じことではない。

なぜ違うのか

線形代数の言葉で言えば、こうである。

読み出しは線形汎関数である。表現空間 V からスカラーへの写像だから、双対空間 V^* の元だ。

操作はベクトルである。表現に足すのだから、V の元である。

第13章第5節を思い出してほしい。V と V^* は、内積を決めて初めて同一視できる。内積を決めなければ、「読み出しの方向」と「操作の方向」は別々の空間に住んでいる。

この区別は、実は第8章でも働いていた。 誤差逆伝播で \boldsymbol{\delta} が層をさかのぼるとき、掛かるのは重みの転置だった。損失の勾配は「表現を動かすと損失がどれだけ動くか」を測る量であり、これも表現空間に作用する線形汎関数—つまり双対側の量である。読み出しと勾配は、同じ側に住んでいる。

\underbrace{v_c^{\text{probe}} \in V^*}_{\textsf{共変}} \qquad\text{vs}\qquad \underbrace{v_c^{\text{steer}} \in V}_{\textsf{反変}}

共変と反変である。添字の上下の話が、ここで実務的な意味を持つ。

Park らの貢献は、この二つを結ぶ内積を明示的に構成したことにある。これを因果的内積（causal inner product）と呼ぶ。適切な内積を選ぶと、probe の方向と steering の方向が一致する。逆に言えば—内積を指定しないまま「概念の方向」と言うのは、曖昧である。

座標軸か配置か

この結果は、第11章の問いに部分的な答えを与える。

座標軸そのものに意味はない。表現空間を回転させても、モデルの振る舞いは変わらない。だから「第 i ユニットが概念 c を担う」という主張は、そのままでは意味を持たない（第12章第10節で述べた不変性の議論と同じである）。

だが「方向」には意味がある。内積を固定すれば、概念に対応する方向が定まる。しかもその方向は、読み出しにも操作にも使える。

さらに、方向の間の関係にも意味がある。Park らの続く仕事は、概念の階層構造（動物 ⊃ 哺乳類 ⊃ 犬）が、表現空間の中で多面体（polytope）として現れることを示している。単純な方向の集まりではなく、幾何学的な構造をなしているのである。

つまり答えは「配置に意味がある」に近い。ただし配置を語るには計量が要る—第11章と第13章が、ここで合流する。

2. 表現か表象か ── この問いの来歴

先に、言葉を整えておきたい。

英語の representation は、日本語で二通りに訳される。神経科学では表現、哲学では表象である。neural representation は「神経表現」、mental representation は「心的表象」。だがもとの語は同じであり、指している問題も地続きである。

本書はここまで「表現」で通してきた。以後もそうする。だが読者に知っておいてほしいのは、いま我々が踏み込んだ領域が、哲学が百年以上「表象」の名で論じてきた場所だということである。この先を自分で調べるなら、「表象」で探すほうが文献に当たりやすい。

そして訳語の問題で終わる話ではない。なぜ哲学の問題になるのかを見ておこう。

何が不思議なのか ── 志向性

石を思い浮かべてほしい。その石は、何かに「ついて」いるだろうか。重さがあり、形があり、温度がある。だが何かについてではない。

ところが心の状態は違う。「京都について考える」「雨が降ると思う」。心の状態には、自分以外の何かを指し示すという性質がある。これを志向性（intentionality）と呼ぶ。ブレンターノ（1874年）が、これを心の目印として立てた。

問題はこうなる。脳は物理系である。 ニューロンが発火し、イオンが流れ、シナプスで伝達物質が放出される。どれも石と同じように物理的な出来事だ。ならば、そこにどうして「について」が宿るのか。

これが自然化（naturalization）の課題である。志向性を、物理と生物の語彙だけで説明せよ、という要求だ。次節で見る三つの立場は、どれもこの課題への回答として提出されている。因果で説明しようとし、情報で説明しようとし、機能で説明しようとした—そういう順序である。

媒体と内容 ── 本書が測ってきたのはどちらか

ここで、本書にとって決定的な区別を導入する。

表象には二つの側面がある。媒体（vehicle）と内容（content）である。「京都」と書かれた紙片を考えよう。紙の大きさ、インクの色、文字の形—これは媒体の性質である。それが京都を指すこと—これが内容である。媒体を調べても、内容は出てこない。同じ内容を別の媒体（音声、点字、他言語）が担えるし、同じ媒体が別の内容を担うこともある。

さて、問いたい。本書が第11章から第13章でやってきたのは、どちらだろうか。

集団活動を高次元空間の点の配置として測り（第11章）、その距離が何を仮定しているかを問い（第12章）、どんな変換で不変かを調べた（第13章）。前章では脳とAIの配置を比べた。

どれも媒体の性質である。

幾何、次元、不変性—これらは活動パターンそれ自体についての記述であって、それが何を指しているかについての記述ではない。ここを取り違えると、「表現幾何を精密に測れば表象が分かる」と思ってしまう。分からない。 測れば測るほど媒体のことは分かるが、内容の話には一歩も近づかない可能性がある。

ここがポイント

本書の道具は、媒体を測る道具である。

内容を決めるには別の議論が要る—それが次節から見る三つの立場だ。そして本章の後半（第7節）で、媒体の測定と内容の指定が、実は同じ枠組みで書けるのではないかという見通しを立てる。だが最初に、二つは別物だと押さえてほしい。

表象という概念に要求されること

哲学が長く論じてきたおかげで、「表象」と呼ぶために何が必要かは、かなり整理されている。二つ挙げておく。どちらも次節以降で繰り返し現れる。

誤ることができなければならない。 表象は間違いうる。目の前にないものを「ある」と表しうる。これができない仕組みは、表象ではなく単なる指標である。温度計の目盛りが水銀の高さに対応しているのは物理法則であって、そこに誤りはない。誤りを言えるようにするために何が必要かが、次節の話の駆動力になる。

内容が一つに決まらねばならない。 ここが厄介である。ある活動が「馬」を表しているとしよう。だが同じ活動は「馬、または暗闇で見た牛」を表しているとも記述できる。実際に暗闇の牛でも同じ活動が立つのなら、後者のほうが正確ですらある。どちらが内容なのか。これを選言問題（disjunction problem）と呼ぶ。

これを持ち出してドレツキの情報説を攻めたのが Fodor (1984, 1987) で、以後この問題は表象の理論が越えねばならない関門になった。

選言問題は、本章の第7節で測定理論の言葉に翻訳される。内容が一つに決まらないことは、測定理論では珍しい事態ではないからだ。

表象は要らない、という立場

公平のために、正面からの反対も書いておかねばならない。

表象など要らない、という立場がある。ギブソンの生態学的アプローチ（1979年）は、知覚を「環境の側にある情報を直接に拾うこと」と捉えた。世界がそこにあり、動物が動きながら情報を得られるなら、内部に世界の写しを作る必要がどこにあるのか。

ロボティクスからも、別の理由で同じ結論が出た。ブルックスの「表象なき知能」（1991年）である。ギブソンが知覚の話をしていたのに対し、こちらは設計の話である—内部に世界の写しを置くアーキテクチャが要らない、という主張だ。中央に世界モデルを持たず、単純な反射的な振る舞いを重ねるだけで、驚くほど的確に動くロボットが作れる。世界を最良のモデルとして使えばよい—内部に写しを持つのは、設計の無駄だという主張だった。

この批判は軽くない。そして本書は、これに対する応答を二つ持っている。

一つは前章第2節の良い調節器定理である。うまく調節する系は、いやおうなく対象の対応表を内に含む。ただしそこで確かめたとおり、この定理が要求する「モデル」はきわめて弱い意味のものだった—反射でもよいのだから、ブルックスへの反論としては弱い。

もう一つは第5節で見るポルドラックの議論である。次元の呪いゆえに、表象を持たない系は失敗する。こちらは強い応答になっている—ただし決着したわけではなく、反論も出ている（第5節）。

読者に問いたい。あなたはどちらに傾くだろうか。そして—どんな観測ができれば、この対立に決着がつくだろうか。「表象を持っている系」と「持っていないが同じようにふるまう系」を、外から区別できるだろうか。

3. 表現の内容は何が決めるのか ── 三つの立場

哲学の側が出してきた答えを、歴史順に三つ辿る。順に強くなっていく—というより、順に前のものの弱点を突いて立てられている。

因果で決める ── エンコードモデルの立場

いちばん素朴な答えはこうだ。ある状態が何を表すかは、それを引き起こしたものが決める。 赤いものを見たときに立つ活動は、赤を表している—因果説である。

本書のエンコードモデルは、この立場をそのまま実装している。 第4章で刺激 s から応答 r への写像を推定したとき、我々がやっていたのは「何がこの活動を引き起こすか」を突き止めることだった。受容野とは、因果の入口の記述である。強みは、測れることだ。第4章から第6章までの方法論は、この上に立っている。

だが二つの困難がある。

一つ目。誤表象が原理的にありえない。 内容を原因が決めるのなら、いま起きている活動は「それを引き起こしたもの」を表しているに決まっている。間違いようがない。しかし「間違って表現する」ことを認めなければ、表象という概念は空回りする—誤表象をどう可能にするかが、この分野の出発点である（Dretske 1986）。

二つ目。因果依存だけでは足りない。 膵臓の \beta 細胞は血糖値に確実に応答し、電気的性質もニューロンによく似ている。だがあれは受容器であって、血糖値を表現しているとは言われない（Poldrack 2020）。

情報で決める ── ドレツキ

次の答えは、因果を情報で置き換える。黒い雲は降雨の自然的記号であり、降雨についての情報を担っている—Dretske (1981) の枠組みで、情報が流れるとは条件付き確率が 1 になることだと定義する。

これは第5章と地続きである。 相互情報量で測ってきた量が、そのまま「何についての情報か」を語る道具に持ち上げられている。神経科学が「この領域は方位の情報を持つ」と言うとき、暗黙に使っているのはこの枠組みである。

戸田山 (2014) はここで生じる「について性」を志向性モドキと呼ぶ。黒雲は雨に「ついて」いるが、条件付き確率が 1 なのだから間違えようがない。やはり誤表象が扱えない。

この弱点にいちばん早く気づいたのは、ドレツキ自身である。 後の仕事（Dretske 1986, 1988）で彼は、情報だけでは足りないと認め、その状態が何のためにあるか—つまり機能—を持ち込んだ。だから次に見る立場への移行は、外からの批判というより、この路線の内側で起きた方向転換でもある。

もう一つ、厳しすぎるという問題がある。 条件付き確率 1 を要求すると、自然法則は一般的なものにしか成り立たないので、個物についての情報が消えてしまう。しかも記号と対象のつながりは、そこまで普遍的である必要がない。北ウェールズの冬の霧は雨が近いことを知らせるが、ナミビアの砂漠の霧はそうではない。局地的に、しばらくのあいだ成り立つつながりで十分なのだ。

消費者で決める ── ミリカン

三つ目が目的論的意味論（teleosemantics）である（Millikan 1989）。主張の核は意外なほど短い。「表現」は機能語である。

ミリカン (2021) 自身の例を借りる。スクラップ処理機が偶然、轢かれたタイプライターとそっくり同じ形の金属塊を作ったとしよう。隣には実際に轢かれたタイプライターがある。二つは物理的に区別がつかない。それでも、後者だけがタイプライターである。 辞書は「文字を打つための機械」と書く。打てる機械でも打つ機械でもないから、壊れていてもタイプライターなのだ。

機能を持つとは、良し悪しを言える基準ができるということである。機能がなければ、故障も誤りもない。

ここがポイント

目的論的意味論が主張しているのは、これだけである。「表現」は機能語だから、正しい・間違いがありうる。逆に言えば、誤表象を認めたいなら、表現を機能語として扱うしかない。内容がどう決まるかについては、この主張は何も言っていない。

ここから神経科学にとって重い帰結が出る。 機能を持つとは、それを使う相手がいるということである。ミリカンはそれを消費者（consumer）と呼ぶ。記号には生産者と消費者の両方が要る—キツネの足跡から「キツネがいる」を作るのが生産者、それにもとづいて逆方向へ逃げるのが消費者である（戸田山 2014）。

4. ミリカンが神経科学に言ったこと

ミリカンは2021年に、神経科学へ向けて直接この話を書いている。三点を引く。

第一。神経活動と刺激の信頼できる対応は、それだけでは表現の証拠にならない。 そこまでは因果の話である。表現だと言うには、脳の別の部分がその活動を「そのものが目の前にあることの表現として」使っていることを示さねばならない。

第二。消費者は一つでなくてよい。 登山道の空き缶の知覚は、またぐのにも、拾うのにも、蹴るのにも、指さすのにも、置いていった人の人柄を考えるのにも使える。一つの表現に、多くの消費者と多くの使い道がある。 ここが本節の後半で効いてくる。

第三。表現に共通する働き方は、準同型である。 ミリカンが引くのは Gallistel の定式化で、表現とは脳内の過程と環境の側面との「機能している同型対応」（functioning isomorphism）である。表現の集合と表現されるものの集合の間に対応があり、片方の変換がもう片方の変換に対応する。

語に注意してほしい。 ガリステルは「同型」と言うが、脳が世界の区別をすべて保つ必要はない—区別しなくてよいものは潰してよい。だから実際に要るのは準同型である。第17章第2節の良い調節器定理でも、同じ緩めが起きていた。本書は準同型で通す。

この三点目に気づいてほしい。 これは第12章第3節の表現定理そのものである。経験的な関係構造を数の構造へ関係を保って写す—測定理論が百年かけて整えた枠組みが、表象の哲学から独立に、同じ形で出てきている。

ミリカンはさらに、あらゆる表現は不変部分と少なくとも一つの可変部分を持つと述べる。変えれば別の意味になる部分が変数、どの変換でも変わらない部分が不変量—第13章の構図がそのまま現れている。踏切の点滅灯が表現でありうるのも、「いつ・どこで」が変数になっているからである。

5. 神経科学の側から ── ポルドラック

哲学が論争を続けるあいだ、神経科学は「表現」を論争なしに使ってきた。この落差を扱ったのが Poldrack (2020) で、問うのは神経科学が見つけたものが職務記述書（job description、Ramsey 2007）を満たすかである。

満たしている、というのが答えで、根拠は三つある。

世界の構造との対応。 視覚野の階層は、世界が階層的・合成的にできていることを反映している。高次元の入力を、自然画像が住む低次元の多様体へ落とす—第11章の言葉そのものである。

脱結合可能性。 光遺伝学で視覚野を刺激すると、視覚入力がないのにマウスは見えているようにふるまう。ヒトでも顔選択的な領域の電気刺激で顔が見える。因果の入口を切り離しても、表現としての役割を果たす。

誤表象。 敵対的例である。微小な変化でパンダがテナガザルに分類される。ネットワークでは何を目的関数として訓練したかが分かっているから、「テナガザル、または敵対的例」を表しているのかもしれないという選言問題に落ちない。目的に照らして誤りだと断定できる。

そして最も強い議論が最後に来る。次元の呪いである。 1434 \times 1076 画素・256階調の画像は、宇宙の原子より多い。世界の構造を反映した表現を持たない系は、制約なしの関数近似をすることになり必ず失敗する。だから世界で賢くふるまう系は、表現を持たざるをえない。

これは第9章の話である。汎化を可能にしていたのは帰納バイアスだった。その帰納バイアスこそが表現の正体だ、と Poldrack は言っていることになる。

ただし決着していない。 この議論には反論が出ている（Anderson と Champion 2022）。おもな論点は、次元の呪いが示すのは「世界の構造を使う何かが要る」ことであって、それが表象と呼ぶに値するものである保証はない、というものである。第2節で見た反表象主義の側は、まさにそこを突いてくる。

6. 主張を四つに分解する

「この領域は X を表現している」という主張を、証拠の種類で分解する枠組みがある（Pohl ら 2026）。神経応答 r、表現される特徴 s、他の特徴 n の関係を四つの次元で整理する。

次元 主張の中身 情報理論での書き方 本書のどこ
感受性 r は s について情報を持つ I(s;r)/H(s) 第5章・第6章（デコーディング）
特異性 r の変動の多くが s で説明される I(s;r)/H(r) 第4章（エンコードモデル）
不変性 s が同じなら n が変わっても r は変わらない n で条件づけた量 第13章（不変・同変）
機能性 下流がその情報を実際に使っている 介入が要る 第12章第10節・本節

四つ目だけ性質が違う。 前三つは観測から測れるが、機能性は使用の主張であり、使用は因果である。だから相関では示せず、介入が要る。Salzman ら (1990) が MT 野を微小刺激してサルの知覚報告を偏らせたのが古典例である。

第6章第8節で「読み出せることと使われていることは違う」と保留し、第12章第10節でデコーディング精度を分解した。その差が、この表でいう感受性と機能性の差である。

7. 表象を測定の言葉で書く

第4節で、ひとつ気になることを述べた。ミリカンが表象の働き方として挙げた準同型が、第12章第3節の表現定理と同じ形をしていた、という点である。

あれを偶然として通り過ぎるのはもったいない。同じ形をしているなら、測定理論の残りの道具も使えるのではないか。 表現定理には一意性定理という相棒がいた。尺度水準があり、許される変換の群があり、有意味性の検査があった。それらを表象の議論に当ててみよう。

この発想には先行がある。Swoyer (1991) は、科学のモデルから心的表象までを構造的表象（structural representation）という一つの関係の種類として捉え、その典型例として測定を置いた。そして本節の中心にある論点を、すでにこう書いている—尺度が一意に近ければ近いほど、それが世界について伝える情報は多い。だから尺度の一意性は、その表象が対象からどれだけ決まりきらないかの目安になる。 以下はこの見立てを、脳を相手にした現代の議論へ持ち込む作業である。

本節は本書でいちばん実験的な節である。うまくいく部分と、いかない部分の両方を書く。

まず、向きが逆であることを確認する

当てる前に、ずれを押さえておきたい。

第12章の測定では、写像は世界から数へ向かっていた。棒の長さの集合に順序と結合があり、それを実数の順序と加法へ関係を保って写す。そしてその写像を作るのは我々である。測定とは、我々が世界に数を割り当てる行為だった。

表象では、写像は内部状態から世界へ向かう。そしてそれを持っているのは脳である。我々が作るのではない。

向きも作り手も違う。それでも共通しているものが二つある。

第一に、構造を保つ写像があること。第二に、その写像は一つに決まらないこと。

この第二点が、これから使う道具の入口になる。

内容の不定性は、許容変換群の大きさである

第12章第4節で、表現定理と一意性定理を対にして学んだ。表現定理は「数値表現が存在する」と言い、一意性定理は「ただし一つには決まらない」と言う。長さの測定なら、単位の取り替え \phi \mapsto a\phi までは自由だった。温度なら \phi \mapsto a\phi + b まで自由である。

決まらない範囲を群として書き下すこと。 これが一意性定理の仕事だった。そして第12章第2節で述べたとおり、この群の大きさが尺度水準そのものだった。

ここで第2節の選言問題を思い出してほしい。ある活動が「馬」を表すのか「馬、または暗闇で見た牛」を表すのか、決まらない。哲学ではこれを内容の不定性と呼んで、百年ほど困ってきた。

同じことではないか。

内容の割り当ても一つに決まらない。決まらないなら、決まらない範囲を書き下せばよい。二つの内容の割り当てを互いに移し合う変換を集めれば、その集まりの大きさが不定性の量である。

ここがポイント

「内容が決まらない」は、測定理論では異常事態ではない。決まらないのが普通で、決まらない範囲を群として明示するのが仕事である。

だとすれば表象についても同じ構えが取れる。「内容は何か」と問うのをやめて、「内容はどこまで決まるか」を問う。 答えは群の形で返ってくる。

ひとつ正直に書いておくと、この集まりが本当に群をなすか（合成と逆元で閉じるか）は、それ自体確かめるべきことである。第12章第2節では許される変換の集まりが群になることを見たが、内容の割り当てについて同じことが言えるかは、まだ誰も整理していない。

消費者を増やすと、群が縮む

さて、この見方を入れると何が言えるか。消費者説が、群を縮める操作として読める。

第8節でも使う戸田山 (2014) の例で確かめよう。丘に登って特定の捕食者を避けるためだけに使われる赤の表象があるとする。このとき「赤」という内容と「その捕食者がいないところ」という内容は、行動の上で区別がつかない。どちらに読んでも、生物のふるまいは同じである。つまり、二つの内容を移し合う変換が許されてしまっている。

ではその同じ状態を、横断歩道でも果物の選り分けでも使うようになったらどうなるか。保たねばならない構造が増える。 果物の選り分けに使うには、赤と橙を区別できなければならない。捕食者の話では要らなかった区別である。すると、さきほど許されていた変換は許されなくなる。

消費者 保つべき構造 許される変換 内容
一つ（捕食者を避ける） 危険／安全の二分だけ 多い 決まらない
複数（横断歩道・選り分け・…） 色の区別・位置・大きさ… 少ない 絞られる
すべての可能な読み出し ほぼ全部 ほぼ恒等変換だけ ほぼ一意

ミリカンの「消費者は一つでなくてよい」（第4節）が、ここで意味を変える。 あれは表象の柔軟さについての観察に見えた。だが測定の言葉に置くと、内容を絞るための操作だったことになる。

ここは Swoyer の議論を一歩越えている。彼が扱ったのは主に科学のモデルと測定で、消費者は出てこない。目的論的意味論と組み合わせて「消費者の数が許容変換群を決める」と言うのは、本書の側の一歩である。近い試みとして Shea (2018) がある—構造の対応があることと、それが課題のために実際に使われていることとを区別し、後者があって初めて構造的表象になると論じる。海馬の場所細胞による認知地図（第17章第7節）を、まさにその例として扱っている。

そして第8節で扱う「多様な読み出し」も、まったく同じ操作である。読み出しの多様さを増やすことは、許される変換を減らすことだ。「多様な読み出しを可能にする」と「内容が定まっている」は、同じことを別の側から言っている。

尺度水準で読む ── プラトン派とアリストテレス派の対立

道具を当てる二つ目。第17章第9節の対立に戻ろう。

プラトン表現仮説は「表現は収束している」と言い、アリストテレス表現仮説は「校正すれば大域的な収束は消え、残るのは局所的な近傍関係である」と言った。第12章を通った読者は、この「関係」という語に反応してほしい。

二つは、一致を主張する尺度水準が違う。

何の一致を主張するか 尺度水準
プラトン派 表現空間全体の距離構造（カーネル行列） 間隔尺度以上
アリストテレス派 どの点とどの点が近いかの順序 順序尺度

対立の所在が、これで鮮明になる。アリストテレス派は「収束していない」と言っているのではない。「収束は順序尺度の水準までしか言えない」と言っているのである。 前章では「測定の対立である」と述べたが、より正確には尺度水準の対立だった。

そしてここから、実務に効く帰結が出る。第12章第2節で「平均を取ってよいのはどの尺度か」を問うたことを思い出してほしい。順序尺度の量に対して差や比を語るのは、有意味でない。

RDM の相関を取る行為は、距離が間隔尺度であることを暗黙に仮定している。 ピアソン相関は値の線形関係を測るのだから、距離の値そのものに意味があるという前提の上でしか読めない。もし表現の一致が順序尺度の水準しか持たないのなら、その相関は有意味な主張になっていない。

第17章第10節で「相関では弱い」と述べたが、そこで挙げた理由はカテゴリ構造の交絡だった。測定論はこれとは別の、もっと手前の理由を与える—尺度水準が合っていない。順位相関を使うべきだという実務上の作法にも、ここに根拠がある。

有意味性の検査を、四つの次元に当てる

三つ目。第12章第2節の中心的な検査を思い出そう。許される変換のもとで真理値が変わらない主張だけが、意味を持つ。

これを第6節の四つの次元それぞれに当ててみる。「この主張は、何を変えても変わらないか」を問うのである。なお以下は、活動 r を有限通りに区切って数えている場合の話である。この前提が要る理由は、表のすぐ下で述べる。

次元 どの変換のもとで不変か 帰結
感受性 I(s;r)/H(s) r の可逆変換で不変 座標の取り方に依存しない。強い主張である
特異性 I(s;r)/H(r) r が離散なら可逆変換で不変。連続なら不変でない H(r) が変数変換でヤコビアンの分だけ動く（第5章第2節）。座標の選び方に依存する
不変性 群を指定して初めて定義される 何を変えてよいかを先に宣言せねばならない（第13章）
機能性 下流の読み出しを固定する 許される変換を下流が決める。消費者説の測定論版

三行目と四行目に注目してほしい。不変性と機能性は、どちらも「許される変換」を外から与えないと意味が確定しない。 前者は我々が宣言し、後者は生物の側が決めている。第4節でミリカンについて述べた「誰のために保つのか」が、ここで「誰が許容変換を決めるのか」という形になった。

二行目も見逃せない。特異性は座標の取り方に依存する。 分子の I(s;r) は r の可逆な変換で変わらないが、分母の H(r) は変わってしまう。だから「この領域の活動の変動は、そのほとんどが刺激で説明できる」という主張は、活動をどんな座標で表したかによって変わりうる。第4章のエンコードモデルの説明率を報告するとき、この留保はふつう書かれない。

しかも連続量のままだと、話はもっと悪い。微分エントロピーは負になりうるので、I(s;r)/H(r) は負の値も、1 を超える値も取れてしまう。割合として読めなくなる。だから有限通りに区切って数える必要があった—さきほど断ったのはこのためである。

そしてもう一点。第6章第6節で、線形読み出しにこだわる方法論を見た。相互情報量は可逆な非線形変換では変わらないのだから、線形に絞ることは情報量の観点からは情報を捨てる要求である。 ならばなぜ絞るのか。測定の言葉で言えばこうなる—あれは「許容変換を線形写像に限る」という宣言だった。 線形プローブが測っているのは「情報があるか」ではなく、「下流が線形に使える形であるか」である。方法論上の禁欲が、許容変換群の指定として書き直せる。

どこまでいかないのか

道具を当てて得たものを並べたので、当たらなかったところも書く。

第12章のいちばん強い成果は、表現が存在するための条件を、実験で確かめられる形で書き下せたことだった。外延的測定の公理（第12章第4節）、加法的結合測定の二重キャンセレーション（第12章第5節）。満たされなければ数値表現は存在しない、と言える形になっていた。

表象について、同じことができるだろうか。

いまはできない。理由は、公理を書く前の段階が済んでいないからである。測定理論が公理を書けたのは、対象の集合と、その上の関係（どちらが重いか、二つ並べたものはどうか）が先に決まっていたからだ。表象の場合、脳の状態のあいだの「関係」として何を取るべきかが決まっていない。距離だろうか、遷移のしやすさだろうか、同じ行動を引き起こすかだろうか。関係を選ぶ段階で、すでに答えの半分が決まってしまう。

これは第7章から本書が繰り返してきた困りごとと同じ形である。何を測るかを決めるには、何を知りたいかが決まっていなければならない。

もう一つ、測定を通してしか手に入らないという制約もある。第12章第9節で見たとおり、測定装置は構造を歪める。「この領域は X を表現している」という主張は、装置の妥当性の上に乗っている—fMRI のボクセルが何万個のニューロンの平均であることを、表象の議論は普通ぬかりなく扱わない。

それでも、同じ問いである

節を閉じよう。

測定理論は「数を割り当ててよいか」を問う理論だった。どんな条件のもとで割り当てが可能か、割り当てはどこまで一意か、割り当てた数についてどんな主張が有意味か—この三つを順に問う。

表象の哲学は「内容を割り当ててよいか」を問う。条件は何か、内容はどこまで一意か、内容についてどんな主張が有意味か。

問いの形が同じである。 表現定理と一意性定理が二つの分野で独立に現れたのは、たまたま似た数学が使われたからではなく—同じ問いを扱っていたからではないだろうか。

読者に問いたい。この見立てを本気にするなら、次に何をすべきだろうか。脳の状態のあいだに、どんな関係を取れば公理が書けそうだろうか。この問いは、本書が読者に手渡す宿題のうち、いちばん手つかずのものである。

8. 読み出しと表現は対立しない

ここで、本書が別々に書いてきた二つを繋いでおきたい。一方に「表現とは何か」という問いがあり、他方に「何が読み出せるか」というデコーディングの問いがある。前者は哲学、後者は方法の問いに見える。だが、そうではない。

ミリカンの消費者説をもう一度見てほしい。内容を決めるのは、使い道の広がりである。 戸田山 (2014) が挙げる例で言えば、赤の表象を横断歩道でも果物の選り分けにも使うなら「赤」を意味する。だが丘に登って特定の捕食者を避けるためだけに使うなら、同じ状態が意味するのは「その捕食者がいないところ」になる。用途の範囲が、内容を決めている。

だとすれば、「そこから何が読み出せるか」を問うことは、消費者説を捨てることではない。消費者説を測れる形にすることである。 多様な読み出しが可能だとは、多様な消費者がありうるということだからだ。そしてその中には当然、生物が行動に役立てる読み出しが含まれている。

本書がこの方針を最初に見たのは第6章第6節だった。Kamitani と Tong (2005) が線形読み出しにこだわったのは、非線形デコーダでは「脳にあった情報」と「デコーダが作った情報」が区別できないからである。線形に読み出せるとは、下流のニューロンが実際に使える形で情報がそこにあるということでもある。方法論上の禁欲が、そのまま消費者側の要求と重なっていた。

同じ発想を定義まで押し進めると、表現を「そこから何が復元できるか」で定めることになる。読み出し表現（readout representation）である（Onoo, Nagano & Kamitani 2025）。定義の形が変わることに注意してほしい—因果説では表現は刺激で一意に決まる活動値だったが、ここでは入力を復元できる潜在空間の点の集合になる。値ではなく領域が単位である。この広がりを測る量が表現サイズで、第11章第6節の表現の次元と同じ土俵にある。そしてこの定義には Poldrack の脱結合可能性がきれいに収まる。 刺激がなくても「読み出せる状態」なら同じ言葉で扱えるからだ（神谷 2026）。

そして「多様さ」は測れる量である。 ここで第13章第10節が戻ってくる。あそこで構成性を扱ったとき、属性が独立な成分に分かれていれば少ない訓練から組み合わせで多様な出力が作れる、と述べた。裏返しが出力次元崩壊である（第15章第10節）。構成性とは、消費者の多様さを保証する仕組みだったと読める。空き缶が多くの使い道を持つのも、その知覚が位置・大きさ・材質といった成分に分かれているからではないか。

それでも、消えない差が一つある。 「原理的に取り出せる」と「実際に使われている」は違う。第6節の表でいえば感受性と機能性は別の次元であり、後者には介入が要る。

だが、これは対立ではなく程度の差である。読み出しの多様さが増すほど、実際に使われている消費者を含む見込みは高くなる。線形で読み出せるならなお高い。介入で確かめられれば確定する。同じ軸の上に並んでいるのであって、二つの陣営があるわけではない。

本書の道具は何を言えるか

第12章の表現定理は「何を保つか」を、第13章の群は「何を変えてよいか」を指定する枠組みだった。 ミリカンが表現の働き方として挙げた準同型は前者であり、不変部分と可変部分の区別は後者である。

そして目的論的意味論が付け加えるのは、「誰のために保つか」である。 表現の内容は、表現されるものと表現するものの二者では閉じない。第三の項—消費者—が要る。

「何を捨て何を保つか」が指定されて初めて表現の内容が定まり、誰にとっての表現かを言わなければ、その指定は完了しない。

9. これから

本書を閉じるにあたり、未解決の問いを並べておく。どれも、読者が明日から取り組める問いである。

汎化の正体。 第9章の Direct Fit—脳もネットワークも簡潔な規則ではなく密なサンプリングの上の内挿で動いている—は決着していない。第13章の構成的汎化とこの内挿説を、実験でどう切り分けるか。「訓練で見ていない組み合わせ」が、実は表現空間の中では訓練データに囲まれていた可能性を、どう排除するか。第9章第9節で開いた「理解するとはどういうことか」に、本書は答えを出していない。

表現の内容は誰が決めるのか。 第3節の三つの立場に決着はついていない。とくに残るのは、消費者の連鎖をどこで止めるかである。ある活動の内容を下流が決めるなら、その下流の内容もさらに下流が決めることになる。行動まで降りれば止まるのか、生物にとっての成否まで降りねばならないのか—第10章の報酬と第16章第4節の事前選好が候補として並んでいる。測る側にも課題がある。四つの次元のうち機能性だけが介入を要求する。介入なしにどこまで機能性に迫れるか。

測定としてのデコーディング。 デコーディング精度には神経集団の情報・測定装置・デコーダの能力・生成事前分布の四つが混じる（第12章第10節、第15章第10節）。これらを分離する標準的な手続きは、まだない。説得力と妥当性の乖離は、そのために残り続ける。

表象の存在条件。 第7節で開いたまま閉じた問いである。第12章は「数値表現が存在するための条件」を、実験で確かめられる公理として書き下せた。表象について同じことができるか。 そのためには、脳の状態のあいだにどんな関係を取るべきかを決めねばならない—距離か、遷移のしやすさか、同じ行動を引き起こすことか。関係の選び方で答えが変わってしまうという困りごとを、どう扱うか。本書が渡す宿題のうち、いちばん手つかずのものである。

対称性の獲得。 第13章第10節の宿題である。世界のどんな変換が「意味を変えない」のかを、脳は教わらずに獲得したはずである。対称性そのものを学習する試みは緒についたばかりだ。乳児は、いつ・どうやって「物を回しても同じ物だ」ということを知るのだろうか。

最後に

本書は、脳とAIを同じ数学で見ることを試みた。

畳み込みは第4章の受容野として現れ、第8章の CNN で再登場し、第13章で対称性からの必然と分かった。ヤコビアンは第2〜3章の安定性解析、第5章の変数変換、第9章の NTK、第11章の表現計量、第15章のフローと、五つの役目を負った。エネルギー関数は第7章から第16章まで、姿を変えながら本書を貫いた。

この重なりは、何を意味するのだろうか。

素直な読み方はこうだ—脳とAIが同じ数学で書けるのは、両者が同じ種類の問題を解いているからかもしれない。高次元の入力から構造を取り出し、それを使って世界を予測し、行動する。問題が同じなら、解も似てくる。収束進化のような話である。

だが、慎重に考えたい。別の読み方もありうるからだ。

同じ数学が現れるのは、我々が同じ数学しか持っていないからかもしれない。線形代数と確率と最適化—これは記述する側の道具立てであって、記述される対象の性質ではない。ハンマーを持っていれば、すべてが釘に見える。脳を線形代数で書き、ネットワークも線形代数で書いたとき、両者が似て見えるのは当たり前ではないか。

さらに、選択の偏りもある。本書が取り上げたのは「同じ数学で書けた」事例である。書けなかったもの—対応がつかず、比喩にとどまり、あるいは失敗した試み—は、教科書には残らない。重なりの数を数えるとき、我々は分母を見ていない。

この二つの読み方を、本書の道具で判定することはできない。だが問いを立てることはできる。もし脳とAIが本当に違う問題を解いているとしたら、記述はどれだけ違って見えるはずだろうか。この反実仮想に答えられるようになったとき、重なりの意味もはじめて見えてくる。

そして本書は、同時に慎重さも伝えようとした。同じ式で書けることは、同じものであることを意味しない。「似ている」と言うには、何を許すかを先に決めねばならない。数を計算するには、何を実数に写してよいかを問わねばならない。そしていま見たとおり、この慎重さは本書自身の主題にも向けられなければならない。

道具と、その道具を疑う目。両方を渡せていれば、本書の目的は果たされたことになる。

確認問題

  1. ［確認］線形表現仮説における「線形」の二つの意味を述べ、それらが双対空間の言葉でどう区別されるかを説明せよ。（第1節・第13章第5節）

  2. ［確認］表象の媒体と内容の区別を述べよ。本書が第11章から第13章で測ってきたのはどちらか。（第2節）

  3. ［確認］因果説と情報説は、どちらも誤表象を扱えないと本文で述べた。それぞれについて理由を述べよ。（第3節）

  4. ［確認］表現の主張を分解する四つの次元のうち、機能性だけが介入を要求するのはなぜか。（第6節・第12章第10節）

  5. ［確認］内容の不定性が「許容変換群が大きいこと」に対応するとはどういう意味か。また、消費者を増やすとなぜ群が縮むのか。（第7節・第12章第4節）

  6. ［確認］RDM の相関を取る行為は、表現の距離をどの尺度水準で扱っていることになるか。順序尺度の水準までしか一致が残らないという主張（第17章第9節）と、どう噛み合うか。（第7節・第12章第2節）

  7. ［考える］「表象など要らない」という立場に対して、本書はどんな応答を持っているか。二つ挙げ、どちらがより強いかを論じよ。（第2節・第5節・第17章第2節）

  8. ［考える］「読み出しを問うことは、消費者説を捨てることではなく、消費者説を測れる形にすることである」という本文の主張を、自分の言葉で説明せよ。そのうえで、この主張への反論を一つ考えよ。（第8節）

参考文献

  • Park, K., Choe, Y. J. & Veitch, V. (2024) The linear representation hypothesis and the geometry of large language models — 因果的内積。読み出しの方向と操作の方向を結ぶ［1節］
  • Dretske, F. (1981) Knowledge and the Flow of Information — 情報にもとづく意味論の原典［3節］。誤表象を扱えないという弱点に自ら応じたのが Dretske, F. (1986) Misrepresentation［3節］。この弱点を選言問題として突いたのが Fodor, J. A. (1984) Semantics, Wisconsin style. Synthese；(1987) Psychosemantics［2節］
  • Millikan, R. G. (1989) Biosemantics. J Philos; (2021) Neuroscience and teleosemantics. Synthese — 目的論的意味論の原典と、神経科学に向けたミリカン自身の整理［3節・4節］。後者が本章の中心で、消費者・準同型・不変量の議論はここから
  • 戸田山和久 (2014)『哲学入門』ちくま新書 第3〜4章 — 志向性・生産者と消費者・上の系譜を日本語で辿るならこれが最良［2節・3節・8節］
  • Gibson, J. J. (1979) The Ecological Approach to Visual Perception; Brooks, R. A. (1991) Intelligence without representation. Artif Intell — 「表象は要らない」という側。応答は第5節と第17章第2節［2節］
  • Poldrack, R. A. (2020) The physics of representation. Synthese — 神経科学の側からの応答。脱結合可能性・誤表象・次元の呪い［5節］。反論は Anderson, M. L. & Champion, H. (2022) Some dilemmas for an account of neural representation. Synthese［5節］
  • Shea, N. (2018) Representation in Cognitive Science, Oxford University Press — 下位人格的な表象の内容を扱った一冊。構造の対応があることと、それが課題のために使われていることを区別する（第4章・第5章）。本章の関心にいちばん近い単著［2節・7節・8節］
  • Swoyer, C. (1991) Structural representation and surrogative reasoning. Synthese — 測定を構造的表象の典型例として置き、一意性が「対象からどれだけ決まりきらないか」の目安になると述べる。第7節の出発点［7節］
  • Pohl, S. et al. (2026) Clarifying the conceptual dimensions of representation in neuroscience. Nat Rev Neurosci — 感受性・特異性・不変性・機能性の四分類［6節・7節］
  • Onoo, S., Nagano, Y. & Kamitani, Y. (2025) Readout representation: redefining neural codes by input recovery — 表現を「復元できるもの」で定義し直す提案［8節］
  • 神谷之康 (2026) 脳とAI は似ているか — NeuroAI の挑戦.『人工知能』41(2) — 読み出し表現と 3M++ を一望する［8節］