3 ネットワークのダイナミクス ── 固定点・振動・分岐
前章の主役は一個のニューロンだった。だが皮質の 1 mm 角には、10万個規模のニューロンが詰まっている。一個ずつ方程式を書いていては、扱えない。
そこで水準を上げる。集団をひとまとめにして、「この集団の平均的な発火率」という一つの変数で記述する。1972年に Wilson と Cowan が提案したこのやり方は、いまも集団活動を語る標準的な言語である。
そして驚くべきことに、数学は変わらない。そして驚くべきことに、数学は変わらない。記述の対象が細胞から集団へ移っても、\tau\,dx/dt = -x + (\text{入力}) という形は生き延びる。記述の対象が細胞から集団へ変わっても、\tau\,dx/dt = -x + (\text{入力}) という形は生き残る。
本章では、この縮約された方程式から振動とアトラクターという二つの現象を導く。前者はガンマ振動などの脳波リズムに、後者は作業記憶に対応づけられる。そして最後に、この方程式がリカレントニューラルネットワークの親戚であることを見る。
前章の道具をそのまま使うので、新しく覚えることは少ない。「同じ数学が水準を変えて効く」ことを味わってほしい。
第3節でヤコビ行列がもう一度現れる。前章では2変数系の固定点で使ったが、ここでは集団のレベルで使う。役目は前章と同じ(安定性の判定)で、対象だけが変わる。
第6節のアトラクターは、第7章のホップフィールド・ネットワークに直結する。「エネルギーの谷に落ちる」という描像は、そこで正確な形を与えられる。
急ぐなら第2節(方程式の意味)と第6節(アトラクター)でよい。
1. 集団の発火率という記述の水準
なぜ縮約するのか
理由は実際的なものと原理的なものがある。
実際的な理由。10万個の HH 方程式を解くのは、計算量として厳しい。それに、パラメータを全部決めることもできない。
原理的な理由のほうが大事である。我々が知りたいのは、たいてい「この領野がどんな計算をしているか」であって、「3746番目の細胞がいつ発火したか」ではない。問いの水準に合った記述を選ぶ—第1章第2節で述べたことが、ここで具体的な選択になる。
平均場近似
縮約の論理を追っておこう。集団 E に属する N 個のニューロンを考える。i 番目の細胞が受ける入力は、他の細胞からの寄与の和である。
I_i = \sum_j w_{ij}\, r_j
ここで近似を入れる。細胞ごとの違いを無視し、結合強度も平均で置き換える。すると
I_i \approx \bar{w} \sum_j r_j = \bar{w} N \bar{r} \equiv W \bar{r}
入力が「集団の平均発火率」だけで決まってしまった。個々の細胞の識別が消えている。これが平均場近似(mean-field approximation)である。
いつ正当化されるか。結合がランダムで、一個一個の結合が弱く、細胞数が多いときである。中心極限定理により、多数の弱い寄与の和は平均値のまわりに集中するからだ。
いつ正当化されないか。結合に構造があるとき(特定の細胞群が強く結合しているとき)、細胞数が少ないとき、そして同期が重要なとき。この限界は覚えておいてほしい。
レートモデルの形
こうして得られる方程式は、前章の形を保っている。
\tau \frac{dr}{dt} = -r + F(I)
F は入力を発火率に変える関数—前章第2節の f–I 曲線である。集団版なので、細胞ごとの閾値のばらつきが均されて、なめらかなシグモイド型になることが多い。
F(I) = \frac{1}{1 + e^{-a(I-\theta)}}
そして、この F は活性化関数そのものである。第2章第7節で「活性化関数の出所は f–I 曲線だ」と述べたが、集団レベルではもっと直接的に、レートモデルの非線形性として現れる。
2. ウィルソン・コーワン方程式(Wilson–Cowan)
二つの集団
Wilson と Cowan の眼目は、興奮性集団と抑制性集団を分けたことにある。
なぜ分ける必要があるのか。Dale の法則による。一個のニューロンは投射先すべてで同じ伝達物質を使う—だから発火率モデルでは「興奮性細胞はどこへも興奮を、抑制性細胞はどこへも抑制を送る」と理想化する。「正の重みと負の重みが混ざった一つの集団」は、この理想化のもとでは作れない。二つの集団に分けるのが自然なのである。
ただし理想化であることは断っておきたい。 作用の符号を決めるのは受け手側の受容体であって、同じ伝達物質でも受容体が違えば符号が変わりうる(発達段階によっても変わる)。ここで使っているのは、あくまで発火率モデルにおける出力結合の符号制約という形の理想化である。
皮質では、興奮性細胞(主に錐体細胞)が約80%、抑制性細胞(介在ニューロン)が約20%を占める。
方程式
興奮性集団の活動を E、抑制性集団の活動を I とする。
\begin{aligned} \tau_E \frac{dE}{dt} &= -E + F_E\big( w_{EE}E - w_{EI}I + P \big) \\ \tau_I \frac{dI}{dt} &= -I + F_I\big( w_{IE}E - w_{II}I + Q \big) \end{aligned}
各項の意味を確認しよう。
| 項 | 意味 |
|---|---|
| -E, -I | 入力がなければ自然に減衰する |
| w_{EE}E | 興奮性の自己励起。E が増えると E がさらに増える |
| -w_{EI}I | 抑制性から興奮性への抑制 |
| w_{IE}E | 興奮性から抑制性への駆動 |
| -w_{II}I | 抑制性の自己抑制 |
| P, Q | 外部入力 |
重みはすべて非負である(w_{EE}, w_{EI}, w_{IE}, w_{II} \ge 0)。符号は式の中に明示的に書かれている—これが Dale の法則を守るということである。
構造を読む
この方程式の骨格は、前章の活動電位と同じである。
速い正のフィードバック — E \to E の自己励起。E が増えると F_E の引数が増え、E がさらに増える。
遅い負のフィードバック — E \to I \to E の経路。E が増えると I が増え、I が増えると E が抑えられる。この経路は二段階なので、遅れる。
前章第3節で、活動電位が「速い m による正のフィードバックと、遅い h, n による負のフィードバック」で生じることを見た。同じ構造が、集団レベルで再現されている。そして同じ構造からは同じ現象—振動—が出てくる。
ここがポイント
ウィルソン・コーワン方程式の骨格は「速い自己励起 + 遅れた抑制」である。この構造は第2章の活動電位と同型であり、だからこそ同じように振動を生む。細胞の中で起きていたことが、回路の中でも起きている。
3. 定常状態と安定性 ── ヤコビ行列の登場
固定点を求める
定常状態は dE/dt = dI/dt = 0 で決まる。
E^* = F_E(w_{EE}E^* - w_{EI}I^* + P), \qquad I^* = F_I(w_{IE}E^* - w_{II}I^* + Q)
F が非線形なので、一般には解析的に解けない。数値的に求めるか、相平面でヌルクラインの交点として見る。
ヌルクラインは前章と同じように引ける。E-ヌルクラインは E = F_E(\cdot) を満たす曲線、I-ヌルクラインは I = F_I(\cdot) を満たす曲線である。F がシグモイドなので、E-ヌルクラインは S 字を横倒しにしたような形になり、交点が1個から3個まで変わりうる。
交点が3個のときは、安定な固定点が2個と不安定なものが1個—これが第6節の双安定性につながる。
安定性の判定
固定点のまわりで線形化する。ずれを (\delta E, \delta I) として、
\frac{d}{dt}\begin{pmatrix}\delta E \\ \delta I\end{pmatrix} = J \begin{pmatrix}\delta E \\ \delta I\end{pmatrix}
ヤコビ行列 J を具体的に計算しよう。\tau_E\dot{E} = -E + F_E(u_E)、u_E = w_{EE}E - w_{EI}I + P だから、連鎖律で
\frac{\partial \dot{E}}{\partial E} = \frac{1}{\tau_E}\big(-1 + F_E'(u_E)\, w_{EE}\big), \qquad \frac{\partial \dot{E}}{\partial I} = \frac{1}{\tau_E}\big(-F_E'(u_E)\, w_{EI}\big)
同様に I の行も計算して、
J = \begin{pmatrix} \dfrac{-1 + F_E' w_{EE}}{\tau_E} & \dfrac{-F_E' w_{EI}}{\tau_E} \\[2ex] \dfrac{F_I' w_{IE}}{\tau_I} & \dfrac{-1 - F_I' w_{II}}{\tau_I} \end{pmatrix}
F' が入っていることに注目してほしい。これは f–I 曲線の傾き、つまりその動作点でのゲインである。同じネットワークでも、活動レベルが違えば F' が違い、したがって安定性も違う。「回路の性質が状態に依存する」—これは実際の脳でも重要な性質である。
固有値から読む
2\times2 行列の固有値は、トレース T = \mathrm{tr}\,J と行列式 D = \det J で決まる。
\lambda = \frac{T \pm \sqrt{T^2 - 4D}}{2}
判定は次のようになる。
| 条件 | 固定点の型 |
|---|---|
| D < 0 | サドル(不安定。一方向に安定、他方向に不安定) |
| D > 0, T < 0, T^2 > 4D | 安定ノード(振動せず収束) |
| D > 0, T < 0, T^2 < 4D | 安定な渦状点(振動しながら収束) |
| D > 0, T > 0, T^2 < 4D | 不安定な渦状点(振動しながら発散 → リミットサイクルへ) |
最後の行が次節の主題である。トレースの符号が変わる瞬間に、何が起きるのか。
ここがポイント
ヤコビ行列に F'(f–I 曲線の傾き=ゲイン)が入っているため、同じ回路でも動作点によって安定性が変わる。静かな状態では安定でも、活動が上がると振動を始める—ということが起こりうる。
4. 振動の発生 ── Hopf 分岐とリミットサイクル
トレースの符号が変わるとき
T = \mathrm{tr}\,J を書き下すと、
T = \frac{-1 + F_E' w_{EE}}{\tau_E} + \frac{-1 - F_I' w_{II}}{\tau_I}
第一項は w_{EE}(自己励起)が強いと正になりうる。第二項は常に負である。
つまり、自己励起が強くなると T が正に転じる。そのとき D > 0 かつ T^2 < 4D なら、固有値は正の実部を持つ複素数になる—不安定な渦状点である。
固定点が不安定になったからといって、系が無限に発散するわけではない。F が飽和するので、どこかで振動が頭打ちになる。その結果、一定の振幅で回り続ける閉じた軌道が現れる。これがリミットサイクルである。
この分岐—固定点が振動的に不安定化してリミットサイクルが生まれる—が、前章第5節で扱った Hopf 分岐である。
振動の周波数
分岐点での振動周波数は、固有値の虚部で決まる。
\omega = \frac{\sqrt{4D - T^2}}{2}, \qquad f = \frac{\omega}{2\pi}
この周波数の桁を決めているのは、主に時定数 \tau_E, \tau_I である(結合強度とゲイン F' も効くが、大きさを支配するのは 1/\sqrt{\tau_E\tau_I} である)。典型的な値(\tau_E \approx 10 ms、\tau_I \approx 5 ms 程度)を入れると、数十ヘルツの振動が出る—ガンマ帯(30〜80 Hz)である。
E/I バランスとガンマ振動
皮質で観察されるガンマ振動が、この機構で生じるという説は有力である。PING(pyramidal-interneuron network gamma)モデルと呼ばれる。
筋書きはこうだ。錐体細胞が発火する → 介在ニューロンを駆動する → 介在ニューロンが錐体細胞を抑制する → 抑制が切れる → また錐体細胞が発火する。この一巡にかかる時間が、振動の周期を決める。
実験的な支持もある。介在ニューロン(とくにパルブアルブミン陽性細胞)を光遺伝学的に操作すると、ガンマ振動が制御できることが示されている。
ただし注意も要る。振動が「観察される」ことと、それが「計算的な役割を持つ」ことは別である。振動が情報処理に必須なのか、それとも回路構造の副産物なのかは、いまも議論が続いている。
ウィルソン・コーワン方程式を解き、固有値の実部が符号を変える瞬間を捉えよう。コードは コード/03_wc.py にある。分岐パラメータは興奮性集団への外部入力 I_E とする。
注意が一つ。固定点は前向きに積分するだけでは求まらない—リミットサイクルに乗ってしまい、肝心の(不安定な)固定点が取れない。格子探索とニュートン法で解く必要がある。
tE, tI = 10.0, 20.0 # ms
wEE, wEI, wIE, wII = 16.0, 12.0, 15.0, 3.0
aE, thE, aI, thI = 1.3, 4.0, 2.0, 3.7
II = 0.0 # 抑制性集団への外部入力
def F(u, a, th): # シグモイド型の応答関数
return 1.0/(1.0 + np.exp(-a*(u - th)))
def dF(u, a, th): # その微分
s = F(u, a, th)
return a*s*(1 - s)
def g(x, IE): # 右辺。ゼロになる点が固定点
E, I = x
return np.array(
[(-E + F(wEE*E - wEI*I + IE, aE, thE))/tE,
(-I + F(wIE*E - wII*I + II, aI, thI))/tI])
def jacobian(x, IE): # 固定点まわりの線形化
E, I = x
gE = dF(wEE*E - wEI*I + IE, aE, thE)
gI = dF(wIE*E - wII*I + II, aI, thI)
return np.array([[(-1 + wEE*gE)/tE, -wEI*gE/tE],
[wIE*gI/tI, (-1 - wII*gI)/tI]])
# 固定点を求め、そこでの固有値の実部の最大を読む
x = fixed_point(IE, near=mean)
re = np.linalg.eigvals(jacobian(x, IE)).real.max()(fixed_point が上で言った格子探索+ニュートン法である。実際のコードでは指数の暴走を防ぐため F の中に np.clip を挟んでいる。)
| I_E | 0.0 | 0.6 | 0.8 | 1.0 | 2.0 | 4.0 | 6.0 |
|---|---|---|---|---|---|---|---|
| 固有値の実部(最大) | -0.051 | -0.053 | -0.050 | +0.073 | +0.096 | -0.050 | -0.050 |
| 振動の振幅 | 0 | 0 | 0 | 0.94 | 0.97 | 0 | 0 |
| 周波数 [Hz] | 0 | 0 | 0 | 2.9 | 6.7 | 0 | 0 |
コード/03_wc.py の出力)。上が固定点における固有値の実部、下が振動の振幅。実部がゼロを横切る点と、振幅が立ち上がる点が正確に一致している。しかも分岐は二回ある—I_E \approx 0.970 で振動が始まり、3.065 で止まる。
実部の符号が、振動の有無を正確に予言している。上下の図がぴったり揃っていることを見てほしい。二分法で詰めると I_E \approx 0.970 で実部がゼロを横切り、そこから振動が始まる。
そして予想外のことが起きる。I_E をさらに上げると、I_E \approx 3.06 で振動が止まる。実部が再び負に戻るのだ。Hopf 分岐は二回ある—入力が強すぎても、系は振動しない。
問い—I_E を 1.0 から 2.0 に上げると、振幅はほとんど変わらない(0.94 → 0.97)のに、周波数は倍以上になる(2.9 → 6.7 Hz)。振幅と周波数の動き方が違うことが、分岐の型を見分ける手がかりになる。
5. 分岐図の読み方
パラメータを動かしたときの解の変化を、一枚の図にまとめたのが分岐図である。読み方を整理しておく。
描き方
横軸にパラメータ(たとえば外部入力 P)、縦軸に定常状態の E を取る。各パラメータ値について、
- 固定点があれば、その値を点で打つ。安定なら実線、不安定なら破線で描くのが慣習である
- リミットサイクルがあれば、振動の最大値と最小値を打つ。二本の線が開いた領域が振動領域になる
典型的な形
ウィルソン・コーワン方程式でよく現れるのは、次の二つである。
S 字型(双安定)。曲線が S 字に折れ曲がり、中間の範囲で三つの固定点を持つ。上下の枝が安定、中間の枝が不安定である。
このときヒステリシスが起きる。入力をゆっくり上げていくと、上の折り返し点で活動が跳ね上がる。そこから入力を下げても、下の折り返し点まで戻らないと落ちない。系が「履歴」を持つわけである。第6節の作業記憶は、この性質を使っている。
振動領域。ある範囲のパラメータで、固定点が不安定化してリミットサイクルが現れる。分岐図の上では、一本の線(固定点)が破線に変わると同時に、二本の線(振動の上下)が枝分かれする。
何が嬉しいのか
分岐図の価値は、質的に違う振る舞いの領域を一望できることにある。
「このパラメータ範囲では静止、ここでは振動、ここでは双安定」—という地図が得られる。そして脳の状態(覚醒・睡眠・麻酔)や、神経修飾物質の作用を、この地図の上の移動として理解できる可能性が開ける。
てんかん発作を「正常な動作点から病的な動作点への分岐」として捉える研究もある。分岐という概念が、臨床的な問いに接続する例である。
6. アトラクターと連続アトラクター
アトラクターとは
アトラクター(attractor)とは、まわりの軌道が引き寄せられる集合のことである。安定な固定点は点アトラクター、安定なリミットサイクルは周期アトラクターである。
なぜこれが重要か。アトラクターは「記憶」の候補になるからだ。
系がある安定な固定点に落ち着いているとする。少しつつかれても、また同じ点に戻る。つまり状態が保たれる。外部からの入力が消えても活動が続くなら、それは「何かを覚えている」ことになる。
双安定性と作業記憶
前節の S 字型分岐図を思い出そう。ある入力範囲で、安定な固定点が二つある(低活動状態と高活動状態)。
この二つの状態が、1 ビットの記憶になる。短い刺激で高活動状態に押し上げれば、刺激が消えても高活動が続く。別の信号で低活動に戻せば、リセットされる。
これが遅延期間の持続活動(delay-period persistent activity)のモデルである。前頭前野では、刺激が消えた後も数秒にわたって発火が続く細胞が記録されており、作業記憶の神経相関と考えられてきた。
連続アトラクター
だが、覚えたいものが「1 ビット」でないことも多い。方向を覚えるなら、0度から360度まで連続的な値である。
このとき使われるのが連続アトラクター(continuous attractor)である。安定な固定点が孤立せず、連続的な集合(リング、あるいは平面)をなす状況だ。
リングアトラクターを作ってみよう。集団を角度 \theta でラベル付けし、結合を「角度差の関数」にする。
w(\theta, \theta') = w_0 + w_1 \cos(\theta - \theta')
近いものどうしは強く興奮させ合い、遠いものは抑制し合う(w_0 < 0 かつ w_1 > |w_0| ならそうなる。\Delta=0 で w_0+w_1>0、\Delta=\pi で w_0-w_1<0)。この結合を「メキシカンハット型」と呼ぶ。
すると、活動が一箇所に山を作った状態が安定になる。しかも山の位置はどこでもよい—結合が角度差にしか依存しないので、山を回転させても同じく安定である。安定な状態がリング状に連続してつながっている。
この構造は、頭方位細胞(head direction cell)の説明として提案されている。ショウジョウバエの中心複合体では、実際にリング状の構造と、その上を動く活動の山が観察されており、連続アトラクターの直接的な証拠と見られている。
連続アトラクターの弱点
連続であることは、弱点でもある。山を動かすのにエネルギーが要らないということは、ノイズでも動いてしまうということだ。
実際、遅延期間が長くなると、記憶された方向が徐々にドリフトすることが知られている。「連続的な値を保持する」ことと「安定に保持する」ことは、トレードオフの関係にある。
ここがポイント
アトラクターは記憶の候補である。離散的なアトラクター(双安定)は頑健だが少数の状態しか保持できず、連続アトラクターは連続量を保持できるがノイズでドリフトする。何を覚えたいかによって、必要な構造が違う。
そして第7章では、この「アトラクターに落ちる」という描像に、エネルギー関数という正確な数学を与える。ホップフィールド・ネットワークである。エネルギーの谷が記憶であり、想起とは谷に転がり落ちることだ—という描像が、証明つきで手に入る。
7. リカレントネットワークとしての見方
最後に、本章の方程式を深層学習の言葉に翻訳しておく。
連続時間 RNN
ウィルソン・コーワン方程式を、集団を2つに限らず N 個に一般化する。
\tau \frac{d\mathbf{r}}{dt} = -\mathbf{r} + F\big(W\mathbf{r} + \mathbf{b}\big)
\mathbf{r} \in \mathbb{R}^N が各集団の活動、W が結合行列である。これが連続時間リカレントニューラルネットワークである。
離散化してみよう。オイラー法で \Delta t = \tau と取ると、
\mathbf{r}_{t+1} = \mathbf{r}_t + \big(-\mathbf{r}_t + F(W\mathbf{r}_t + \mathbf{b})\big) = F(W\mathbf{r}_t + \mathbf{b})
素朴な RNN の更新式そのものである。深層学習で使われる RNN は、ウィルソン・コーワン方程式を粗く離散化したものだ、と言ってよい。
もっと小さい \Delta t を取れば、
\mathbf{r}_{t+1} = (1 - \alpha)\,\mathbf{r}_t + \alpha\, F(W\mathbf{r}_t + \mathbf{b}), \qquad \alpha = \Delta t/\tau
過去の状態を一部残す形になる。これは GRU や LSTM の「ゲート」の原型と見ることができる—ゲートは、この \alpha を入力に応じて変えられるようにしたものだ。
何が違うのか
対応がつくとはいえ、違いもある。
符号の制約。生物のネットワークは Dale の法則に従うが、RNN の W は自由である。この制約を課した RNN も研究されているが、標準的な実装では課さない。
学習則。RNN は誤差逆伝播(時間方向に展開した BPTT)で学習する。生物学的な妥当性は低い(第8章)。
時間スケール。生物では時定数が細胞種ごとに違い、それが階層的な時間スケールを生む。RNN では通常一様である。
リザバー計算
もう一つ、面白い接点がある。リザバー計算(reservoir computing)は、リカレント部分の結合 W をランダムに固定したまま、出力の読み出し重みだけを学習する枠組みである。
なぜこれで動くのか。ランダムなリカレントネットワークは、入力の履歴を高次元の状態に「展開」する。過去の入力の複雑な関数が、状態の線形結合として取り出せる—だから読み出しだけ学習すればよい、という理屈である。
生物学的にも魅力的な発想だ。皮質の局所回路は詳細な結線が個体ごとに違うだろうが、それでも同じような計算ができるなら、結線の詳細は重要でないことになる。
ただしこの主張は、まだ確立していない。リザバーの性能は結合の統計的性質に敏感で、「ランダムでよい」と言い切れるわけではない。そして第11章で扱う「表現の次元」の議論とも関わってくる—リザバーが有用なのは、状態が十分高次元に展開されるからである。
波とモードという別の切り方
ここで一度、本章のやり方そのものを疑ってみよう。
第2節のウィルソン・コーワン方程式も、いま見た RNN も、骨格は同じである。離散した単位を用意し、それらを重みでつなぐ。第2章第7節で述べたニューロン説の描像が、集団の水準にそのまま持ち上がったものだ。そして深層学習が採っている前提も、これと同じ形をしている。
これに対して、皮質を連続した媒質として扱う流儀がある。活動は場所を持った波として書かれ、記述の主役は進行波(travelling wave)になる。多点同時記録が広まってから、感覚野・運動野・高次領野のいずれでも波が観測されるようになった(Muller ら 2018)。
さらに踏み込んだ主張もある。Pang ら (2023) は、ヒトの fMRI 活動が、領野間の複雑な結合から決まるモードよりも、脳の形状が決める共鳴モードでよく説明できると報告した。課題による活動は一つの領野に留まらず、波長 60 mm を超える全脳的なモードを励起しているという。「どこが光るか」で脳機能を語る作法とは、かなり違う絵である。
この立場が正しいかどうかは、まだ決着していない。だが本書にとって大事なのは別の点だ。離散した単位と重み行列という前提は、脳を記述する唯一の切り方ではない。本書はその切り方を採る—採るからこそ脳とAIを同じ式で書けるのだが、採らない道もあることは覚えておいてほしい。
同じ活動を「単位の集まり」として見るか「波」として見るかで、何を説明できたと感じるかは変わってくる。あなたはどちらの絵に納得を覚えるだろうか。
次章へ
ここまでの三章で、我々は微分方程式でニューロンと集団を記述し、固定点・分岐・アトラクターという道具を手に入れた。
次章から話題が変わる—時間発展ではなく、刺激と応答の対応を扱う。ある画像を見せたとき、細胞はどう応じるか。その記述に現れるのが畳み込みであり、これが本書でもっとも息の長い伏線になる。
確認問題
[確認]平均場近似がどんな仮定のもとで正当化されるかを述べよ。また正当化されない状況を二つ挙げよ。(第1節)
[確認]ウィルソン・コーワン方程式の各項の意味を述べよ。とくに重みがすべて非負であり、符号が式に明示されている理由を説明せよ。(第2節)
[確認]「速い正のフィードバック」と「遅い負のフィードバック」が、ウィルソン・コーワン方程式のどの経路に対応するかを述べよ。第2章の活動電位との対応を説明せよ。(第2節・第2章第3節)
[導出]ウィルソン・コーワン方程式のヤコビ行列を導出せよ。F' が入ることの意味を述べよ。(第3節)
[導出]Hopf 分岐で生じる振動の周波数が、時定数からどう決まるかを述べよ。典型的な値を入れると何ヘルツになるか。(第4節)
[導出]リングアトラクターの結合 w(\theta,\theta') = w_0 + w_1\cos(\theta-\theta') が、なぜ連続的な安定状態の集合を生むかを説明せよ。(第6節)
[考える]連続アトラクターの弱点を述べよ。それは離散アトラクターとどんなトレードオフをなすか。(第6節・第7章第2節)
[導出]連続時間 RNN \tau\,d\mathbf{r}/dt = -\mathbf{r} + F(W\mathbf{r}+\mathbf{b}) をオイラー法で離散化し、\Delta t = \tau のとき素朴な RNN の更新式になることを示せ。(第7節)
参考文献
- Wilson, H. R. & Cowan, J. D. (1972) Excitatory and inhibitory interactions in localized populations of model neurons. Biophys J — 本章第2節の原典
- Wilson, H. R. & Cowan, J. D. (2021) Evolution of the Wilson–Cowan equations. Biol Cybern — 半世紀後に本人が書いた回顧。何が意図され何が誤解されたかが分かる
- Strogatz, S. H. (2015) Nonlinear Dynamics and Chaos — 分岐の教科書。第4〜5節で詰まったらここへ
- Rudy, B. et al. (2011) Three groups of interneurons account for nearly 100% of neocortical GABAergic neurons. Dev Neurobiol — 抑制性細胞の三分類[コラム C3]
- Muller, L. et al. (2018) Cortical travelling waves: mechanisms and computational principles. Nat Rev Neurosci — 皮質の活動を波として見る立場の総説[7節]
- Pang, J. C. et al. (2023) Geometric constraints on human brain function. Nature — 脳の形状が決める共鳴モードで活動を説明する。本書が採る「単位と重み」という前提を外から眺めるために[7節・第2章第7節]