2 公式の導き方 ── 数理の「幹」をたどる
この章は、講義で扱った主要な公式が 「なぜ・どこから出てくるのか」 を、順を追って確かめるためのものです。 公式を丸暗記するのではなく、少数の道具からすべてが枝分かれしているという見取り図を持ち、短い式変形で自分の手で再現できることを目標にしてください。これは試験のための要点集ではなく、講義全体を数理の側から深く理解するための副教材です。
各節はおおむね「① 直感（何を言いたいか）→ ② 準備（使う道具）→ ③ 導出（式変形）→ ④ 確認（具体例）」の順です（節によっては一部を省きます）。式変形は1行ずつ、右側の理由とあわせて追ってください。
0. 準備：記号と3つの道具
確率変数とは何か ── 普通の変数との違い
これから出てくる式には、X や \bar X といった文字がくり返し登場します。これらは中学・高校で習った「普通の変数」とは 意味が違う ので、まずここをはっきりさせておきます。ここがあいまいなままだと、E[X] や P(X=x) という記号が何を言っているのか分からなくなります。
普通の変数 x：方程式 x+3=5 の x のように、「まだ分からないが、本当は1つに決まっている数」を表す入れもの。解けば x=2 という1つの値に確定します。値は1つです。
確率変数 X：サイコロを振って出る目のように、「値が偶然によって決まる量」。振る前は値が1つに決まっておらず、1,2,3,4,5,6 の どれもが起こりうる。確率変数とは1つの数ではなく、「とりうる値の全体」と「それぞれの値の起こりやすさ」をセットで持った量だと考えてください。
この違いを、記号の 大文字・小文字 で書き分けます。
- 大文字 X … 確率変数そのもの（偶然で値が決まる「量」）。
- 小文字 x … その確率変数が とりうる具体的な値の1つ（普通の数）。
表記 P(X=x) の読み方
すると、講義でくり返し出てきた P(X=x) は、「確率変数 X が、具体的な値 x をとる確率」と読みます。ここで X（大文字）は偶然で揺れる量、x（小文字）はそこに代入する1つの数で、両者の役割はまったく違います。たとえばサイコロなら P(X=3)=\frac{1}{6} は「出る目 X が、ちょうど 3 という値になる確率は 1/6」という意味です。P(X=x) 全体は 1つの数（確率） になります。
よくある混同：P(X=x) を「P(X) が x に等しい」と読んではいけません。正しくは X=x（X が値 x をとる）という出来事の確率 です。X は揺れる量、x は代入する値、と分けて読むのがコツです。
確率変数には確率分布が対応する
x を動かしながら P(X=x) をすべて並べたもの ── これが 確率分布 です。確率分布こそが、その確率変数の「正体」をすべて語ります。
| x | 1 | 2 | 3 | 4 | 5 | 6 |
|---|---|---|---|---|---|---|
| P(X=x) | 1/6 | 1/6 | 1/6 | 1/6 | 1/6 | 1/6 |
確率分布は必ず次を満たします（確率の決まりごと）： P(X=x)\ge 0,\qquad \sum_{x} P(X=x)=1. 「どの確率も0以上」「ぜんぶ足すと1（必ずどれかは起こる）」というだけのことです。
確率変数 → 確率分布 という対応が、この章全体の土台です。期待値 E[X] も分散 \text{Var}(X) も、結局は「確率変数 X の確率分布から計算される値」にすぎません。実際、次の道具1の期待値の式 E[X]=\sum_i x_i\,P(X=x_i) は、上の表の「値 x」と「その確率 P(X=x)」を掛けて足しているだけです。
（連続の確率変数では、1点をとる確率は0になるため P(X=x) ではなく 確率密度関数 f(x) で分布を表し、和を積分に置きかえます。詳しくは「確率分布のまとめ」を参照。）
和の記号 \sum（シグマ）
\sum_{i=1}^{n} x_i = x_1 + x_2 + \cdots + x_n 「i を1からnまで動かして、ぜんぶ足す」という意味です。
道具1：期待値（平均）の定義
確率変数 X が値 x_1,x_2,\dots をそれぞれ確率 P(X=x_i) でとるとき、 E[X] = \sum_i x_i\, P(X=x_i) これは「値 × その値が出る確率」を全部足したもの、つまり 重みつきの平均です。 （連続変数のときは和が積分になります： E[X]=\int_{-\infty}^{\infty} x\, f(x)\,dx。f は確率密度関数。）
道具2：分散の定義
\text{Var}(X) = E\big[(X-\mu)^2\big]\qquad(\mu = E[X]) 「平均からのズレ (X-\mu) を2乗して、その平均をとったもの」。ばらつきの大きさを表します。2乗するのは、プラスのズレとマイナスのズレが打ち消し合わないようにするためです。 標準偏差は \text{SD}(X)=\sqrt{\text{Var}(X)}。
道具3：期待値の線形性（最重要）
E[aX+b] = aE[X] + b,\qquad E[X+Y] = E[X]+E[Y] - 定数倍 a は外に出せる、定数 b はそのまま足せる。 - 2つの確率変数の和の期待値は、期待値の和（これは X,Y が独立でなくても成り立つ）。
この3つの道具だけで、以下のほとんどの公式が導けます。
記号の約束：観測された具体的な標本平均は小文字 \bar{x}、確率変数として標本ごとに揺れる標本平均は大文字 \bar{X} と書き分けます（母平均 \mu は未知の定数）。
1. 分散の計算公式 \text{Var}(X) = E[X^2] - (E[X])^2
① 直感：定義どおり「ズレの2乗の平均」を計算するのは面倒です。これを「2乗の平均」から「平均の2乗」を引くだけ、という計算しやすい形に書き換えます。
③ 導出：\mu=E[X] は 定数 であることに注意して、期待値の線形性を使います。 \begin{aligned} \text{Var}(X) &= E\big[(X-\mu)^2\big] \\ &= E\big[X^2 - 2\mu X + \mu^2\big] &&\textsf{(2乗を展開)}\\ &= E[X^2] - 2\mu\,E[X] + \mu^2 &&\textsf{(線形性：}\mu\textsf{は定数なので外へ)}\\ &= E[X^2] - 2\mu\cdot\mu + \mu^2 &&\text{(}E[X]=\mu\text{)}\\ &= E[X^2] - \mu^2 = E[X^2] - (E[X])^2. \end{aligned}
④ 確認：X が 0,1,2,3 を確率 0.1, 0.3, 0.4, 0.2 でとるとき E[X]=0.3+0.8+0.6=1.7、E[X^2]=0.3+1.6+1.8=3.7。 \text{Var}(X)=3.7-1.7^2=3.7-2.89=0.81。
2. スケール変換の公式 \text{Var}(aX+b) = a^2\,\text{Var}(X)
① 直感：全体を a 倍に引き伸ばすとばらつきは a^2 倍に。定数 b を足しても全体が平行移動するだけで、ばらつきは変わらない（これが b が消える理由）。
③ 導出：Y=aX+b とおく。まず E[Y]=aE[X]+b=a\mu+b。 \begin{aligned} \text{Var}(aX+b) &= E\big[(Y-E[Y])^2\big] \\ &= E\big[(aX+b-a\mu-b)^2\big] \\ &= E\big[(a(X-\mu))^2\big] &&\text{(}b\textsf{ が打ち消す)}\\ &= E\big[a^2 (X-\mu)^2\big] \\ &= a^2\, E\big[(X-\mu)^2\big] = a^2\,\text{Var}(X). \end{aligned}
④ 確認：Zスコア Z=\dfrac{X-\mu}{\sigma} は a=1/\sigma,\ b=-\mu/\sigma の変換。 だから \text{Var}(Z)=\dfrac{1}{\sigma^2}\text{Var}(X)=\dfrac{\sigma^2}{\sigma^2}=1、E[Z]=0。 → 標準化すると平均0・標準偏差1になることが式から確認できます。
3. 独立な和の分散 \text{Var}(X+Y) = \text{Var}(X)+\text{Var}(Y)
① 直感：期待値はいつでも足せますが、分散が足せるのは2つが独立なときです。互いに無関係な揺れは、足しても打ち消し合いも増幅もしない、というイメージです。
③ 導出のあらすじ：\text{Var}(X+Y)=\text{Var}(X)+\text{Var}(Y)+2\,\text{Cov}(X,Y) という関係があり、X,Y が独立なら共分散 \text{Cov}(X,Y)（第11節で定義します）が 0 になるため、 \text{Var}(X+Y)=\text{Var}(X)+\text{Var}(Y). 一般に n 個の独立な確率変数では \text{Var}\!\left(\sum_{i=1}^n X_i\right)=\sum_{i=1}^n \text{Var}(X_i).
この「独立な和の分散＝分散の和」は、次の二項分布と標準誤差の導出で主役になります。
4. 二項分布の期待値と分散 E[X]=np,\quad \text{Var}(X)=np(1-p)
コインを n 回投げて表の回数 X を数える ― この X が従うのが 二項分布（成功確率 p のベルヌーイ試行を n 回くり返したときの成功回数）です。分布の形そのものは「確率分布のまとめ」第2・3節で扱いますが、平均と分散だけなら、分布の式を知らなくても「1回ごとにバラして足す」だけで求まります。
① 直感：コインを n 回投げて表の回数を数える―これを「1回ごとの結果」にバラして考えます。各回は「表＝1点／裏＝0点」のゲーム（ベルヌーイ試行）で、これを n 回足したものが X です。
② 準備：i 回目の結果を X_i とする（表なら X_i=1、裏なら X_i=0、表の確率 p）。 X = X_1 + X_2 + \cdots + X_n.
③ 導出： 1回あたりの期待値と分散をまず求める： E[X_i] = 1\cdot p + 0\cdot(1-p) = p, E[X_i^2] = 1^2\cdot p + 0^2\cdot(1-p) = p \ \Rightarrow\ \text{Var}(X_i)=E[X_i^2]-(E[X_i])^2 = p-p^2 = p(1-p). あとは足し合わせる： - 期待値（線形性）：\displaystyle E[X]=\sum_{i=1}^n E[X_i]=np. - 分散（各回は独立 → 独立な和の分散）：\displaystyle \text{Var}(X)=\sum_{i=1}^n \text{Var}(X_i)=np(1-p).
④ 確認：n=10,\ p=0.3 なら E[X]=3、\text{Var}(X)=10\cdot0.3\cdot0.7=2.1。
5. 標準誤差（SEM） \displaystyle \text{SEM}=\frac{\sigma}{\sqrt{n}}
① 直感：標本平均 \bar{X} は、たくさんのデータを平均することで個々の揺れがならされるため、1個のデータよりばらつきが小さくなります。どれだけ小さくなるかを表すのが標準誤差です。
② 準備：X_1,\dots,X_n は独立で、それぞれ分散 \sigma^2。標本平均は \bar{X}=\frac{1}{n}\sum_{i=1}^n X_i.
③ 導出：分散のスケール公式（第2節）と独立な和の分散（第3節）を順に使う。 \begin{aligned} \text{Var}(\bar{X}) &= \text{Var}\!\left(\frac{1}{n}\sum_{i=1}^n X_i\right) \\ &= \frac{1}{n^2}\,\text{Var}\!\left(\sum_{i=1}^n X_i\right) &&\big(\text{Var}(aX)=a^2\text{Var}(X),\ a=1/n\big)\\ &= \frac{1}{n^2}\sum_{i=1}^n \text{Var}(X_i) &&\textsf{(独立な和の分散)}\\ &= \frac{1}{n^2}\cdot n\sigma^2 = \frac{\sigma^2}{n}. \end{aligned} よって標準偏差をとって \text{SD}(\bar{X})=\sqrt{\frac{\sigma^2}{n}}=\frac{\sigma}{\sqrt{n}}=\text{SEM}.
④ 確認：\sigma=15,\ n=25 なら \text{SEM}=15/\sqrt{25}=15/5=3。 n を4倍（100人）にすると SEM は半分（15/10=1.5）に。精度を2倍にするには標本を4倍必要、という \sqrt{n} の効果が見えます。
ちなみに E[\bar{X}]=\dfrac{1}{n}\sum E[X_i]=\dfrac{1}{n}\cdot n\mu=\mu。標本平均は平均的には母平均に一致します（不偏性）。
6. 「平均」はどこから来るか：二乗誤差の最小化
① 直感：「データ＝モデル＋誤差」で、モデルを1つの代表値 m にするとき、誤差の2乗和をいちばん小さくする m が平均値です。これが「平均は最小二乗の意味で最良の代表値」という主張です。
③ 導出：誤差2乗和を m の関数とみる： S(m)=\sum_{i=1}^n (x_i-m)^2. m で微分して0とおく（最小値の条件）： \frac{dS}{dm}=\sum_{i=1}^n 2(x_i-m)\cdot(-1)=-2\sum_{i=1}^n (x_i-m)=0. \Rightarrow\ \sum_{i=1}^n x_i = nm \ \Rightarrow\ m=\frac{1}{n}\sum_{i=1}^n x_i=\bar{x}. （微分を使わない場合：S(m) は m の2次関数で下に凸なので、頂点が最小。同じ答えになります。）
④ 補足：誤差の 絶対値の和 \sum|x_i-m| を最小にするのは中央値です。だから外れ値に強い代表値がほしいときは中央値を使います。
7. 最尤推定 ── 「データが最も起こりやすい」パラメータを選ぶ
① 直感：手元のデータ D を最もうまく説明するパラメータ \theta を選びたい。「うまく説明する」を 「その \theta のもとで、いま観測したデータがいちばん出やすい」 と読みかえるのが 最尤推定（maximum likelihood estimation） です。ここで「データの出やすさ」p(D\mid\theta) は、データが 離散 なら確率、連続 なら確率密度を指します（連続変数では1点をとる確率は0なので、確率そのものではなく密度で測ります ― 「確率分布のまとめ」§1）。この出やすさを \theta の関数とみたものが 尤度（likelihood） L(\theta)=p(D\mid\theta) で、これを最大にする \theta を 最尤推定値 \hat\theta とよびます。第1章のベイズの定理に出てきた尤度と同じものを、ここでは \theta を動かして最大化する対象として使います。
② 準備：データが独立なら、尤度は各点の出やすさ（確率または確率密度）の積になります。 L(\theta)=\prod_{i=1}^n p(x_i\mid\theta). 積のままでは微分しにくいので、単調増加な対数をとって 対数尤度 \ell(\theta)=\ln L(\theta)=\sum_i \ln p(x_i\mid\theta) に直します。対数は最大になる場所を変えないので、\ell(\theta) を最大にする \hat\theta を探せば十分です。あとは §6 と同じ「微分して0」です。
③ 導出（例1：コイン）：表が出る確率 \theta のコインを n 回投げ、k 回表が出たとします。尤度は L(\theta)=\theta^{k}(1-\theta)^{n-k}、対数尤度は \ell(\theta)=k\ln\theta+(n-k)\ln(1-\theta). \theta で微分して0とおくと \frac{k}{\theta}-\frac{n-k}{1-\theta}=0\ \Rightarrow\ \hat\theta=\frac{k}{n}. 最尤推定値は素直に 標本比率 です（第4章のコイン例で「7/10 は最尤推定値」と述べたのは、これのことです）。
③ 導出（例2：正規分布 ＝ 最小二乗法）：x_1,\dots,x_n が平均 \mu・分散 \sigma^2 の正規分布から得られたとします。1点の確率密度は p(x\mid\mu,\sigma^2)=\dfrac{1}{\sqrt{2\pi\sigma^2}}\exp\!\Big(-\dfrac{(x-\mu)^2}{2\sigma^2}\Big) なので、対数尤度は \ell(\mu,\sigma^2)=-\frac{n}{2}\ln(2\pi\sigma^2)-\frac{1}{2\sigma^2}\sum_{i=1}^n (x_i-\mu)^2. まず \mu について最大化します。\mu を含む項は末尾の -\dfrac{1}{2\sigma^2}\sum_i(x_i-\mu)^2 だけで、係数 -\dfrac{1}{2\sigma^2} は負ですから、\ell を \mu について最大にすることは \sum_i(x_i-\mu)^2 を最小にすることとまったく同じです。これは §6 でみた二乗誤差の最小化そのもの ― したがって \hat\mu=\bar{x}. 「正規分布を仮定した最尤推定」は「最小二乗法」に一致するのです。§6 で「平均は二乗誤差を最小にする代表値」として求めた平均値が、ここでは「正規誤差のもとで最も尤もらしいパラメータ」として同じ答えで現れます。別々の原理が同じ式に落ち合う ― これが本書でくり返し出会う「幹」の一例です。
次に \sigma^2 について最大化すると（\ell を \sigma^2 で微分して0）、 \hat{\sigma}^2=\frac{1}{n}\sum_{i=1}^n (x_i-\bar{x})^2 となり、n で割った分散が出ます（n-1 ではありません）。最尤推定の手続きに素直に従うと、自然にこの形になります。ただしこの \hat\sigma^2 は母分散 \sigma^2 を平均として やや小さめに見積もる（下向きの 偏り をもつ）ことが知られています。偏差を真の母平均 \mu ではなく手元の \bar x を基準に測るぶん、平方和が小さめに出るためです。この偏りをちょうど打ち消すように、分母を n-1 に取り替えたものが次節の 不偏分散 です ― つまり n-1 の側が「補正のために調整した」量で、最尤推定はあくまで素直な結果です。その導出は §8 で扱います。
④ 注意：最尤推定は頻度主義の代表的な推定法で、パラメータを「未知の定数」とみて、それを1点に推定します。一方ベイズは \theta に事前分布を置き、事後分布全体を得ます（第4章）。両者は無縁ではなく、事前分布を一様（無情報）にとると、事後分布を最大にする点（MAP 推定）は最尤推定値に一致します。第4章でコインの事後の最頻値 0.7 が標本比率 7/10 と一致したのは、この関係の現れです。
8. なぜ分散は n-1 で割るのか（不偏分散）
① 直感：標本のばらつきから母集団のばらつき \sigma^2 を推定したい。ところが偏差を測る基準に「真の母平均 \mu」ではなく「手元の標本平均 \bar{x}」を使うと、第6節のとおり \bar{x} は二乗和を最小にする点なので、ズレが少なめに見積もられます。これを補正するため、n ではなく n-1 で割って少し大きくします。以下、これを式で確かめます。
② 準備：X_1,\dots,X_n は独立で、母平均 \mu・母分散 \sigma^2 をもつとします。標本平均を \bar{X}=\frac1n\sum_i X_i とおきます。証明では次の3つを使います。
- 期待値の線形性： E\!\left[\sum_i Z_i\right]=\sum_i E[Z_i]
- 各データの定義から： E\big[(X_i-\mu)^2\big]=\text{Var}(X_i)=\sigma^2
- 標本平均の分散（第5節で導出済み）： E\big[(\bar{X}-\mu)^2\big]=\text{Var}(\bar{X})=\dfrac{\sigma^2}{n}
③ 証明：偏差平方和 \sum_i (X_i-\bar X)^2 を、\mu を経由して展開するのが鍵です。各項に -\mu+\mu を差し込んで X_i-\bar X=(X_i-\mu)-(\bar X-\mu) と分け、2乗を展開します。 \begin{aligned} \sum_{i=1}^n (X_i-\bar X)^2 &= \sum_{i=1}^n \big[(X_i-\mu)-(\bar X-\mu)\big]^2\\ &= \sum_{i=1}^n (X_i-\mu)^2 \;-\; 2(\bar X-\mu)\sum_{i=1}^n (X_i-\mu) \;+\; n(\bar X-\mu)^2. \end{aligned} ここで真ん中の和は、\sum_i (X_i-\mu)=\big(\sum_i X_i\big)-n\mu=n\bar X-n\mu=n(\bar X-\mu) なので、 -2(\bar X-\mu)\cdot n(\bar X-\mu)=-2n(\bar X-\mu)^2. これを代入すると、最後の2項が -2n(\bar X-\mu)^2+n(\bar X-\mu)^2=-n(\bar X-\mu)^2 にまとまり、 \sum_{i=1}^n (X_i-\bar X)^2 = \sum_{i=1}^n (X_i-\mu)^2 \;-\; n(\bar X-\mu)^2.
ここがポイント：基準を母平均 \mu から標本平均 \bar X に取り替えると、偏差平方和はちょうど n(\bar X-\mu)^2 だけ小さくなる。第6節「\bar X は二乗和を最小にする点」が、この引き算として目に見える形で現れています。
両辺の期待値をとり、準備の3つを使います。 \begin{aligned} E\!\left[\sum_{i=1}^n (X_i-\bar X)^2\right] &= \sum_{i=1}^n \underbrace{E\big[(X_i-\mu)^2\big]}_{=\,\sigma^2} \;-\; n\,\underbrace{E\big[(\bar X-\mu)^2\big]}_{=\,\sigma^2/n}\\ &= n\sigma^2 \;-\; n\cdot\frac{\sigma^2}{n} \;=\; n\sigma^2-\sigma^2 \;=\; (n-1)\,\sigma^2. \end{aligned}
したがって n-1 で割れば期待値がちょうど \sigma^2 になります（これが不偏性の定義）： \boxed{\;E\!\left[\frac{1}{n-1}\sum_{i=1}^n (X_i-\bar X)^2\right]=\sigma^2.\;} もし n で割っていたら期待値は \dfrac{n-1}{n}\sigma^2 となり、真の値より系統的に小さくなってしまいます。 \blacksquare
④ 確認：因子 \dfrac{n-1}{n} は n=2 で 0.5（2倍も過小！）、n=10 で 0.9、n=100 で 0.99。標本が小さいほど補正が効き、大きくなると n と n-1 の差は無視できる、という直感どおりの振る舞いです。
用語の整理：母分散は母集団全体の大きさ N で割る（道具2の定義を有限母集団で書いたもの）、標本から母分散を推定する不偏分散は n-1 で割る。Rの
var()・sd()は n-1 版を返します。「割る数を1つ減らした」のは、\bar X を使った時点で自由に動けるデータの数（自由度）が1つ減ることの現れ、とも説明されます（\sum_i(X_i-\bar X)=0 という1本の縛りが入るため）。
9. 条件付き確率とベイズの定理
① 直感：モデルから計算できるのは「原因 → 結果」という順向きの確率です。しかし本当に知りたいのは、結果を見たあとで「原因は何だったか」を推し量る逆向きの確率。この2つの橋渡しをするのがベイズの定理です。
② 準備（条件付き確率の定義）： P(A\mid B)=\frac{P(A\cap B)}{P(B)}\quad\Longleftrightarrow\quad P(A\cap B)=P(A\mid B)\,P(B). （最後の形が乗法定理。「両方起こる＝Bが起こり、その上でAが起こる」。）
③ ベイズの定理の導出：同じ P(A\cap B) を2通りに書くと P(A\mid B)\,P(B)=P(A\cap B)=P(B\mid A)\,P(A). 両辺を P(B) で割って \boxed{\,P(A\mid B)=\frac{P(B\mid A)\,P(A)}{P(B)}\,} 分母 P(B) は、A が起こる場合と起こらない場合に分けて（全確率の定理） P(B)=P(B\mid A)P(A)+P(B\mid \bar A)P(\bar A).
④ 確認（検査の例）：A=「病気」、B=「陽性」。 有病率 P(A)=0.01、感度 P(B\mid A)=0.99、偽陽性率 P(B\mid\bar A)=0.05。 P(B)=0.99\times0.01+0.05\times0.99=0.0099+0.0495=0.0594, P(A\mid B)=\frac{0.0099}{0.0594}\approx0.167\ (16.7\%). 感度が高くても、有病率が低いと陽性的中率は低い―この「直感とのズレ」がベイズの定理の要点です。
10. 検定統計量と信頼区間
① 直感：標本平均 \bar{x} は母平均 \mu のまわりで SEM の幅で揺れます。だから「\bar{x} と仮説の値 \mu_0 の差」を「揺れの単位（SEM）」で測れば、差が何個分の揺れにあたるかがわかります。これが検定統計量です。
検定統計量（z または t）： z=\frac{\bar{x}-\mu_0}{\text{SEM}}=\frac{\bar{x}-\mu_0}{\sigma/\sqrt{n}}. （母標準偏差 \sigma が未知で標本から推定した場合は t 統計量とよび、t 分布を使います。）
信頼区間（95%）：標本平均が母平均から \pm1.96\,\text{SEM} の範囲に95%の確率で入ることを逆に読むと、母平均の95%信頼区間は \bar{x}\ \pm\ 1.96\times\text{SEM}. （\sigma 未知のときは 1.96 を t 分布の臨界値 t_{\text{crit}} に置き換える。）
④ 確認：\bar{x}=165,\ \text{SEM}=3 のとき - 仮説 \mu_0=160 に対し z=(165-160)/3=5/3\approx1.67。|1.67|<1.96 なので有意水準5%で棄却されない。 - 95%信頼区間：165\pm1.96\times3=[159.12,\ 170.88]。
解釈の注意：信頼区間は「同じ手続きを繰り返すと95%の区間が母平均を含む」という意味。母平均は定数で、ランダムなのは区間の方です。
11. 相関係数と回帰係数
共分散と相関係数：2変数が一緒に動く度合いを測る。 \text{Cov}(X,Y)=E\big[(X-\mu_X)(Y-\mu_Y)\big]=E[XY]-E[X]E[Y], r=\frac{\text{Cov}(X,Y)}{\sigma_X\,\sigma_Y}. \sigma_X\sigma_Y で割って単位を消した量で、コーシー・シュワルツの不等式 |\text{Cov}(X,Y)|\le\sigma_X\sigma_Y から、必ず -1\le r\le 1 に収まります。
回帰直線の傾き（最小二乗）：y=a+bx で誤差2乗和 \sum (y_i-a-bx_i)^2 を最小にすると b=\frac{\text{Cov}(X,Y)}{\text{Var}(X)},\qquad a=\bar{y}-b\bar{x}. どうやって出すか（偏微分 → 0）：変数が a,b の2つあるので、第6節の「微分して0」を注目する変数ごとに行います。誤差2乗和 S(a,b)=\sum_i (y_i-a-bx_i)^2 を、a と b のそれぞれで偏微分（他方は定数とみなして微分）し、ゼロと置きます。 \frac{\partial S}{\partial a}=-2\sum_i(y_i-a-bx_i)=0,\qquad \frac{\partial S}{\partial b}=-2\sum_i x_i(y_i-a-bx_i)=0. この2本の一次方程式（正規方程式）を解いたものが上の a,b です。変数が何個に増えても手続きは同じ ― 「二乗和を、注目する変数で偏微分してゼロになる点を取る」。これが最小二乗法の計算のすべてです。直線は必ず点 (\bar{x},\bar{y}) を通ります。
行列でまとめる ── デザイン行列と疑似逆行列：説明変数が何本に増えても、線形モデルは \mathbf{y}=X\boldsymbol{\beta}+\boldsymbol{\varepsilon} という1本の式にまとめられます。X は観測を行に・説明変数を列に並べた デザイン行列（切片は「1 を並べた列」として入れる）、\boldsymbol{\beta} は係数を並べたベクトルです。誤差2乗和 \|\mathbf{y}-X\boldsymbol{\beta}\|^2 を \boldsymbol{\beta} の各成分で偏微分してゼロと置くと、正規方程式 X^\top X\boldsymbol{\beta}=X^\top\mathbf{y} が得られ、その解は \hat{\boldsymbol{\beta}}=(X^\top X)^{-1}X^\top\mathbf{y}=X^{+}\mathbf{y}. ここで X^{+} は 疑似逆行列（ムーア・ペンローズ逆行列） と呼ばれる「逆行列の代わり」です（X は縦長で普通の逆行列をもたないが、列が一次独立なら X^{+}=(X^\top X)^{-1}X^\top）。t検定・分散分析・重回帰は、デザイン行列 X の作り方が違うだけで（「統計の重要ポイント」ポイント12）、解はすべてこの1本の式から出ます。R の lm() が中でやっているのも、本質的にはこの計算です。
まとめ：導出の「幹」
ほとんどの公式は、次の3本の幹から枝分かれします。
- 期待値の線形性 E[aX+b]=aE[X]+b → 分散の公式 E[X^2]-(E[X])^2、二項分布の E[X]=np
- 分散のスケール公式と独立な和の分散 \text{Var}(aX)=a^2\text{Var}(X)、\text{Var}(\sum X_i)=\sum\text{Var}(X_i) → 二項分布の np(1-p)、標準誤差 \sigma/\sqrt{n}
- 2乗和の最小化（微分して0） → 平均、回帰直線の傾き
この3本さえ手が動けば、講義に出てくる公式の大半は自分で再現できます。まずは第1・2・4・5節を、何も見ずに最後まで書けるようになることを目指してください。「公式を覚える」のではなく「幹から導ける」状態が、統計を数理として理解したということです。