■πとeの話(その13)
【1】標本平均の漸近分布(中心極限定理)
正規分布に限らず,独立な確率変数xiがいずれも同一の平均値μと分散σ^2をもつような任意の分布に対して,その標本平均の確率分布はn→∞の極限で正規分布N(μ,σ^2/n)になります.
一様分布についてはすでに証明したごとくですが,とくに,(x1+x2+・・・+xn)/√nの分散がnにより変化しないことを利用すると,キュムラント母関数を使って比較的簡単に証明できます.
===================================
つぎに,特性関数を利用して,正規分布からの標本平均の分布を調べてみます.
x1,x2,・・・,xnが互いの独立で同じ正規分布N(μ,σ^2)に従うとき,標本平均(x1+x2+・・・+xn)/nの特性関数は,
[φ(t/n)]^n=[exp(iμt/n-σ2t2/2n2)]^n=exp(iμt-σ2/nt2/2)
したがって,これはN(μ,σ^2/n)の正規分布そのものです.
φ(t)=1-t^2/2+・・・
n→∞のとき
[φ(t/n)]^n=[1-t^2/2n+・・・]^n→exp(-t2/2)
と正規分布の特性関数に一致するとしてもよいでしょう.
===================================
【2】中心極限定理が成り立たない分布
一方,x1,x2,・・・,xnがすべて同じコーシー分布:f(x)=1/π・α/(α2+(x-μ)2)に従うとき,コーシー分布の特性関数はφ(t)=exp(iμt-α|t|)ですから,標本平均の特性関数は,
[φ(t/n)]^n=[exp(iμt/n-α|t/n|)]^n=exp(iμt-α|t|)
すなわち,もとの分布とまったく同じです.このことはコーシー分布に従う変量を測定するとき,何回測定を繰り返したとしても,分散は小さくならないことを意味しています.
この結果から,コーシー分布に従う変数については中心極限定理が成立しないことがわかります.ほとんどすべての分布に対して,中心極限定理は成り立つのですが,コーシー分布のように分散が無限大になる分布に対しては適用できないのです.
===================================
【3】特性関数
積率母関数の欠点は,積率をもたないコーシー分布やブラウンノイズ関数などに対しては積率母関数が定義されないということです.そこで,複素関数を導入して,h(x)=exp(itx)としたものが特性関数です.
φ(t)=E[exp(itx)]=∫(-∞,∞)f(t)exp(itx)dt
フーリエ変換のカーネルはh(x)=exp(-itx)(exp(-i2πtx)とされることもある)ですから,特性関数は1種のフーリエ変換(+iフーリエ変換)と考えることができます.
また,上式において,exp(itx)にオイラーの公式
exp(itx)=cos(tx)+isin(tx)
を適用すると,特性関数は次のように表現できます.
φ(t)=∫(-∞,∞)f(t)cos(tx)dt+i∫(-∞,∞)f(t)sin(tx)dt
正規分布N(μ,σ2)の積率母関数は,M(t)=exp(μt+σ2t2/2)ですから,その特性関数はexp(iμt-σ2t2/2)となります.また,特性関数はすべての確率分布に対して存在し,コーシー分布の特性関数はexp(iμt-|t|σ)と表されます.
また,畳み込みのフーリエ変換はフーリエ変換の単なる積になりますから,畳込みの特性関数はそれぞれの分布の特性関数の積
φx+y(t)=φx(t)*φy(t)
で表されます.また,差の分布の特性関数は,
φx-y(t)=φx(t)*φy(-t)
で表されます.積率に関しても,積率母関数と同様なことは特性関数でもいえて,
φ(t)=Σμ'r(it)^r/r!
μ'r=(-i)^rd(r)φ/dt(r)|t=0
が示されます.
(例題)特性関数も積率母関数同様に和の分布を求めるときなど利用されていますが,ここでは,区間(0,1)の一様分布の特性関数が
φ(t)=exp(it/2)sin(t/2)/(t/2)
(exp(it)-1)/it
となることを利用して,一様乱数ri(0−1)をn個合計したものの分布が,n→∞の極限で正規分布になることを示してみましょう.
一様乱数をn個の合計のしたものの分布の特性関数は
[φ(t)]^n=exp(int/2){sin(t/2)/(t/2)}^n
一方,シンク関数
sinx/x=Σ(-1)^mx^2m/(2m+1)!=1−1/3!x^2 +1/5!x^4 −・・・
の解が±π,±2π,±3π,±4π,・・・となることを利用して,無限積表示すると
sinx/x=(1-x2/π2)(1-x2/4π2)(1-x2/9π2)(1-x2/16π2)・・・=Π(1-x2/k2π2)
kが大きいとき
(1-x2/k2π2)〜exp(-x2/k2π2)
Π(1-x2/k2π2)〜exp(-x2/π2Σ1/k2)
ここで,(Σ1/k2=π2/6)より
Π(1-x2/k2π2)〜exp(-x2/6)
これより,
{sin(t/2)/(t/2)}^n→exp(-nt2/24)
ですから,
[φ(t)]^n→exp(int/2-nt2/24)
正規分布N(μ,σ2)の特性関数はexp(iμt-σ2t2/2)ですから,この結果はn個の独立した一様乱数の和の分布は平均値n/2,分散n/12の正規分布に近づくことを示しています.
これは,一様分布の場合について中心極限定理を示したものであって,任意の確率分布については中心極限定理参照のこと.
(例題)ラプラス分布の特性関数はコーシー分布
コーシー分布の特性関数はラプラス分布
三角分布の特性関数はアノン分布
アノン分布の特性関数は三角分布
【補】(1+x/n)^n→exp(x)
【補】(Σ1/k2=π2/6=ζ(2))
sinx/x=1-1/6x2+120x4-・・・(ベキ級数表示)
また,
sinx/x=Π(1-x2/k2π2) (無限積表示)
=1-1/π2(Σ1/k2)x2+・・・
の両辺を比較することにより(Σ1/k2=π2/6)(Σ1/k4=π4/90)が計算される.Σ1/k2はゼータ関数ζ(2)に,Σ1/k4はゼータ関数ζ(4)に相当する.
===================================