矩生成函數

在概率論和統計學中，一個實數值隨機變量的動差母函數（moment-generating function）又稱動差生成函數，矩亦被稱作动差，矩生成函數是其概率分佈的一種替代規範。 因此，與直接使用概率密度函數或累積分佈函數相比，它為分析結果提供了替代途徑的基礎。 對於由隨機變量的加權和定義的分佈的矩生成函數，有特別簡單的結果。 然而，並非所有隨機變量都具有矩生成函數。

顧名思義，矩生成函數可用於計算分佈的矩：關於 0 的第$n$個矩是矩生成函數的第$n$階導數，在 0 處求值。

除了實值分佈（單變量分佈），矩生成函數可以定義為向量或矩陣值的隨機變量，甚至可以擴展到更一般的情況。

與特徵函數不同，一個實數值分佈的矩生成函數並不總是存在。 分佈的矩生成函數的行為與分佈的性質之間存在關係，例如矩的存在。

定義

隨機變數$X$的動差母函數定義為：

$M_{X}(t)=\mathbb {E} \left(e^{tX}\right),\quad t\in \mathbb {R}$

前提是这个期望值存在。

计算

如果$X$具有连续概率密度函数$f(x)$，则它的動差母函數由下式给出：

$M_{X}(t)=\int _{-\infty }^{\infty }e^{tx}f(x)\,\mathrm {d} x$

$=\int _{-\infty }^{\infty }\left(1+tx+{\frac {t^{2}x^{2}}{2!}}+\cdots \right)f(x)\,\mathrm {d} x$

$=1+tm_{1}+{\frac {t^{2}m_{2}}{2!}}+\cdots$

其中$m_{i}$是第$i$阶矩。$M_{X}(-t)$是$f(x)$的双边拉普拉斯变换。

不管概率分布是不是连续，矩生成函数都可以用黎曼-斯蒂尔吉斯积分给出：

$M_{X}(t)=\int _{0}^{1}e^{tx}\,dF(x)$

其中$F$是累积分布函数。

如果$X_{1},X_{2},\ldots ,X_{n}$是一系列独立的随机变量，且

$S_{n}=\sum _{i=1}^{n}a_{i}X_{i}$

其中$a_{i}$是常数，则$S_{n}$的概率密度函数是每一个$X_{i}$的概率密度函数的卷积，而$S_{n}$的矩生成函数则为：

$M_{S_{n}}(t)=M_{X_{1}}(a_{1}t)M_{X_{2}}(a_{2}t)\cdots M_{X_{n}}(a_{n}t)$　。

对于分量为实数的向量值随机变量X，矩生成函数为：

$M_{X}(\mathbf {t} )=\operatorname {E} \left(e^{\langle \mathbf {t} ,\mathbf {X} \rangle }\right)$

其中$\mathbf {t}$是一个向量，$\langle \mathbf {t} ,\mathbf {X} \rangle$ 是数量积。

意义

只要矩生成函数在$t=0$周围的开区间存在，第$n$个矩为：

$\operatorname {\mathbb {E} } \left(X^{n}\right)=M_{X}^{(n)}(0)=\left.{\frac {\mathrm {d} ^{n}M_{X}(t)}{\mathrm {d} t^{n}}}\right|_{t=0}$　。

如果矩生成函数在这个区间内是有限的，则它唯一决定了一个概率分布。

一些其它在概率论中常见的积分变换也与矩生成函数有关，包括特征函数以及概率生成函数。

累积量生成函数是矩生成函数的对数。

例子

下面是一些矩生成函數和特徵函數的例子，用於比較。 可以看出，特徵函數是矩生成函數$M_{X}(t)$存在時的威克轉動（Wick rotation）。

分布	矩生成函數 $M_{X}(t)$	特徵函數 $\varphi (t)$
退化 $\delta _{a}$	$e^{ta}$	$e^{ita}$
伯努利 $P(X=1)=p$	$1-p+pe^{t}$	$1-p+pe^{it}$
幾何 $(1-p)^{k-1}\,p$	${\frac {pe^{t}}{1-(1-p)e^{t}}}$ $\forall t<-\ln(1-p)$	${\frac {pe^{it}}{1-(1-p)\,e^{it}}}$
二項式 $B(n,p)$	$\left(1-p+pe^{t}\right)^{n}$	$\left(1-p+pe^{it}\right)^{n}$
负二项 $\operatorname {NB} (r,p)$	$\left({\frac {p}{1-e^{t}+pe^{t}}}\right)^{r},t<-\log(1-p)$	$\left({\frac {p}{1-e^{it}+pe^{it}}}\right)^{r}$
卜瓦松 $\operatorname {Pois} (\lambda )$	$e^{\lambda (e^{t}-1)}$	$e^{\lambda (e^{it}-1)}$
均勻(連續型) $\operatorname {U} (a,b)$	${\frac {e^{tb}-e^{ta}}{t(b-a)}}$	${\frac {e^{itb}-e^{ita}}{it(b-a)}}$
均勻(離散型) $\operatorname {DU} (a,b)$	${\frac {e^{at}-e^{(b+1)t}}{(b-a+1)(1-e^{t})}}$	${\frac {e^{ait}-e^{(b+1)it}}{(b-a+1)(1-e^{it})}}$
拉普拉斯 $L(\mu ,b)$	${\frac {e^{t\mu }}{1-b^{2}t^{2}}},~\left\vert t\right\vert <{\frac {1}{b}}$	${\frac {e^{it\mu }}{1+b^{2}t^{2}}}$
正态 $N(\mu ,\sigma ^{2})$	$e^{t\mu +{\frac {1}{2}}\sigma ^{2}t^{2}}$	$e^{it\mu -{\frac {1}{2}}\sigma ^{2}t^{2}}$
卡方(Chi-squared) $\chi _{k}^{2}$	$(1-2t)^{-{\frac {k}{2}}}$	$(1-2it)^{-{\frac {k}{2}}}$
Noncentral chi-squared $\chi _{k}^{2}(\lambda )$	$e^{\frac {\lambda t}{1-2t}}(1-2t)^{-{\frac {k}{2}}}$	$e^{i\lambda t/(1-2it)}(1-2it)^{-{\frac {k}{2}}}$
伽玛(Gamma) $\Gamma (k,\theta )$	$(1-t\theta )^{-k},~\forall t<{\tfrac {1}{\theta }}$	$(1-it\theta )^{-k}$
指数(Exponential) $\operatorname {Exp} (\lambda )$	$\left(1-t\lambda ^{-1}\right)^{-1},~t<\lambda$	$\left(1-it\lambda ^{-1}\right)^{-1}$
多元正态 $N(\mathbf {\mu } ,\mathbf {\Sigma } )$	$e^{\mathbf {t} ^{\mathrm {T} }\left({\boldsymbol {\mu }}+{\frac {1}{2}}\mathbf {\Sigma t} \right)}$	$e^{\mathbf {t} ^{\mathrm {T} }\left(i{\boldsymbol {\mu }}-{\frac {1}{2}}{\boldsymbol {\Sigma }}\mathbf {t} \right)}$
柯西(Cauchy) $\operatorname {Cauchy} (\mu ,\theta )$	不存在	$e^{it\mu -\theta |t|}$
Multivariate Cauchy $\operatorname {MultiCauchy} (\mu ,\Sigma )$	不存在	$\!\,e^{i\mathbf {t} ^{\mathrm {T} }{\boldsymbol {\mu }}-{\sqrt {\mathbf {t} ^{\mathrm {T} }{\boldsymbol {\Sigma }}\mathbf {t} }}}$

参见

• 主動差
• 動差
• 阶乘矩生成函数
• 速率函数