第七章 参数估计和假设检验

选择题

单选题李正元练习题·概率论与数理统计选择题

设 $\displaystyle X_1,X_2,\cdots,X_n$ 是取自总体 $\displaystyle X$ 的一个简单随机样本，$\displaystyle DX=\sigma^2$，$\displaystyle \bar X$ 是样本均值，则 $\displaystyle \sigma^2$ 的无偏估计量是

A. $\displaystyle \frac1{n+1}\sum_{i=1}^{n}(X_i-\bar X)^2$；

B. $\displaystyle \frac1n\sum_{i=1}^{n}(X_i-\bar X)^2$；

C. $\displaystyle \frac1{n-1}\sum_{i=1}^{n}(X_i-\bar X)^2$；

D. $\displaystyle \frac1n\sum_{i=1}^{n}(X_i^2-\bar X^2)$。

记

$$\displaystyle S^2=\frac1{n-1}\sum_{i=1}^{n}(X_i-\bar X)^2.$$

由样本离差平方和的期望公式

$$\displaystyle E\left[\sum_{i=1}^{n}(X_i-\bar X)^2\right]=(n-1)\sigma^2,$$

可得

$$\displaystyle E(S^2)=\frac1{n-1}(n-1)\sigma^2=\sigma^2.$$

因此 $\displaystyle S^2$ 是总体方差 $\displaystyle \sigma^2$ 的无偏估计量，故选 C。

对于其他选项：

• A 的期望为

$$\displaystyle \dfrac{n-1}{n+1}\sigma^2\ne\sigma^2,$$

不是无偏估计量。

• B 的期望为

$$\displaystyle \dfrac{n-1}{n}\sigma^2\ne\sigma^2,$$

是有偏估计量。

• D 中

$$\displaystyle \frac1n\sum_{i=1}^{n}(X_i^2-\bar X^2) =\frac1n\sum_{i=1}^{n}X_i^2-\bar X^2 =\frac1n\sum_{i=1}^{n}(X_i-\bar X)^2,$$

与 B 相同，也不是无偏估计量。

单选题李正元练习题·概率论与数理统计选择题

设 $\displaystyle X_1,X_2,\cdots,X_n$ 是取自总体 $\displaystyle X$ 的简单随机样本，记 $\displaystyle EX=\mu,DX=\sigma^2$，$\displaystyle \bar X=\frac1n\sum_{i=1}^{n}X_i$，$\displaystyle S^2=\frac1{n-1}\sum_{i=1}^{n}(X_i-\bar X)^2$，$\displaystyle DS>0$，则

A. $\displaystyle S$ 是 $\displaystyle \sigma$ 的无偏估计；

B. $\displaystyle S^2$ 是 $\displaystyle \sigma^2$ 的无偏估计；

C. $\displaystyle \bar X^2$ 是 $\displaystyle \mu^2$ 的无偏估计；

D. $\displaystyle \frac1{n-1}\sum_{i=1}^{n}X_i^2$ 是 $\displaystyle EX^2$ 的无偏估计。

由样本方差的基本性质，若总体方差存在，则

$$\displaystyle E(S^2)=\sigma^2,$$

所以 $\displaystyle S^2$ 是 $\displaystyle \sigma^2$ 的无偏估计量，B 正确。

对于其他选项：

• A：虽然 $\displaystyle S^2$ 无偏，但一般不能推出 $\displaystyle S$ 对 $\displaystyle \sigma$ 无偏。由于平方根函数为严格凹函数，且题设 $\displaystyle DS>0$，由詹森不等式得

$$\displaystyle E(S)<\sqrt{E(S^2)}=\sigma,$$

因而 $\displaystyle S$ 通常是 $\displaystyle \sigma$ 的有偏估计。

• C：

$$\displaystyle E(\bar X^2)=D(\bar X)+[E(\bar X)]^2 =\dfrac{\sigma^2}{n}+\mu^2\ne\mu^2,$$

所以 $\displaystyle \bar X^2$ 不是 $\displaystyle \mu^2$ 的无偏估计。

• D：由于

$$\displaystyle E\left(\frac1{n-1}\sum_{i=1}^{n}X_i^2\right) =\dfrac{n}{n-1}EX^2\ne EX^2,$$

故不是 $\displaystyle EX^2$ 的无偏估计。

单选题李正元练习题·概率论与数理统计选择题

设 $\displaystyle \bar X$ 是从总体 $\displaystyle X$ 中取出的简单随机样本 $\displaystyle X_1,\cdots,X_n$ 的样本均值，则 $\displaystyle \bar X$ 是 $\displaystyle \mu$ 的矩估计，如果

A. $\displaystyle X\sim N(\mu,\sigma^2)$；

B. $\displaystyle X$ 服从参数为 $\displaystyle \mu$ 的指数分布；

C. $\displaystyle P\{X=m\}=\mu(1-\mu)^{m-1},m=1,2,\cdots$；

D. $\displaystyle X$ 服从 $\displaystyle [0,\mu]$ 上的均匀分布。

矩估计法用样本矩代替相应的总体矩。若只含一个未知参数 $\displaystyle \mu$，通常令

$$\displaystyle \bar X=EX,$$

再解出 $\displaystyle \mu$ 的估计量。

• A：若 $\displaystyle X\sim N(\mu,\sigma^2)$，则

$$\displaystyle EX=\mu.$$

令 $\displaystyle \bar X=\mu$，得到

$$\displaystyle \hat\mu=\bar X.$$

因此 A 正确。

• B：按通常的指数分布参数约定，密度为

$$\displaystyle f(x)=\mu e^{-\mu x},\qquad x>0,$$

则

$$\displaystyle EX=\frac1\mu,$$

所以矩估计量为

$$\displaystyle \hat\mu=\frac1{\bar X},$$

而不是 $\displaystyle \bar X$。

• C：该分布为参数为 $\displaystyle \mu$ 的几何分布，且

$$\displaystyle EX=\frac1\mu,$$

故矩估计量也是 $\displaystyle 1/\bar X$。

• D：若 $\displaystyle X\sim U(0,\mu)$，则

$$\displaystyle EX=\dfrac\mu2,$$

因而

$$\displaystyle \hat\mu=2\bar X.$$

单选题李正元练习题·概率论与数理统计选择题

假设总体 $\displaystyle X$ 的方差 $\displaystyle DX=\sigma^2$ 存在 $\displaystyle (\sigma>0)$，$\displaystyle X_1,\cdots,X_n$ 是取自总体 $\displaystyle X$ 的简单随机样本，其方差为 $\displaystyle S^2$，且 $\displaystyle DS>0$，则

A. $\displaystyle S$ 是 $\displaystyle \sigma$ 的矩估计量；

B. $\displaystyle S$ 是 $\displaystyle \sigma$ 的最大似然估计量；

C. $\displaystyle S$ 是 $\displaystyle \sigma$ 的无偏估计量；

D. $\displaystyle S$ 是 $\displaystyle \sigma$ 的相合（一致）估计量。

样本方差为

$$\displaystyle S^2=\frac1{n-1}\sum_{i=1}^{n}(X_i-\bar X)^2.$$

利用恒等式

$$\displaystyle S^2=\dfrac{n}{n-1}\left(\frac1n\sum_{i=1}^{n}X_i^2-\bar X^2\right),$$

由大数定律，因 $\displaystyle EX^2<\infty$，有

$$\displaystyle \frac1n\sum_{i=1}^{n}X_i^2\xrightarrow{P}EX^2, \qquad \bar X\xrightarrow{P}\mu.$$

于是

$$\displaystyle S^2\xrightarrow{P}EX^2-\mu^2=\sigma^2.$$

又由于平方根函数在 $\displaystyle (0,+\infty)$ 上连续，故由连续映射定理

$$\displaystyle S=\sqrt{S^2}\xrightarrow{P}\sigma.$$

因此 $\displaystyle S$ 是 $\displaystyle \sigma$ 的相合估计量，D 正确。

对于其他选项：

• A：一般矩估计得到的总体标准差估计量为

$$\displaystyle \sqrt{\frac1n\sum_{i=1}^{n}(X_i-\bar X)^2},$$

而不是分母为 $\displaystyle n-1$ 的 $\displaystyle S$。

• B：题目只假设总体方差存在，并未指定总体分布，无法写出统一的似然函数，因此不能断言 $\displaystyle S$ 是最大似然估计量。即使总体正态，$\displaystyle \sigma$ 的最大似然估计量也通常为

$$\displaystyle \sqrt{\frac1n\sum_{i=1}^{n}(X_i-\bar X)^2},$$

不是 $\displaystyle S$。

• C：由 $\displaystyle DS>0$ 及詹森不等式，

$$\displaystyle E(S)<\sqrt{E(S^2)}=\sigma,$$

因而 $\displaystyle S$ 一般不是 $\displaystyle \sigma$ 的无偏估计量。

填空题

填空题李正元练习题·概率论与数理统计填空题

设 $\displaystyle X_1,X_2,\cdots,X_n$ 是取自总体 $\displaystyle X$ 的简单随机样本，$\displaystyle a\sum_{i=1}^{n}X_i^2+b\bar X^2$ 是总体方差 $\displaystyle \sigma^2$ 的无偏估计量，则 $\displaystyle a=\underline{\qquad}$，$\displaystyle b=\underline{\qquad}$。

设总体均值为 $\displaystyle EX=\mu$，则

$$\displaystyle E(X_i^2)=\sigma^2+\mu^2,$$

所以

$$\displaystyle E\left(\sum_{i=1}^{n}X_i^2\right)=n(\sigma^2+\mu^2).$$

又因为

$$\displaystyle E(\bar X)=\mu, \qquad D(\bar X)=\dfrac{\sigma^2}{n},$$

故

$$\displaystyle E(\bar X^2)=\dfrac{\sigma^2}{n}+\mu^2.$$

于是

$$\displaystyle \begin{aligned} E\left(a\sum_{i=1}^{n}X_i^2+b\bar X^2\right) &=an(\sigma^2+\mu^2)+b\left(\dfrac{\sigma^2}{n}+\mu^2\right)\\ &=\left(an+\dfrac bn\right)\sigma^2+(an+b)\mu^2. \end{aligned}$$

要使其对任意 $\displaystyle \mu,\sigma^2$ 都等于 $\displaystyle \sigma^2$，必须有

$$\displaystyle \begin{cases} an+\dfrac bn=1,\\ an+b=0. \end{cases}$$

由第二式得 $\displaystyle b=-an$，代入第一式：

$$\displaystyle an-a=1,$$

因此

$$\displaystyle a=\frac1{n-1}, \qquad b=-\dfrac{n}{n-1}.$$

此时原估计量正好为

$$\displaystyle \frac1{n-1}\sum_{i=1}^{n}X_i^2-\dfrac{n}{n-1}\bar X^2 =\frac1{n-1}\sum_{i=1}^{n}(X_i-\bar X)^2=S^2.$$

填空题李正元练习题·概率论与数理统计填空题

设总体 $\displaystyle X$ 服从 $\displaystyle (a,b)$ 上的均匀分布，$\displaystyle X_1,X_2,\cdots,X_n$ 是取自 $\displaystyle X$ 的简单随机样本，则未知参数 $\displaystyle a,b$ 的矩估计量为 $\displaystyle \hat a=\underline{\qquad}$，$\displaystyle \hat b=\underline{\qquad}$。

若 $\displaystyle X\sim U(a,b)$，则

$$\displaystyle EX=\dfrac{a+b}{2}, \qquad DX=\dfrac{(b-a)^2}{12}.$$

总体二阶原点矩为

$$\displaystyle EX^2=DX+(EX)^2 =\dfrac{(b-a)^2}{12}+\dfrac{(a+b)^2}{4}.$$

矩估计法令总体一阶、二阶原点矩分别等于样本一阶、二阶原点矩，即

$$\displaystyle \dfrac{a+b}{2}=\bar X, \qquad EX^2=\overline{X^2}.$$

由

$$\displaystyle DX=EX^2-(EX)^2$$

可得

$$\displaystyle \dfrac{(b-a)^2}{12}=\overline{X^2}-\bar X^2.$$

因为 $\displaystyle b>a$，所以

$$\displaystyle b-a=\sqrt{12\left(\overline{X^2}-\bar X^2\right)} =2\sqrt{3\left(\overline{X^2}-\bar X^2\right)}.$$

再由

$$\displaystyle a+b=2\bar X,$$

联立解得

$$\displaystyle \hat a=\bar X-\sqrt{3\left(\overline{X^2}-\bar X^2\right)},$$$$\displaystyle \hat b=\bar X+\sqrt{3\left(\overline{X^2}-\bar X^2\right)}.$$

计算题与应用题

主观题李正元练习题·概率论与数理统计计算题与应用题

设总体 $\displaystyle X$ 的概率分布为

$\displaystyle X$	0	1
$\displaystyle P$	$\displaystyle 1-p$	$\displaystyle p$

其中 $\displaystyle p\,(0<p<1)$ 是未知参数，又设 $\displaystyle x_1,x_2,\cdots,x_n$ 是总体 $\displaystyle X$ 的一组样本观测值。

（Ⅰ）试求参数 $\displaystyle p$ 的矩估计量和最大似然估计量；

（Ⅱ）验证相应两个估计量的无偏性。

（Ⅰ）先求矩估计量。由总体分布可得

$$\displaystyle EX=0\cdot(1-p)+1\cdot p=p.$$

矩估计法令总体一阶原点矩等于样本一阶原点矩，即

$$\displaystyle p=\bar X,$$

故

$$\displaystyle \hat p_{\mathrm M}=\bar X.$$

再求最大似然估计量。设样本中取值为 $\displaystyle 1$ 的个数为

$$\displaystyle \sum_{i=1}^{n}x_i,$$

取值为 $\displaystyle 0$ 的个数为

$$\displaystyle n-\sum_{i=1}^{n}x_i.$$

似然函数为

$$\displaystyle L(p)=p^{\sum_{i=1}^{n}x_i}(1-p)^{n-\sum_{i=1}^{n}x_i}.$$

取对数得

$$\displaystyle \ell(p)=\left(\sum_{i=1}^{n}x_i\right)\ln p+ \left(n-\sum_{i=1}^{n}x_i\right)\ln(1-p).$$

对 $\displaystyle p$ 求导：

$$\displaystyle \ell'(p)=\dfrac{\sum_{i=1}^{n}x_i}{p} -\dfrac{n-\sum_{i=1}^{n}x_i}{1-p}.$$

令 $\displaystyle \ell'(p)=0$，得

$$\displaystyle \hat p_{\mathrm{ML}} =\frac1n\sum_{i=1}^{n}x_i =\bar x.$$

又因为对数似然函数在 $\displaystyle 0<p<1$ 内为凹函数，所以该驻点给出最大值。

（Ⅱ）由于 $\displaystyle X_1,\ldots,X_n$ 独立同分布，且 $\displaystyle EX_i=p$，所以

$$\displaystyle E(\hat p)=E(\bar X) =\frac1n\sum_{i=1}^{n}EX_i =p.$$

因此矩估计量和最大似然估计量均为 $\displaystyle p$ 的无偏估计量。

主观题李正元练习题·概率论与数理统计计算题与应用题

设总体 $\displaystyle X$ 的概率密度为

$$\displaystyle f(x;\alpha,\beta)=\begin{cases} \alpha,&-1<x<0,\\ \beta,&0\le x<1,\\ 0,&\text{其他}, \end{cases}$$

其中 $\displaystyle \alpha$ 和 $\displaystyle \beta$ 是未知参数，利用总体 $\displaystyle X$ 的如下样本值

$$\displaystyle -0.5,\ 0.3,\ -0.2,\ -0.6,\ -0.1,\ 0.4,\ 0.5,\ -0.8,$$

求 $\displaystyle \alpha$ 的矩估计值和最大似然估计值。

由于 $\displaystyle f(x;\alpha,\beta)$ 是概率密度，必须满足

$$\displaystyle \int_{-\infty}^{+\infty}f(x;\alpha,\beta)\,dx =\alpha+\beta=1,$$

因此

$$\displaystyle \beta=1-\alpha, \qquad 0<\alpha<1.$$

先求矩估计。总体均值为

$$\displaystyle \begin{aligned} EX &=\int_{-1}^{0}x\alpha\,dx+\int_{0}^{1}x\beta\,dx\\ &=-\dfrac{\alpha}{2}+\dfrac{\beta}{2} =\dfrac{1-2\alpha}{2} =\frac12-\alpha. \end{aligned}$$

令 $\displaystyle EX=\bar X$，得到

$$\displaystyle \hat\alpha_{\mathrm M}=\frac12-\bar X.$$

由给出的样本值，

$$\displaystyle \sum_{i=1}^{8}x_i =-0.5+0.3-0.2-0.6-0.1+0.4+0.5-0.8=-1,$$

故

$$\displaystyle \bar x=-\frac18.$$

于是

$$\displaystyle \hat\alpha_{\mathrm M} =\frac12+\frac18 =\frac58.$$

再求最大似然估计。样本中落在 $\displaystyle (-1,0)$ 内的观测值有 $\displaystyle 5$ 个，落在 $\displaystyle [0,1)$ 内的观测值有 $\displaystyle 3$ 个，因此

$$\displaystyle L(\alpha,\beta)=\alpha^5\beta^3.$$

利用约束 $\displaystyle \beta=1-\alpha$，有

$$\displaystyle L(\alpha)=\alpha^5(1-\alpha)^3.$$

对数似然函数为

$$\displaystyle \ell(\alpha)=5\ln\alpha+3\ln(1-\alpha).$$

求导得

$$\displaystyle \ell'(\alpha)=\frac5\alpha-\frac3{1-\alpha}.$$

令 $\displaystyle \ell'(\alpha)=0$，得到

$$\displaystyle 5(1-\alpha)=3\alpha,$$

故

$$\displaystyle \hat\alpha_{\mathrm{ML}}=\frac58.$$

并且

$$\displaystyle \ell''(\alpha)=-\frac5{\alpha^2}-\frac3{(1-\alpha)^2}<0,$$

所以该驻点确为最大值点。

主观题李正元练习题·概率论与数理统计计算题与应用题

已知总体 $\displaystyle X$ 服从瑞利分布，其密度函数为

$$\displaystyle f(x;\theta)=\begin{cases} \dfrac{x}{\theta}e^{-\frac{x^2}{2\theta}},&x>0,\ \theta>0,\\ 0,&x\le0, \end{cases}$$

$\displaystyle X_1,\cdots,X_n$ 为取自总体 $\displaystyle X$ 的简单随机样本，求 $\displaystyle \theta$ 的矩估计量，并问这个估计量是否为无偏估计量？

瑞利分布的一阶矩为

$$\displaystyle EX=\sqrt{\dfrac{\pi\theta}{2}}.$$

矩估计法令

$$\displaystyle \bar X=\sqrt{\dfrac{\pi\theta}{2}},$$

解得

$$\displaystyle \hat\theta_{\mathrm M}=\dfrac{2}{\pi}\bar X^2.$$

下面判断无偏性。瑞利分布还满足

$$\displaystyle EX^2=2\theta.$$

因此

$$\displaystyle DX=EX^2-(EX)^2 =2\theta-\dfrac{\pi\theta}{2} =\dfrac{4-\pi}{2}\theta.$$

又

$$\displaystyle E(\bar X^2)=D(\bar X)+[E(\bar X)]^2 =\dfrac{DX}{n}+(EX)^2.$$

代入得

$$\displaystyle E(\bar X^2) =\dfrac{4-\pi}{2n}\theta+\dfrac{\pi}{2}\theta.$$

所以

$$\displaystyle \begin{aligned} E(\hat\theta_{\mathrm M}) &=\frac2\pi E(\bar X^2)\\ &=\theta+\dfrac{4-\pi}{\pi n}\theta\\ &=\left(1+\dfrac{4-\pi}{\pi n}\right)\theta. \end{aligned}$$

由于 $\displaystyle 4-\pi>0$，故

$$\displaystyle E(\hat\theta_{\mathrm M})>\theta.$$

因此 $\displaystyle \hat\theta_{\mathrm M}$ 不是无偏估计量，其偏差为

$$\displaystyle \operatorname{Bias}(\hat\theta_{\mathrm M}) =\dfrac{4-\pi}{\pi n}\theta.$$

主观题李正元练习题·概率论与数理统计计算题与应用题

接连不断地、独立地对同一目标射击，直到命中为止，假定共进行了 $\displaystyle n\,(n\ge1)$ 轮这样的射击，各轮射击次数相应为 $\displaystyle k_1,k_2,\cdots,k_n$，试求命中率 $\displaystyle p$ 的最大似然估计值和矩估计值。

设一轮射击直到首次命中所需的射击次数为随机变量 $\displaystyle K$。每次射击相互独立，单次命中概率为 $\displaystyle p$，则 $\displaystyle K$ 服从几何分布：

$$\displaystyle P\{K=k\}=(1-p)^{k-1}p, \qquad k=1,2,\ldots.$$

先求最大似然估计。由样本观测值 $\displaystyle k_1,\ldots,k_n$，似然函数为

$$\displaystyle \begin{aligned} L(p) &=\prod_{i=1}^{n}(1-p)^{k_i-1}p\\ &=p^n(1-p)^{\sum_{i=1}^{n}k_i-n}. \end{aligned}$$

对数似然函数为

$$\displaystyle \ell(p)=n\ln p+ \left(\sum_{i=1}^{n}k_i-n\right)\ln(1-p).$$

求导得

$$\displaystyle \ell'(p)=\dfrac np- \dfrac{\sum_{i=1}^{n}k_i-n}{1-p}.$$

令 $\displaystyle \ell'(p)=0$，可得

$$\displaystyle n(1-p)=p\left(\sum_{i=1}^{n}k_i-n\right),$$

从而

$$\displaystyle \hat p_{\mathrm{ML}} =\dfrac{n}{\sum_{i=1}^{n}k_i}.$$

再求矩估计。几何分布的数学期望为

$$\displaystyle EK=\frac1p.$$

令总体一阶矩等于样本一阶矩：

$$\displaystyle \frac1p=\bar K=\frac1n\sum_{i=1}^{n}K_i,$$

所以

$$\displaystyle \hat p_{\mathrm M}=\frac1{\bar K} =\dfrac{n}{\sum_{i=1}^{n}K_i}.$$

因此最大似然估计与矩估计相同。若所有 $\displaystyle k_i=1$，则估计值为边界值 $\displaystyle \hat p=1$。

主观题李正元练习题·概率论与数理统计计算题与应用题

设 $\displaystyle X$ 服从 $\displaystyle [a,b]$ 上的均匀分布，$\displaystyle X_1,\cdots,X_n$ 为简单随机样本，求 $\displaystyle a,b$ 的最大似然估计量。

总体密度为

$$\displaystyle f(x;a,b)= \begin{cases} \dfrac1{b-a},&a\le x\le b,\\ 0,&\text{其他}, \end{cases} \qquad a<b.$$

因此样本的似然函数为

$$\displaystyle L(a,b) =\frac1{(b-a)^n} \prod_{i=1}^{n}I\{a\le X_i\le b\}.$$

利用次序统计量可写为

$$\displaystyle L(a,b)=\frac1{(b-a)^n} I\{a\le X_{(1)},\ b\ge X_{(n)}\}.$$

要使似然函数非零，参数必须满足

$$\displaystyle a\le X_{(1)}, \qquad b\ge X_{(n)}.$$

在这些约束下，似然函数随区间长度 $\displaystyle b-a$ 的增大而减小。因此应使 $\displaystyle b-a$ 尽可能小，即取

$$\displaystyle a=X_{(1)}, \qquad b=X_{(n)}.$$

故最大似然估计量为

$$\displaystyle \hat a_{\mathrm{ML}}=X_{(1)}, \qquad \hat b_{\mathrm{ML}}=X_{(n)}.$$

主观题李正元练习题·概率论与数理统计计算题与应用题

已知总体 $\displaystyle X$ 的密度函数为

$$\displaystyle f(x;\theta,\beta)=\begin{cases} \frac1{\sqrt\theta}e^{-\frac{x-\beta}{\sqrt\theta}},&x\ge\beta,\ \theta>0,\\ 0,&\text{其他}, \end{cases}$$

其中 $\displaystyle \theta,\beta$ 为未知参数，$\displaystyle X_1,\cdots,X_n$ 为简单随机样本，求 $\displaystyle \theta$ 和 $\displaystyle \beta$ 的矩估计量。

令

$$\displaystyle Y=X-\beta.$$

由题设密度可知，$\displaystyle Y$ 服从参数为 $\displaystyle 1/\sqrt\theta$ 的指数分布，即

$$\displaystyle f_Y(y)=\frac1{\sqrt\theta}e^{-y/\sqrt\theta}, \qquad y\ge0.$$

因此

$$\displaystyle EY=\sqrt\theta, \qquad DY=\theta.$$

从而

$$\displaystyle EX=\beta+\sqrt\theta,$$

并且

$$\displaystyle DX=\theta.$$

总体二阶原点矩为

$$\displaystyle EX^2=DX+(EX)^2 =\theta+(\beta+\sqrt\theta)^2.$$

用样本一阶矩、二阶矩分别代替总体一阶矩、二阶矩，得到矩方程

$$\displaystyle \bar X=\beta+\sqrt\theta,$$$$\displaystyle \overline{X^2} =\theta+(\beta+\sqrt\theta)^2.$$

将第一式代入第二式，得

$$\displaystyle \theta=\overline{X^2}-\bar X^2.$$

于是

$$\displaystyle \hat\theta_{\mathrm M} =\overline{X^2}-\bar X^2 =\frac1n\sum_{i=1}^{n}(X_i-\bar X)^2.$$

再由

$$\displaystyle \beta=EX-\sqrt\theta$$

得到

$$\displaystyle \hat\beta_{\mathrm M} =\bar X-\sqrt{\overline{X^2}-\bar X^2}.$$

这里根号内正是分母为 $\displaystyle n$ 的样本方差，必为非负数。

主观题李正元练习题·概率论与数理统计计算题与应用题

设总体 $\displaystyle X$ 服从韦布尔分布，密度函数为

$$\displaystyle f(x;\theta)=\begin{cases} \theta\alpha x^{\alpha-1}e^{-\theta x^\alpha},&x>0,\\ 0,&x\le0, \end{cases}$$

其中 $\displaystyle \alpha>0$ 为已知，$\displaystyle \theta>0$ 是未知参数，试根据来自 $\displaystyle X$ 的简单随机样本 $\displaystyle X_1,X_2,\cdots,X_n$，求 $\displaystyle \theta$ 的最大似然估计量。

对样本观测值 $\displaystyle x_1,x_2,\ldots,x_n>0$，似然函数为

$$\displaystyle L(\theta) =\prod_{i=1}^{n}\theta\alpha x_i^{\alpha-1} e^{-\theta x_i^\alpha}.$$

整理得

$$\displaystyle L(\theta) =\theta^n\alpha^n \left(\prod_{i=1}^{n}x_i^{\alpha-1}\right) \exp\left(-\theta\sum_{i=1}^{n}x_i^\alpha\right).$$

取对数，得

$$\displaystyle \ell(\theta) =n\ln\theta+n\ln\alpha +(\alpha-1)\sum_{i=1}^{n}\ln x_i -\theta\sum_{i=1}^{n}x_i^\alpha.$$

求导：

$$\displaystyle \ell'(\theta) =\dfrac n\theta-\sum_{i=1}^{n}x_i^\alpha.$$

令 $\displaystyle \ell'(\theta)=0$，得

$$\displaystyle \hat\theta =\dfrac{n}{\sum_{i=1}^{n}x_i^\alpha}.$$

又

$$\displaystyle \ell''(\theta)=-\dfrac n{\theta^2}<0,$$

故该驻点确为对数似然函数的唯一最大值点。因此

$$\displaystyle \hat\theta_{\mathrm{ML}} =\dfrac{n}{\displaystyle\sum_{i=1}^{n}X_i^\alpha}.$$

主观题李正元练习题·概率论与数理统计计算题与应用题

设某种电子器件的寿命（以小时计）$\displaystyle T$ 服从指数分布，概率密度为

$$\displaystyle f(t)=\begin{cases} \lambda e^{-\lambda t},&t>0,\\ 0,&\text{其他}, \end{cases}$$

其中 $\displaystyle \lambda>0$ 未知。现从这批器件中任取 $\displaystyle n$ 只在时刻 $\displaystyle t=0$ 时投入独立寿命试验，试验进行到预定时间 $\displaystyle T_0$ 结束，此时有 $\displaystyle k\,(0<k<n)$ 只器件失效，试求 $\displaystyle \lambda$ 的最大似然估计。

本题只给出在截止时刻 $\displaystyle T_0$ 前失效的器件数 $\displaystyle k$，因此把每只器件是否在 $\displaystyle T_0$ 前失效作为观测结果。

单只器件在 $\displaystyle T_0$ 前失效的概率为

$$\displaystyle p=P(T\le T_0) =1-e^{-\lambda T_0}.$$

未失效的概率为

$$\displaystyle 1-p=P(T>T_0)=e^{-\lambda T_0}.$$

由独立性，失效器件数 $\displaystyle K$ 服从二项分布

$$\displaystyle K\sim B\left(n,1-e^{-\lambda T_0}\right).$$

忽略与 $\displaystyle \lambda$ 无关的组合数，似然函数为

$$\displaystyle L(\lambda) \propto \left(1-e^{-\lambda T_0}\right)^k \left(e^{-\lambda T_0}\right)^{n-k}.$$

令

$$\displaystyle p=1-e^{-\lambda T_0},$$

则二项分布中参数 $\displaystyle p$ 的最大似然估计为

$$\displaystyle \hat p=\dfrac kn.$$

因此

$$\displaystyle 1-e^{-\hat\lambda T_0}=\dfrac kn,$$

即

$$\displaystyle e^{-\hat\lambda T_0}=1-\dfrac kn=\dfrac{n-k}{n}.$$

两边取对数，得到

$$\displaystyle \hat\lambda_{\mathrm{ML}} =-\frac1{T_0}\ln\left(1-\dfrac kn\right) =\frac1{T_0}\ln\dfrac{n}{n-k}.$$

若另外记录了每只失效器件的具体失效时刻，则属于Ⅰ型截尾样本，似然函数及估计式会相应包含这些失效时刻；本题按题目给出的观测信息，仅利用失效总数 $\displaystyle k$。

主观题李正元练习题·概率论与数理统计计算题与应用题

设总体 $\displaystyle X$ 在区间 $\displaystyle [0,\theta]$ 上服从均匀分布，$\displaystyle X_1,X_2,\cdots,X_n$ 是取自总体 $\displaystyle X$ 的简单随机样本，$\displaystyle \bar X=\frac1n\sum_{i=1}^{n}X_i$，$\displaystyle X_{(n)}=\max(X_1,\cdots,X_n)$。

（Ⅰ）求 $\displaystyle \theta$ 的矩估计量和最大似然估计量；

（Ⅱ）求常数 $\displaystyle a,b$，使 $\displaystyle \hat\theta_1=a\bar X$，$\displaystyle \hat\theta_2=bX_{(n)}$ 均为 $\displaystyle \theta$ 的无偏估计，并比较其有效性；

（Ⅲ）应用切比雪夫不等式证明：$\displaystyle \hat\theta_1,\hat\theta_2$ 均为 $\displaystyle \theta$ 的一致性（相合性）估计。

（Ⅰ）矩估计量与最大似然估计量

由于

$$\displaystyle X\sim U(0,\theta),$$

有

$$\displaystyle EX=\dfrac\theta2.$$

令样本一阶矩等于总体一阶矩：

$$\displaystyle \bar X=\dfrac\theta2,$$

得到矩估计量

$$\displaystyle \hat\theta_{\mathrm M}=2\bar X.$$

总体密度为

$$\displaystyle f(x;\theta)= \begin{cases} \dfrac1\theta,&0\le x\le\theta,\\ 0,&\text{其他}. \end{cases}$$

于是似然函数为

$$\displaystyle L(\theta) =\theta^{-n}I\{\theta\ge X_{(n)}\}.$$

当 $\displaystyle \theta\ge X_{(n)}$ 时，$\displaystyle L(\theta)=\theta^{-n}$ 随 $\displaystyle \theta$ 增大而严格减小，因此应取允许的最小值

$$\displaystyle \hat\theta_{\mathrm{ML}}=X_{(n)}.$$

（Ⅱ）无偏化及有效性比较

先求 $\displaystyle a$。由

$$\displaystyle E\bar X=\dfrac\theta2,$$

若 $\displaystyle a\bar X$ 对 $\displaystyle \theta$ 无偏，则

$$\displaystyle a\dfrac\theta2=\theta,$$

所以

$$\displaystyle a=2.$$

再求 $\displaystyle b$。对 $\displaystyle 0\le x\le\theta$，最大次序统计量的分布函数为

$$\displaystyle F_{X_{(n)}}(x) =P(X_1\le x,\ldots,X_n\le x) =\left(\dfrac x\theta\right)^n.$$

因此密度为

$$\displaystyle f_{X_{(n)}}(x) =\dfrac{nx^{n-1}}{\theta^n}, \qquad 0<x<\theta.$$

于是

$$\displaystyle EX_{(n)} =\int_0^\theta x\dfrac{nx^{n-1}}{\theta^n}\,dx =\dfrac{n}{n+1}\theta.$$

若 $\displaystyle bX_{(n)}$ 对 $\displaystyle \theta$ 无偏，则

$$\displaystyle b\dfrac{n}{n+1}\theta=\theta,$$

所以

$$\displaystyle b=\dfrac{n+1}{n}.$$

故两个无偏估计量为

$$\displaystyle \hat\theta_1=2\bar X, \qquad \hat\theta_2=\dfrac{n+1}{n}X_{(n)}.$$

下面比较方差。由于均匀分布的方差为

$$\displaystyle DX=\dfrac{\theta^2}{12},$$

所以

$$\displaystyle D\hat\theta_1 =4D\bar X =4\dfrac{DX}{n} =\dfrac{\theta^2}{3n}.$$

又

$$\displaystyle EX_{(n)}^2 =\int_0^\theta x^2\dfrac{nx^{n-1}}{\theta^n}\,dx =\dfrac{n}{n+2}\theta^2.$$

从而

$$\displaystyle DX_{(n)} =\dfrac{n}{n+2}\theta^2 -\left(\dfrac{n}{n+1}\theta\right)^2 =\dfrac{n\theta^2}{(n+1)^2(n+2)}.$$

于是

$$\displaystyle D\hat\theta_2 =\left(\dfrac{n+1}{n}\right)^2DX_{(n)} =\dfrac{\theta^2}{n(n+2)}.$$

当 $\displaystyle n>1$ 时，

$$\displaystyle \dfrac{\theta^2}{n(n+2)} <\dfrac{\theta^2}{3n},$$

故 $\displaystyle \hat\theta_2$ 的方差更小，因而更有效；当 $\displaystyle n=1$ 时，两者完全相同。

（Ⅲ）一致性证明

对任意 $\displaystyle \varepsilon>0$，由于 $\displaystyle \hat\theta_1$ 无偏，由切比雪夫不等式

$$\displaystyle P\left(\left|\hat\theta_1-\theta\right|\ge\varepsilon\right) \le \dfrac{D\hat\theta_1}{\varepsilon^2} =\dfrac{\theta^2}{3n\varepsilon^2}.$$

当 $\displaystyle n\to\infty$ 时，右端趋于 $\displaystyle 0$，故

$$\displaystyle \hat\theta_1\xrightarrow{P}\theta.$$

同理，由 $\displaystyle \hat\theta_2$ 无偏，

$$\displaystyle P\left(\left|\hat\theta_2-\theta\right|\ge\varepsilon\right) \le \dfrac{D\hat\theta_2}{\varepsilon^2} =\dfrac{\theta^2}{n(n+2)\varepsilon^2} \to0.$$

所以

$$\displaystyle \hat\theta_2\xrightarrow{P}\theta.$$

因此 $\displaystyle \hat\theta_1$ 和 $\displaystyle \hat\theta_2$ 均为 $\displaystyle \theta$ 的一致估计量。

主观题李正元练习题·概率论与数理统计计算题与应用题

设有一批同型号产品，其次品率记为 $\displaystyle p$。现有五位检验员分别从中随机抽取 $\displaystyle n$ 件产品，检测后的次品数分别为 $\displaystyle 1,2,2,3,2$。

（Ⅰ）若已知 $\displaystyle p=2.5\%$，求 $\displaystyle n$ 的矩估计值 $\displaystyle \hat n$；

（Ⅱ）若已知 $\displaystyle n=100$，求 $\displaystyle p$ 的极大似然估计值 $\displaystyle \hat p$；

（Ⅲ）在情况（Ⅱ）下，检验员从该批产品中再随机检测100个产品，试用中心极限定理近似计算其次品数大于3的概率（注：$\displaystyle \Phi(\frac57)=0.76$）。

设第 $\displaystyle i$ 位检验员检出的次品数为 $\displaystyle Y_i$，则

$$\displaystyle Y_i\sim B(n,p), \qquad i=1,2,\ldots,5,$$

且五个随机变量相互独立。样本观测值为

$$\displaystyle 1,2,2,3,2,$$

其样本均值为

$$\displaystyle \bar Y=\dfrac{1+2+2+3+2}{5}=2.$$

（Ⅰ）求 $\displaystyle n$ 的矩估计值

二项分布的数学期望为

$$\displaystyle EY=np.$$

矩估计法令

$$\displaystyle \bar Y=np.$$

已知 $\displaystyle p=2.5\%=0.025$，故

$$\displaystyle \hat n=\dfrac{\bar Y}{p} =\frac2{0.025}=80.$$

（Ⅱ）求 $\displaystyle p$ 的最大似然估计值

当 $\displaystyle n=100$ 时，每位检验员的次品数服从 $\displaystyle B(100,p)$。五位检验员共检查

$$\displaystyle 5\times100=500$$

件产品，共发现

$$\displaystyle 1+2+2+3+2=10$$

件次品。

因此似然函数中与 $\displaystyle p$ 有关的部分为

$$\displaystyle L(p)\propto p^{10}(1-p)^{490}.$$

二项分布中成功概率的最大似然估计为成功频率，因此

$$\displaystyle \hat p=\dfrac{10}{500}=0.02.$$

（Ⅲ）近似计算再次抽检时次品数大于3的概率

将 $\displaystyle p$ 取为估计值 $\displaystyle 0.02$。设再次抽检100件产品时的次品数为 $\displaystyle X$，则

$$\displaystyle X\sim B(100,0.02).$$

其均值和方差分别为

$$\displaystyle EX=np=100\times0.02=2,$$$$\displaystyle DX=np(1-p) =100\times0.02\times0.98 =1.96.$$

故标准差为

$$\displaystyle \sqrt{DX}=1.4.$$

由中心极限定理，

$$\displaystyle \dfrac{X-2}{1.4}$$

近似服从标准正态分布。按题目给出的 $\displaystyle \Phi(5/7)=0.76$ 计算，不作连续性修正，有

$$\displaystyle P(X>3) \approx P\left(\dfrac{X-2}{1.4}>\dfrac{3-2}{1.4}\right).$$

而

$$\displaystyle \dfrac{3-2}{1.4}=\frac57.$$

所以

$$\displaystyle P(X>3) \approx1-\Phi\left(\frac57\right) =1-0.76=0.24.$$

主观题李正元练习题·概率论与数理统计计算题与应用题

假设批量生产的某种配件的内径 $\displaystyle X$ 服从正态分布 $\displaystyle N(\mu,\sigma^2)$，今随机抽取16个配件，测得平均内径 $\displaystyle \bar x=3.05$ 毫米，样本标准差 $\displaystyle s=0.4$ 毫米，试求 $\displaystyle \mu$ 和 $\displaystyle \sigma^2$ 的 $\displaystyle 90\%$ 置信区间。

总体服从正态分布，但总体均值和方差均未知，样本容量为

$$\displaystyle n=16, \qquad \bar x=3.05, \qquad s=0.4, \qquad n-1=15.$$

置信度为 $\displaystyle 1-\alpha=0.90$，故

$$\displaystyle \alpha=0.10, \qquad \dfrac{\alpha}{2}=0.05.$$

（Ⅰ）总体均值 $\displaystyle \mu$ 的置信区间

由于总体方差未知，使用统计量

$$\displaystyle T=\dfrac{\bar X-\mu}{S/\sqrt n}\sim t(n-1)=t(15).$$

查 $\displaystyle t$ 分布表，标准 $\displaystyle t$ 分布的 $\displaystyle 0.95$ 分位数为

$$\displaystyle t_{0.95}(15)\approx1.753.$$

因此 $\displaystyle \mu$ 的 $\displaystyle 90\%$ 置信区间为

$$\displaystyle \left( \bar x-t_{0.95}(15)\dfrac{s}{\sqrt n}, \bar x+t_{0.95}(15)\dfrac{s}{\sqrt n} \right).$$

代入数据，得

$$\displaystyle \dfrac{s}{\sqrt n}=\dfrac{0.4}{4}=0.1,$$

从而

$$\displaystyle \mu\in \left(3.05-1.753\times0.1,\ 3.05+1.753\times0.1\right),$$

即

$$\displaystyle \mu\in(2.8747,\,3.2253).$$

取三位小数可写为

$$\displaystyle \boxed{\mu\in(2.875,\,3.225)\ \text{毫米}}.$$

（Ⅱ）总体方差 $\displaystyle \sigma^2$ 的置信区间

对于正态总体，有

$$\displaystyle \dfrac{(n-1)S^2}{\sigma^2}\sim\chi^2(n-1)=\chi^2(15).$$

设 $\displaystyle \chi^2_p(15)$ 表示自由度为15的卡方分布的 $\displaystyle p$ 分位数。查表得

$$\displaystyle \chi^2_{0.05}(15)\approx7.261, \qquad \chi^2_{0.95}(15)\approx24.996.$$

于是 $\displaystyle \sigma^2$ 的 $\displaystyle 90\%$ 置信区间为

$$\displaystyle \left( \dfrac{(n-1)s^2}{\chi^2_{0.95}(15)}, \dfrac{(n-1)s^2}{\chi^2_{0.05}(15)} \right).$$

由于

$$\displaystyle (n-1)s^2=15\times0.4^2=15\times0.16=2.4,$$

故

$$\displaystyle \sigma^2\in \left( \dfrac{2.4}{24.996}, \dfrac{2.4}{7.261} \right) \approx(0.0960,\,0.3305).$$

因此

$$\displaystyle \boxed{\sigma^2\in(0.0960,\,0.3305)\ \text{毫米}^2}.$$

主观题李正元练习题·概率论与数理统计计算题与应用题

在测量反应时间中假设反应时间服从正态分布，一心理学家估计的标准差是 $\displaystyle 0.05$ 秒。为了以 $\displaystyle 95\%$ 的置信度使他对平均反应时间的估计误差不超过 $\displaystyle 0.01$ 秒，应取的样本容量 $\displaystyle n$ 为多少？

将总体标准差按题给估计值

$$\displaystyle \sigma=0.05$$

处理。对正态总体均值的双侧 $\displaystyle 95\%$ 置信区间，其允许误差为

$$\displaystyle d=z_{1-\alpha/2}\dfrac{\sigma}{\sqrt n}.$$

题中

$$\displaystyle 1-\alpha=0.95, \qquad \alpha=0.05, \qquad z_{0.975}=1.96,$$

并要求误差不超过

$$\displaystyle d=0.01.$$

故应有

$$\displaystyle 1.96\dfrac{0.05}{\sqrt n}\le0.01.$$

整理得

$$\displaystyle \sqrt n\ge\dfrac{1.96\times0.05}{0.01}=9.8,$$

因此

$$\displaystyle n\ge9.8^2=96.04.$$

样本容量必须取整数，并且应向上取整，故

$$\displaystyle \boxed{n=97}.$$

若取 $\displaystyle n=96$，则尚不能保证误差不超过 $\displaystyle 0.01$ 秒，因此不能向下取整。

主观题李正元练习题·概率论与数理统计计算题与应用题

某装置的平均工作温度据制造厂家称低于 $\displaystyle 190^\circ\mathrm C$，今从一个由16台装置构成的随机样本测得工作温度的平均值和标准差分别为 $\displaystyle 195^\circ\mathrm C$ 和 $\displaystyle 8^\circ\mathrm C$，根据这些数据能否支持厂家结论？设 $\displaystyle \alpha=0.05$，并假定工作温度近似服从正态分布。

设装置工作温度总体的均值为 $\displaystyle \mu$。厂家声称

$$\displaystyle \mu<190.$$

为检验该结论，可建立左侧检验

$$\displaystyle H_0:\mu\ge190, \qquad H_1:\mu<190.$$

由于总体近似服从正态分布、总体方差未知，使用单样本 $\displaystyle t$ 检验。检验统计量为

$$\displaystyle T=\dfrac{\bar X-\mu_0}{S/\sqrt n}, \qquad \mu_0=190.$$

在临界边界 $\displaystyle \mu=190$ 下，

$$\displaystyle T\sim t(n-1)=t(15).$$

由题给数据

$$\displaystyle n=16, \qquad \bar x=195, \qquad s=8,$$

得到统计量观测值

$$\displaystyle t=\dfrac{195-190}{8/\sqrt{16}} =\frac5{8/4} =\frac52 =2.5.$$

显著性水平为 $\displaystyle \alpha=0.05$。左侧检验的拒绝域为

$$\displaystyle T<-t_{0.95}(15).$$

查表得

$$\displaystyle t_{0.95}(15)\approx1.753,$$

故拒绝域为

$$\displaystyle T<-1.753.$$

而样本统计量

$$\displaystyle t=2.5>-1.753,$$

没有落入拒绝域，因此不能拒绝原假设 $\displaystyle H_0$，也就没有充分证据说明

$$\displaystyle \mu<190.$$

事实上，样本均值 $\displaystyle 195^\circ\mathrm C$ 高于 $\displaystyle 190^\circ\mathrm C$。若进一步进行右侧检验

$$\displaystyle H_0:\mu\le190, \qquad H_1:\mu>190,$$

则

$$\displaystyle t=2.5>t_{0.95}(15)=1.753,$$

会拒绝 $\displaystyle H_0$，表明数据反而支持平均工作温度高于 $\displaystyle 190^\circ\mathrm C$。

因此，依据该样本数据，厂家的结论不能得到支持。