8.1 矩估计与最大似然估计

小题

1. 【2021-3-5 分】 设总体 $X$ 的概率分布为 $P\{X=1\}=\frac{1-\theta }{2}$，$P\{X=2\}=P\{X=3\}=\frac{1+\theta }{4}$，利用来自总体的样本值 $1,3,2,2,1,3,1,2$，可得 $\theta$ 的最大似然估计值为（ ）

A. $\frac{1}{4}$    B. $\frac{3}{8}$    C. $\frac{1}{2}$    D. $\frac{5}{8}$

查看答案与解析

答案： A，即 $\hat{\theta }=\frac{1}{4}$。

解析： 样本中取值 $1,2,3$ 的次数分别为

$$n_1=3,n_2=3,n_3=2.$$

因此似然函数为

$$L(\theta )={\left(\frac{1-\theta }{2}\right)}^3{\left(\frac{1+\theta }{4}\right)}^5.$$

取对数得

$$\ell (\theta )=3\ln (1-\theta )+5\ln (1+\theta )-3\ln 2-5\ln 4.$$

求导：

$${\ell }^{\prime }(\theta )=-\frac{3}{1-\theta }+\frac{5}{1+\theta }.$$

令 ${\ell }^{\prime }(\theta )=0$，则

$$5(1-\theta )=3(1+\theta ),$$

从而

$$\hat{\theta }=\frac{1}{4}.$$

并且

$${\ell }^{\prime \prime }(\theta )=-\frac{3}{(1-\theta {)}^2}-\frac{5}{(1+\theta {)}^2}<0,$$

故该驻点确为最大值点。其余选项均不满足似然方程。

---

2. 【1991-4-5 分】 设总体 $X$ 的概率密度为

$$p(x,\lambda )=\{\begin{array}{ll}\lambda a{x}^{a-1}{e}^{-\lambda x^a},& x>0,\\ 0,& x\le 0,\end{array}$$

其中 $\lambda >0$ 是未知参数，$a>0$ 是已知参数。试根据来自总体 $X$ 的简单随机样本 $X_1,X_2,\cdots ,X_n$ 求 $\lambda$ 的最大似然估计量 $\hat{\lambda }$。

查看答案与解析

答案：

$$\hat{\lambda }=\frac{n}{{\sum }_{i=1}^n{X}_i^a}.$$

解析： 当所有样本值均大于 $0$ 时，似然函数为

$$\begin{array}{rl}L(\lambda )& =\prod _{i=1}^n\lambda a{X}_i^{a-1}{e}^{-\lambda X_i^a}\\ & ={\lambda }^n{a}^n\prod _{i=1}^n{X}_i^{a-1}\exp \left(-\lambda \sum _{i=1}^n{X}_i^a\right).\end{array}$$

对数似然函数为

$$\ell (\lambda )=n\ln \lambda +n\ln a+(a-1)\sum _{i=1}^n\ln X_i-\lambda \sum _{i=1}^n{X}_i^a.$$

求导并令其为零：

$${\ell }^{\prime }(\lambda )=\frac{n}{\lambda }-\sum _{i=1}^n{X}_i^a=0,$$

得到

$$\hat{\lambda }=\frac{n}{{\sum }_{i=1}^n{X}_i^a}.$$

又

$${\ell }^{\prime \prime }(\lambda )=-\frac{n}{{\lambda }^2}<0,$$

故它是唯一的最大似然估计量。

---

3. 【1997-1-5 分】 设总体 $X$ 的概率密度为

$$f(x)=\{\begin{array}{ll}(\theta +1)x^{\theta },& 0<x<1,\\ 0,& \text{其他},\end{array}$$

$\theta >-1$ 是未知参数，$X_1,X_2,\cdots ,X_n$ 是来自总体 $X$ 的一个容量为 $n$ 的简单随机样本，分别用矩估计法和极大似然估计法求 $\theta$ 的估计量。

查看答案与解析

答案： 矩估计量为

$${\hat{\theta }}_{\mathrm{M}}=\frac{2\bar{X}-1}{1-\bar{X}};$$

最大似然估计量为

$${\hat{\theta }}_{\mathrm{ML}}=-\frac{n}{{\sum }_{i=1}^n\ln X_i}-1.$$

解析： （1）矩估计法

总体一阶原点矩为

$$\begin{array}{rl}E(X)& ={\int }_0^{1}x(\theta +1)x^{\theta }dx\\ & =(\theta +1){\int }_0^1{x}^{\theta +1}dx\\ & =\frac{\theta +1}{\theta +2}.\end{array}$$

令总体一阶矩等于样本一阶矩：

$$\frac{\theta +1}{\theta +2}=\bar{X}.$$

解得

$${\hat{\theta }}_{\mathrm{M}}=\frac{2\bar{X}-1}{1-\bar{X}}.$$

（2）最大似然估计法

似然函数为

$$L(\theta )=(\theta +1{)}^n\prod _{i=1}^n{X}_i^{\theta },\theta >-1.$$

对数似然函数为

$$\ell (\theta )=n\ln (\theta +1)+\theta \sum _{i=1}^n\ln X_i.$$

求导并令其为零：

$${\ell }^{\prime }(\theta )=\frac{n}{\theta +1}+\sum _{i=1}^n\ln X_i=0.$$

因此

$${\hat{\theta }}_{\mathrm{ML}}=-\frac{n}{{\sum }_{i=1}^n\ln X_i}-1.$$

由于 $0<X_i<1$，故 $\sum _{i=1}^n\ln X_i<0$；同时

$${\ell }^{\prime \prime }(\theta )=-\frac{n}{(\theta +1{)}^2}<0,$$

所以所得驻点为最大值点。

---

4. 【2002-3-3 分】 设总体 $X$ 的概率密度为

$$f(x;\theta )=\{\begin{array}{ll}{e}^{-(x-\theta )},& x\ge \theta ,\\ 0,& x<\theta ,\end{array}$$

而 $X_1,X_2,\cdots ,X_n$ 是来自总体 $X$ 的简单随机样本，则未知参数 $\theta$ 的矩估计量为多少？

查看答案与解析

答案：

$${\hat{\theta }}_{\mathrm{M}}=\bar{X}-1.$$

解析： 令 $Y=X-\theta$，则 $Y$ 服从参数为 $1$ 的指数分布，因此

$$E(Y)=1.$$

故

$$E(X)=\theta +E(Y)=\theta +1.$$

矩估计法令 $E(X)=\bar{X}$，于是

$$\theta +1=\bar{X},$$

所以

$${\hat{\theta }}_{\mathrm{M}}=\bar{X}-1.$$

大题

1. 【2002-1-7 分】 设总体 $X$ 的概率分布为

$X$	$0$	$1$	$2$	$3$
$P$	${\theta }^2$	$2\theta (1-\theta )$	${\theta }^2$	$1-2\theta$

其中 $\theta \left(0<\theta <\frac{1}{2}\right)$ 是未知参数，利用总体 $X$ 的如下样本值：$3,1,3,0,3,1,2,3$，求 $\theta$ 的矩估计值和最大似然估计值。

查看答案与解析

答案： 矩估计值为

$${\hat{\theta }}_{\mathrm{M}}=\frac{1}{4};$$

最大似然估计值为

$${\hat{\theta }}_{\mathrm{ML}}=\frac{7-\sqrt{13}}{12}.$$

解析： （1）矩估计

总体均值为

$$\begin{array}{rl}E(X)& =0\cdot {\theta }^2+1\cdot 2\theta (1-\theta )+2{\theta }^2+3(1-2\theta )\\ & =3-4\theta .\end{array}$$

样本均值为

$$\bar{x}=\frac{3+1+3+0+3+1+2+3}{8}=2.$$

令 $E(X)=\bar{x}$，得到

$$3-4\theta =2,$$

故

$${\hat{\theta }}_{\mathrm{M}}=\frac{1}{4}.$$

（2）最大似然估计

样本中 $0,1,2,3$ 出现的次数分别为 $1,2,1,4$，故似然函数为

$$\begin{array}{rl}L(\theta )& =({\theta }^2{)}^1[2\theta (1-\theta ){]}^2({\theta }^2{)}^1(1-2\theta {)}^4\\ & =4{\theta }^6(1-\theta {)}^2(1-2\theta {)}^4,0<\theta <\frac{1}{2}.\end{array}$$

对数似然函数为

$$\ell (\theta )=\ln 4+6\ln \theta +2\ln (1-\theta )+4\ln (1-2\theta ).$$

求导并令其为零：

$${\ell }^{\prime }(\theta )=\frac{6}{\theta }-\frac{2}{1-\theta }-\frac{8}{1-2\theta }=0.$$

整理得

$$6(1-\theta )(1-2\theta )-2\theta (1-2\theta )-8\theta (1-\theta )=0,$$

即

$$6-28\theta +24{\theta }^2=0,$$

也就是

$$12{\theta }^2-14\theta +3=0.$$

解得

$$\theta =\frac{7\pm \sqrt{13}}{12}.$$

由于参数范围为 $0<\theta <\frac{1}{2}$，只有

$${\hat{\theta }}_{\mathrm{ML}}=\frac{7-\sqrt{13}}{12}$$

符合要求。又似然函数在区间两端趋于 $0$，因此该内部驻点给出最大值。

---

2. 【1999-1-6 分】 设总体 $X$ 的概率密度为

$$f(x)=\{\begin{array}{ll}\frac{6x}{{\theta }^3}(\theta -x),& 0<x<\theta ,\\ 0,& \text{其他},\end{array}$$

$X_1,X_2,\cdots ,X_n$ 是取自总体 $X$ 的简单随机样本。

（1）求 $\theta$ 的矩估计量 $\hat{\theta }$；

（2）求 $\hat{\theta }$ 的方差 $D(\hat{\theta })$。

查看答案与解析

答案：

$$\hat{\theta }=2\bar{X},D(\hat{\theta })=\frac{{\theta }^2}{5n}.$$

解析： 先求总体的一阶矩：

$$\begin{array}{rl}E(X)& ={\int }_0^{\theta }x\cdot \frac{6x}{{\theta }^3}(\theta -x)dx\\ & =\frac{6}{{\theta }^3}{\int }_0^{\theta }(\theta x^2-x^3)dx\\ & =\frac{6}{{\theta }^3}\left(\frac{{\theta }^4}{3}-\frac{{\theta }^4}{4}\right)\\ & =\frac{\theta }{2}.\end{array}$$

令 $E(X)=\bar{X}$，得到矩估计量

$$\hat{\theta }=2\bar{X}.$$

为求其方差，再计算二阶矩：

$$\begin{array}{rl}E(X^2)& ={\int }_0^{\theta }{x}^2\cdot \frac{6x}{{\theta }^3}(\theta -x)dx\\ & =\frac{6}{{\theta }^3}{\int }_0^{\theta }(\theta x^3-x^4)dx\\ & =\frac{6}{{\theta }^3}\left(\frac{{\theta }^5}{4}-\frac{{\theta }^5}{5}\right)\\ & =\frac{3{\theta }^2}{10}.\end{array}$$

所以

$$D(X)=E(X^2)-[E(X){]}^2=\frac{3{\theta }^2}{10}-\frac{{\theta }^2}{4}=\frac{{\theta }^2}{20}.$$

由于样本独立同分布，

$$D(\bar{X})=\frac{D(X)}{n}=\frac{{\theta }^2}{20n}.$$

故

$$D(\hat{\theta })=D(2\bar{X})=4D(\bar{X})=\frac{{\theta }^2}{5n}.$$

---

3. 【2000-1-8 分】 设某种元件的使用寿命 $X$ 的概率密度为

$$f(x,\theta )=\{\begin{array}{ll}2e^{-2(x-\theta )},& x\ge \theta ,\\ 0,& x<\theta ,\end{array}$$

其中 $\theta >0$ 为未知参数，又设 $x_1,x_2,\cdots ,x_n$ 是 $X$ 的一组样本观测值，求参数 $\theta$ 的最大似然估计值。

查看答案与解析

答案：

$${\hat{\theta }}_{\mathrm{ML}}=x_{(1)}=\min \{x_1,x_2,\cdots ,x_n\}.$$

解析： 记 $x_{(1)}=\min \{x_1,x_2,\cdots ,x_n\}$。似然函数为

$$\begin{array}{rl}L(\theta )& =\prod _{i=1}^{n}2e^{-2(x_i-\theta )}I(\theta \le x_i)\\ & =2^n\exp \left(-2\sum _{i=1}^n{x}_i+2n\theta \right)I(0<\theta \le x_{(1)}).\end{array}$$

在可行区间 $0<\theta \le x_{(1)}$ 内，$L(\theta )$ 随 $\theta$ 单调增加，因此在右端点取得最大值，故

$${\hat{\theta }}_{\mathrm{ML}}=x_{(1)}.$$

关键知识点是：当参数同时决定密度函数的支撑区间时，最大似然估计往往由样本极值给出，不能只对对数似然函数机械求导。

---

4. 【2004-3-13 分】 设随机变量 $X$ 的分布函数为

$$F(x;\alpha ,\beta )=\{\begin{array}{ll}1-{\left(\frac{\alpha }{x}\right)}^{\beta },& x>\alpha ,\\ 0,& x\le \alpha ,\end{array}$$

其中参数 $\alpha >0$，$\beta >1$。设 $X_1,X_2,\cdots ,X_n$ 为来自总体 $X$ 的简单随机样本。

（1）当 $\alpha =1$ 时，求未知参数 $\beta$ 的矩估计量；

（2）当 $\alpha =1$ 时，求未知参数 $\beta$ 的最大似然估计量；

（3）当 $\beta =2$ 时，求未知参数 $\alpha$ 的最大似然估计量。

查看答案与解析

答案： （1）

$${\hat{\beta }}_{\mathrm{M}}=\frac{\bar{X}}{\bar{X}-1};$$

（2）

$${\hat{\beta }}_{\mathrm{ML}}=\frac{n}{{\sum }_{i=1}^n\ln X_i};$$

（3）

$${\hat{\alpha }}_{\mathrm{ML}}=X_{(1)}=\min \{X_1,X_2,\cdots ,X_n\}.$$

解析： 由分布函数求导可得概率密度

$$f(x;\alpha ,\beta )=\{\begin{array}{ll}\frac{\beta {\alpha }^{\beta }}{x^{\beta +1}},& x>\alpha ,\\ 0,& x\le \alpha .\end{array}$$

（1）当 $\alpha =1$ 时，

$$\begin{array}{rl}E(X)& ={\int }_1^{+\infty }x\cdot \frac{\beta }{x^{\beta +1}}dx\\ & =\beta {\int }_1^{+\infty }{x}^{-\beta }dx\\ & =\frac{\beta }{\beta -1}.\end{array}$$

令 $E(X)=\bar{X}$，则

$$\bar{X}=\frac{\beta }{\beta -1},$$

解得

$${\hat{\beta }}_{\mathrm{M}}=\frac{\bar{X}}{\bar{X}-1}.$$

（2）当 $\alpha =1$ 时，似然函数为

$$L(\beta )={\beta }^n\prod _{i=1}^n{X}_i^{-(\beta +1)},\beta >1.$$

对数似然函数为

$$\ell (\beta )=n\ln \beta -(\beta +1)\sum _{i=1}^n\ln X_i.$$

令

$${\ell }^{\prime }(\beta )=\frac{n}{\beta }-\sum _{i=1}^n\ln X_i=0,$$

得到

$${\hat{\beta }}_{\mathrm{ML}}=\frac{n}{{\sum }_{i=1}^n\ln X_i}.$$

并且

$${\ell }^{\prime \prime }(\beta )=-\frac{n}{{\beta }^2}<0,$$

故这是极大值点。若严格要求参数空间 $\beta >1$，则应在参数空间内比较；通常真样本下所得值按题目标准写成上述形式。

（3）当 $\beta =2$ 时，似然函数为

$$L(\alpha )=2^n{\alpha }^{2n}\prod _{i=1}^n{X}_i^{-3}I(0<\alpha \le X_{(1)}).$$

在 $0<\alpha \le X_{(1)}$ 内，$L(\alpha )$ 随 $\alpha$ 单调增加，故

$${\hat{\alpha }}_{\mathrm{ML}}=X_{(1)}.$$

---

5. 【2004-1-9 分】 设总体 $X$ 的分布函数为

$$F(x;\beta )=\{\begin{array}{ll}1-\frac{1}{x^{\beta }},& x>1,\\ 0,& x\le 1,\end{array}$$

其中 $\beta >1$。设 $X_1,X_2,\cdots ,X_n$ 为来自总体 $X$ 的简单随机样本，求：

（1）$\beta$ 的矩估计量；

（2）$\beta$ 的最大似然估计量。

查看答案与解析

答案：

$${\hat{\beta }}_{\mathrm{M}}=\frac{\bar{X}}{\bar{X}-1},{\hat{\beta }}_{\mathrm{ML}}=\frac{n}{{\sum }_{i=1}^n\ln X_i}.$$

解析： 由分布函数可得概率密度

$$f(x;\beta )=\{\begin{array}{ll}\frac{\beta }{x^{\beta +1}},& x>1,\\ 0,& x\le 1.\end{array}$$

（1）矩估计

由于 $\beta >1$，总体均值存在，且

$$\begin{array}{rl}E(X)& ={\int }_1^{+\infty }x\cdot \frac{\beta }{x^{\beta +1}}dx\\ & =\beta {\int }_1^{+\infty }{x}^{-\beta }dx\\ & =\frac{\beta }{\beta -1}.\end{array}$$

令 $E(X)=\bar{X}$，解得

$${\hat{\beta }}_{\mathrm{M}}=\frac{\bar{X}}{\bar{X}-1}.$$

（2）最大似然估计

似然函数为

$$L(\beta )=\prod _{i=1}^n\frac{\beta }{X_i^{\beta +1}}={\beta }^n\prod _{i=1}^n{X}_i^{-(\beta +1)}.$$

对数似然函数为

$$\ell (\beta )=n\ln \beta -(\beta +1)\sum _{i=1}^n\ln X_i.$$

求导并令其为零：

$${\ell }^{\prime }(\beta )=\frac{n}{\beta }-\sum _{i=1}^n\ln X_i=0.$$

所以

$${\hat{\beta }}_{\mathrm{ML}}=\frac{n}{{\sum }_{i=1}^n\ln X_i}.$$

又 ${\ell }^{\prime \prime }(\beta )=-\frac{n}{{\beta }^2}<0$，故为最大值点。

---

6. 【2006-3-13 分】 设总体 $X$ 的概率密度为

$$f(x;\theta )=\{\begin{array}{ll}\theta ,& 0<x<1,\\ 1-\theta ,& 1\le x<2,\\ 0,& \text{其他},\end{array}$$

$\theta (0<\theta <1)$ 是未知参数，$X_1,X_2,\cdots ,X_n$ 为来自总体 $X$ 的简单随机样本，记 $N$ 为样本值 $x_1,x_2,\cdots ,x_n$ 中小于 $1$ 的个数。

（1）求 $\theta$ 的矩估计；

（2）求 $\theta$ 的最大似然估计。

查看答案与解析

答案： （1）$\theta$ 的矩估计量为

$${\hat{\theta }}_{\mathrm{M}}=\frac{3}{2}-\bar{X}.$$

（2）$\theta$ 的最大似然估计量为

$${\hat{\theta }}_{\mathrm{ML}}=\frac{N}{n}.$$

解析： （1）矩估计

总体的一阶原点矩为

$$\begin{array}{rl}E(X)& ={\int }_0^{1}x\theta dx+{\int }_1^{2}x(1-\theta )dx\\ & =\frac{\theta }{2}+\frac{3}{2}(1-\theta )\\ & =\frac{3}{2}-\theta .\end{array}$$

令总体一阶矩等于样本一阶矩，即

$$\bar{X}=\frac{3}{2}-\theta ,$$

解得

$${\hat{\theta }}_{\mathrm{M}}=\frac{3}{2}-\bar{X}.$$

（2）最大似然估计

样本中有 $N$ 个观测值落在区间 $(0,1)$，其余 $n-N$ 个观测值落在区间 $[1,2)$，故似然函数为

$$L(\theta )={\theta }^N(1-\theta {)}^{n-N},0<\theta <1.$$

对数似然函数为

$$\ell (\theta )=N\ln \theta +(n-N)\ln (1-\theta ).$$

当 $0<N<n$ 时，求导得

$${\ell }^{\prime }(\theta )=\frac{N}{\theta }-\frac{n-N}{1-\theta }.$$

令 ${\ell }^{\prime }(\theta )=0$，则

$$N(1-\theta )=(n-N)\theta ,$$

从而

$${\hat{\theta }}_{\mathrm{ML}}=\frac{N}{n}.$$

并且

$${\ell }^{\prime \prime }(\theta )=-\frac{N}{{\theta }^2}-\frac{n-N}{(1-\theta {)}^2}<0,$$

故该驻点为唯一最大值点。若 $N=0$ 或 $N=n$，似然函数分别在边界 $\theta =0$ 或 $\theta =1$ 处取得上确界；通常将参数空间闭包纳入考虑后，估计量仍统一写为 $N/n$。

---

7. 【2006-1-9 分】 设总体 $X$ 的概率密度为

$$f(x;\theta )=\{\begin{array}{ll}\theta ,& 0<x<1,\\ 1-\theta ,& 1\le x<2,\\ 0,& \text{其他},\end{array}$$

$\theta (0<\theta <1)$ 是未知参数，$X_1,X_2,\cdots ,X_n$ 为来自总体 $X$ 的简单随机样本，记 $N$ 为样本值 $x_1,x_2,\cdots ,x_n$ 中小于 $1$ 的个数。求 $\theta$ 的最大似然估计。

查看答案与解析

答案：

$${\hat{\theta }}_{\mathrm{ML}}=\frac{N}{n}.$$

解析： 对给定样本，落在 $(0,1)$ 内的 $N$ 个样本点各贡献因子 $\theta$，落在 $[1,2)$ 内的 $n-N$ 个样本点各贡献因子 $1-\theta$，故似然函数为

$$L(\theta )={\theta }^N(1-\theta {)}^{n-N},0<\theta <1.$$

取对数得

$$\ell (\theta )=N\ln \theta +(n-N)\ln (1-\theta ).$$

当 $0<N<n$ 时，

$${\ell }^{\prime }(\theta )=\frac{N}{\theta }-\frac{n-N}{1-\theta }.$$

令 ${\ell }^{\prime }(\theta )=0$，可得

$$N(1-\theta )=(n-N)\theta ,$$

所以

$${\hat{\theta }}_{\mathrm{ML}}=\frac{N}{n}.$$

又有

$${\ell }^{\prime \prime }(\theta )=-\frac{N}{{\theta }^2}-\frac{n-N}{(1-\theta {)}^2}<0,$$

因此该点为极大值点。若 $N=0$ 或 $N=n$，最大值位于参数空间的相应边界，统一仍写成 $\hat{\theta }=N/n$。

---

8. 【2009-1-11 分】 设总体 $X$ 的概率密度为

$$f(x)=\{\begin{array}{ll}{\lambda }^{2}x{e}^{-\lambda x},& x>0,\\ 0,& \text{其他},\end{array}$$

其中参数 $\lambda (\lambda >0)$ 未知，$X_1,X_2,\cdots ,X_n$ 是来自总体 $X$ 的简单随机样本。

（1）求参数 $\lambda$ 的矩估计量；

（2）求参数 $\lambda$ 的最大似然估计量。

查看答案与解析

答案：

$${\hat{\lambda }}_{\mathrm{M}}=\frac{2}{\bar{X}},{\hat{\lambda }}_{\mathrm{ML}}=\frac{2n}{{\sum }_{i=1}^n{X}_i}=\frac{2}{\bar{X}}.$$

解析： 该分布是形状参数为 $2$、率参数为 $\lambda$ 的伽马分布。

（1）矩估计

先求总体均值：

$$\begin{array}{rl}E(X)& ={\int }_0^{+\infty }x{\lambda }^{2}x{e}^{-\lambda x}dx\\ & ={\lambda }^2{\int }_0^{+\infty }{x}^2{e}^{-\lambda x}dx.\end{array}$$

利用

$${\int }_0^{+\infty }{x}^2{e}^{-\lambda x}dx=\frac{2}{{\lambda }^3},$$

得到

$$E(X)=\frac{2}{\lambda }.$$

令 $E(X)=\bar{X}$，解得

$${\hat{\lambda }}_{\mathrm{M}}=\frac{2}{\bar{X}}.$$

（2）最大似然估计

当所有样本值均大于 $0$ 时，似然函数为

$$\begin{array}{rl}L(\lambda )& =\prod _{i=1}^n{\lambda }^2{X}_i{e}^{-\lambda X_i}\\ & ={\lambda }^{2n}\left(\prod _{i=1}^n{X}_i\right)\exp \left(-\lambda \sum _{i=1}^n{X}_i\right).\end{array}$$

对数似然函数为

$$\ell (\lambda )=2n\ln \lambda +\sum _{i=1}^n\ln X_i-\lambda \sum _{i=1}^n{X}_i.$$

求导并令其为零：

$${\ell }^{\prime }(\lambda )=\frac{2n}{\lambda }-\sum _{i=1}^n{X}_i=0.$$

故

$${\hat{\lambda }}_{\mathrm{ML}}=\frac{2n}{{\sum }_{i=1}^n{X}_i}=\frac{2}{\bar{X}}.$$

又

$${\ell }^{\prime \prime }(\lambda )=-\frac{2n}{{\lambda }^2}<0,$$

所以所得驻点为唯一最大值点。本题中矩估计量与最大似然估计量相同。

---

9. 【2011-1-11 分】 设 $X_1,X_2,\cdots ,X_n$ 为来自正态总体 $N({\mu }_0,{\sigma }^2)$ 的简单随机样本，其中 ${\mu }_0$ 已知，${\sigma }^2>0$ 未知。$\bar{X}$ 和 $S^2$ 分别表示样本均值和样本方差。

（1）求参数 ${\sigma }^2$ 的最大似然估计量 ${\hat{\sigma }}^2$；

（2）计算 $E({\hat{\sigma }}^2)$ 和 $D({\hat{\sigma }}^2)$。

查看答案与解析

答案： （1）

$${\hat{\sigma }}^2=\frac{1}{n}\sum _{i=1}^n(X_i-{\mu }_0{)}^2=\frac{n-1}{n}{S}^2+(\bar{X}-{\mu }_0{)}^2.$$

（2）

$$E({\hat{\sigma }}^2)={\sigma }^2,D({\hat{\sigma }}^2)=\frac{2{\sigma }^4}{n}.$$

解析： （1）最大似然估计

样本的似然函数为

$$L({\sigma }^2)=(2\pi {\sigma }^2{)}^{-\frac{n}{2}}\exp \left[-\frac{1}{2{\sigma }^2}\sum _{i=1}^n(X_i-{\mu }_0{)}^2\right].$$

对数似然函数为

$$\ell ({\sigma }^2)=-\frac{n}{2}\ln (2\pi )-\frac{n}{2}\ln {\sigma }^2-\frac{1}{2{\sigma }^2}\sum _{i=1}^n(X_i-{\mu }_0{)}^2.$$

把 ${\sigma }^2$ 看作参数，求导得

$$\frac{d\ell }{d({\sigma }^2)}=-\frac{n}{2{\sigma }^2}+\frac{1}{2({\sigma }^2{)}^2}\sum _{i=1}^n(X_i-{\mu }_0{)}^2.$$

令其等于零，得到

$${\hat{\sigma }}^2=\frac{1}{n}\sum _{i=1}^n(X_i-{\mu }_0{)}^2.$$

又由恒等式

$$\sum _{i=1}^n(X_i-{\mu }_0{)}^2=\sum _{i=1}^n(X_i-\bar{X}{)}^2+n(\bar{X}-{\mu }_0{)}^2,$$

可写成

$${\hat{\sigma }}^2=\frac{n-1}{n}{S}^2+(\bar{X}-{\mu }_0{)}^2.$$

（2）期望与方差

由于

$$\frac{1}{{\sigma }^2}\sum _{i=1}^n(X_i-{\mu }_0{)}^2\sim {\chi }^2(n),$$

所以

$$\frac{n{\hat{\sigma }}^2}{{\sigma }^2}\sim {\chi }^2(n).$$

利用卡方分布的性质

$$E[{\chi }^2(n)]=n,D[{\chi }^2(n)]=2n,$$

得到

$$\begin{array}{rl}E({\hat{\sigma }}^2)& =\frac{{\sigma }^2}{n}\cdot n={\sigma }^2,\\ D({\hat{\sigma }}^2)& =\frac{{\sigma }^4}{n^2}\cdot 2n=\frac{2{\sigma }^4}{n}.\end{array}$$

因此，当总体均值已知时，${\hat{\sigma }}^2$ 是 ${\sigma }^2$ 的无偏估计量。

---

10. 【2012-1-11 分】 设随机变量 $X$ 与 $Y$ 相互独立，且分别服从正态分布 $N(\mu ,{\sigma }^2)$ 与 $N(\mu ,2{\sigma }^2)$，其中 $\sigma$ 是未知参数且 $\sigma >0$。设 $Z=X-Y$。

（1）求 $Z$ 的概率密度 $f(z,{\sigma }^2)$；

（2）设 $Z_1,Z_2,\cdots ,Z_n$ 为来自总体 $Z$ 的简单随机样本，求 ${\sigma }^2$ 的最大似然估计量 ${\hat{\sigma }}^2$；

（3）证明 ${\hat{\sigma }}^2$ 为 ${\sigma }^2$ 的无偏估计量。

查看答案与解析

答案： （1）

$$f(z;{\sigma }^2)=\frac{1}{\sqrt{6\pi {\sigma }^2}}\exp \left(-\frac{z^2}{6{\sigma }^2}\right),-\infty <z<+\infty .$$

（2）

$${\hat{\sigma }}^2=\frac{1}{3n}\sum _{i=1}^n{Z}_i^2.$$

（3）

$$E({\hat{\sigma }}^2)={\sigma }^2,$$

故 ${\hat{\sigma }}^2$ 是 ${\sigma }^2$ 的无偏估计量。

解析： （1）求 $Z$ 的分布

由于 $X$ 与 $Y$ 相互独立，且

$$X\sim N(\mu ,{\sigma }^2),Y\sim N(\mu ,2{\sigma }^2),$$

所以正态随机变量的线性组合仍服从正态分布，并且

$$E(Z)=E(X-Y)=\mu -\mu =0,$$$$D(Z)=D(X-Y)=D(X)+D(Y)={\sigma }^2+2{\sigma }^2=3{\sigma }^2.$$

因此

$$Z\sim N(0,3{\sigma }^2),$$

其概率密度为

$$f(z;{\sigma }^2)=\frac{1}{\sqrt{2\pi \cdot 3{\sigma }^2}}\exp \left(-\frac{z^2}{2\cdot 3{\sigma }^2}\right)=\frac{1}{\sqrt{6\pi {\sigma }^2}}\exp \left(-\frac{z^2}{6{\sigma }^2}\right).$$

（2）最大似然估计

似然函数为

$$\begin{array}{rl}L({\sigma }^2)& =\prod _{i=1}^n\frac{1}{\sqrt{6\pi {\sigma }^2}}\exp \left(-\frac{Z_i^2}{6{\sigma }^2}\right)\\ & =(6\pi {\sigma }^2{)}^{-\frac{n}{2}}\exp \left(-\frac{1}{6{\sigma }^2}\sum _{i=1}^n{Z}_i^2\right).\end{array}$$

对数似然函数为

$$\ell ({\sigma }^2)=-\frac{n}{2}\ln (6\pi )-\frac{n}{2}\ln {\sigma }^2-\frac{1}{6{\sigma }^2}\sum _{i=1}^n{Z}_i^2.$$

求导得

$$\frac{d\ell }{d({\sigma }^2)}=-\frac{n}{2{\sigma }^2}+\frac{1}{6({\sigma }^2{)}^2}\sum _{i=1}^n{Z}_i^2.$$

令其等于零，得到

$$3n{\sigma }^2=\sum _{i=1}^n{Z}_i^2,$$

因此

$${\hat{\sigma }}^2=\frac{1}{3n}\sum _{i=1}^n{Z}_i^2.$$

（3）无偏性

因为 $Z_i\sim N(0,3{\sigma }^2)$，所以

$$E(Z_i^2)=D(Z_i)+[E(Z_i){]}^2=3{\sigma }^2.$$

于是

$$\begin{array}{rl}E({\hat{\sigma }}^2)& =E\left(\frac{1}{3n}\sum _{i=1}^n{Z}_i^2\right)\\ & =\frac{1}{3n}\sum _{i=1}^{n}E(Z_i^2)\\ & =\frac{1}{3n}\cdot n\cdot 3{\sigma }^2\\ & ={\sigma }^2.\end{array}$$

故 ${\hat{\sigma }}^2$ 是 ${\sigma }^2$ 的无偏估计量。

---

11. 【2013-13-11 分】 设总体 $X$ 的概率密度为

$$f(x;\theta )=\{\begin{array}{ll}\frac{{\theta }^2}{x^3}{e}^{-\frac{\theta }{x}},& x>0,\\ 0,& \text{其他},\end{array}$$

其中 $\theta$ 为未知参数且大于零，$X_1,X_2,\cdots ,X_n$ 为来自总体 $X$ 的简单随机样本。

（1）求 $\theta$ 的矩估计量；

（2）求 $\theta$ 的最大似然估计量。

查看答案与解析

答案： （1）${\hat{\theta }}_M=\bar{X}$。

（2）${\hat{\theta }}_L=\frac{2n}{{\sum }_{i=1}^n\frac{1}{X_i}}$。

解析： （1）矩估计

由数学期望的定义，

$$\begin{array}{rl}E(X)& ={\int }_0^{+\infty }x\cdot \frac{{\theta }^2}{x^3}{e}^{-\frac{\theta }{x}}dx\\ & ={\theta }^2{\int }_0^{+\infty }\frac{1}{x^2}{e}^{-\frac{\theta }{x}}dx.\end{array}$$

令 $u=\frac{\theta }{x}$，则 $x=\frac{\theta }{u}$，$dx=-\frac{\theta }{u^2}du$，故

$$\begin{array}{rl}E(X)& ={\theta }^2{\int }_{+\infty }^0\frac{u^2}{{\theta }^2}{e}^{-u}\left(-\frac{\theta }{u^2}\right)du\\ & =\theta {\int }_0^{+\infty }{e}^{-u}du\\ & =\theta .\end{array}$$

用样本一阶原点矩 $\bar{X}$ 代替总体一阶原点矩，得到

$${\hat{\theta }}_M=\bar{X}.$$

（2）最大似然估计

似然函数为

$$\begin{array}{rl}L(\theta )& =\prod _{i=1}^n\frac{{\theta }^2}{X_i^3}{e}^{-\frac{\theta }{X_i}}\\ & ={\theta }^{2n}\left(\prod _{i=1}^n{X}_i^{-3}\right)\exp \left(-\theta \sum _{i=1}^n\frac{1}{X_i}\right),\theta >0.\end{array}$$

对数似然函数为

$$\ell (\theta )=2n\ln \theta -3\sum _{i=1}^n\ln X_i-\theta \sum _{i=1}^n\frac{1}{X_i}.$$

求导得

$${\ell }^{\prime }(\theta )=\frac{2n}{\theta }-\sum _{i=1}^n\frac{1}{X_i}.$$

令 ${\ell }^{\prime }(\theta )=0$，得到

$${\hat{\theta }}_L=\frac{2n}{{\sum }_{i=1}^n\frac{1}{X_i}}.$$

又

$${\ell }^{\prime \prime }(\theta )=-\frac{2n}{{\theta }^2}<0,$$

故该驻点为似然函数的唯一最大值点。

---

12. 【2014-1-11 分】 设总体 $X$ 的分布函数为

$$F(x;\theta )=\{\begin{array}{ll}1-e^{-\frac{x^2}{\theta }},& x\ge 0,\\ 0,& x<0,\end{array}$$

其中 $\theta$ 为未知参数且大于零，$X_1,X_2,\cdots ,X_n$ 为来自总体 $X$ 的简单随机样本。

（1）求 $E(X)$ 与 $E(X^2)$；

（2）求 $\theta$ 的极大似然估计量 ${\hat{\theta }}_n$；

（3）是否存在常数 $a$，使得对任意的 $\epsilon >0$，都有

$$\underset{n\to \infty }{\lim }P\{|{\hat{\theta }}_n-a|\ge \epsilon \}=0?$$

查看答案与解析

答案： （1）$E(X)=\frac{\sqrt{\pi \theta }}{2}$，$E(X^2)=\theta$。

（2）${\hat{\theta }}_n=\frac{1}{n}\sum _{i=1}^n{X}_i^2$。

（3）存在，且 $a=\theta$。

解析： 由分布函数求导，得到总体 $X$ 的概率密度

$$f(x;\theta )=\{\begin{array}{ll}\frac{2x}{\theta }{e}^{-\frac{x^2}{\theta }},& x>0,\\ 0,& x\le 0.\end{array}$$

（1）计算数字特征

首先，

$$E(X)={\int }_0^{+\infty }x\cdot \frac{2x}{\theta }{e}^{-\frac{x^2}{\theta }}dx.$$

令 $u=\frac{x^2}{\theta }$，则 $x=\sqrt{\theta u}$，$\frac{2x}{\theta }dx=du$，从而

$$\begin{array}{rl}E(X)& =\sqrt{\theta }{\int }_0^{+\infty }{u}^{\frac{1}{2}}{e}^{-u}du\\ & =\sqrt{\theta }\Gamma \left(\frac{3}{2}\right)\\ & =\frac{\sqrt{\pi \theta }}{2}.\end{array}$$

同理，

$$\begin{array}{rl}E(X^2)& ={\int }_0^{+\infty }{x}^2\cdot \frac{2x}{\theta }{e}^{-\frac{x^2}{\theta }}dx\\ & =\theta {\int }_0^{+\infty }u{e}^{-u}du\\ & =\theta .\end{array}$$

（2）最大似然估计

似然函数为

$$\begin{array}{rl}L(\theta )& =\prod _{i=1}^n\frac{2X_i}{\theta }{e}^{-\frac{X_i^2}{\theta }}\\ & =2^n\left(\prod _{i=1}^n{X}_i\right){\theta }^{-n}\exp \left(-\frac{1}{\theta }\sum _{i=1}^n{X}_i^2\right).\end{array}$$

对数似然函数为

$$\ell (\theta )=n\ln 2+\sum _{i=1}^n\ln X_i-n\ln \theta -\frac{1}{\theta }\sum _{i=1}^n{X}_i^2.$$

求导得

$${\ell }^{\prime }(\theta )=-\frac{n}{\theta }+\frac{1}{{\theta }^2}\sum _{i=1}^n{X}_i^2.$$

令 ${\ell }^{\prime }(\theta )=0$，得到

$${\hat{\theta }}_n=\frac{1}{n}\sum _{i=1}^n{X}_i^2.$$

在该点有 ${\ell }^{\prime \prime }({\hat{\theta }}_n)<0$，故它是最大似然估计量。

（3）相合性

由（1）知 $E(X_i^2)=\theta$。又令 $Y=X^2$，则

$$P\{Y\le y\}=1-e^{-\frac{y}{\theta }},y\ge 0,$$

所以 $Y=X^2$ 服从均值为 $\theta$ 的指数分布，因而

$$D(X^2)={\theta }^2.$$

于是

$$E({\hat{\theta }}_n)=\theta ,D({\hat{\theta }}_n)=\frac{{\theta }^2}{n}.$$

由切比雪夫不等式，任意 $\epsilon >0$，有

$$P\{|{\hat{\theta }}_n-\theta |\ge \epsilon \}\le \frac{D({\hat{\theta }}_n)}{{\epsilon }^2}=\frac{{\theta }^2}{n{\epsilon }^2}\to 0.$$

因此存在常数 $a=\theta$，使题设极限成立，即 ${\hat{\theta }}_n$ 是 $\theta$ 的相合估计量。

---

13. 【2015-13-11 分】 设总体 $X$ 的概率密度为

$$f(x;\theta )=\{\begin{array}{ll}\frac{1}{1-\theta },& \theta \le x\le 1,\\ 0,& \text{其他},\end{array}$$

其中 $\theta$ 为未知参数，$X_1,X_2,\cdots ,X_n$ 为来自该总体的简单随机样本。

（1）求 $\theta$ 的矩估计量；

（2）求 $\theta$ 的最大似然估计量。

查看答案与解析

答案： （1）${\hat{\theta }}_M=2\bar{X}-1$。

（2）${\hat{\theta }}_L=X_{(1)}=\min \{X_1,X_2,\cdots ,X_n\}$。

解析： （1）矩估计

总体 $X$ 在区间 $[\theta ,1]$ 上服从均匀分布，因此

$$E(X)=\frac{\theta +1}{2}.$$

令总体一阶原点矩等于样本一阶原点矩，得

$$\bar{X}=\frac{\theta +1}{2},$$

故

$${\hat{\theta }}_M=2\bar{X}-1.$$

（2）最大似然估计

记

$$X_{(1)}=\min \{X_1,X_2,\cdots ,X_n\}.$$

似然函数为

$$L(\theta )=(1-\theta {)}^{-n}I\{\theta \le X_{(1)}\le X_{(n)}\le 1\}.$$

对固定样本观测值，在允许范围 $\theta \le X_{(1)}$ 内，$1-\theta$ 随 $\theta$ 增大而减小，故 $(1-\theta {)}^{-n}$ 随 $\theta$ 增大而增大。因此似然函数在允许范围的最右端取得最大值，即

$${\hat{\theta }}_L=X_{(1)}.$$

这里不能直接对对数似然函数求导而忽略示性函数，因为参数 $\theta$ 同时决定总体分布的取值区间。

---

14. 【2017-13-11 分】 某工程师为了解一台天平的精度，用该天平对一物体的质量做 $n$ 次测量，该物体的质量 $\mu$ 是已知的。设 $n$ 次测量结果 $X_1,X_2,\cdots ,X_n$ 相互独立且均服从正态分布 $N(\mu ,{\sigma }^2)$，该工程师记录的是 $n$ 次测量的绝对误差

$$Z_i=|X_i-\mu |,i=1,2,\cdots ,n.$$

利用 $Z_1,Z_2,\cdots ,Z_n$ 估计 $\sigma$。

（Ⅰ）求 $Z_1$ 的概率密度；

（Ⅱ）利用一阶矩求 $\sigma$ 的矩估计量；

（Ⅲ）求 $\sigma$ 的最大似然估计量。

查看答案与解析

答案： （Ⅰ）

$$f_Z(z;\sigma )=\{\begin{array}{ll}\frac{\sqrt{2}}{\sqrt{\pi }\sigma }{e}^{-\frac{z^2}{2{\sigma }^2}},& z\ge 0,\\ 0,& z<0.\end{array}$$

（Ⅱ）${\hat{\sigma }}_M=\sqrt{\frac{\pi }{2}}\bar{Z}$。

（Ⅲ）${\hat{\sigma }}_L=\sqrt{\frac{1}{n}\sum _{i=1}^n{Z}_i^2}$。

解析： （Ⅰ）求 $Z_1$ 的概率密度

令 $Y=X_1-\mu$，则 $Y\sim N(0,{\sigma }^2)$，且 $Z_1=|Y|$。当 $z\ge 0$ 时，

$$\begin{array}{rl}{F}_{Z_1}(z)& =P\{|Y|\le z\}\\ & =P\{-z\le Y\le z\}\\ & =2\Phi \left(\frac{z}{\sigma }\right)-1.\end{array}$$

对 $z$ 求导，得到

$$f_Z(z;\sigma )=\frac{2}{\sigma }\phi \left(\frac{z}{\sigma }\right)=\frac{\sqrt{2}}{\sqrt{\pi }\sigma }{e}^{-\frac{z^2}{2{\sigma }^2}},z\ge 0.$$

因此 $Z_1$ 服从参数为 $\sigma$ 的半正态分布。

（Ⅱ）矩估计

由半正态分布的一阶矩，或直接计算，

$$\begin{array}{rl}E(Z_1)& ={\int }_0^{+\infty }z\frac{\sqrt{2}}{\sqrt{\pi }\sigma }{e}^{-\frac{z^2}{2{\sigma }^2}}dz\\ & =\sigma \sqrt{\frac{2}{\pi }}.\end{array}$$

令 $E(Z_1)=\bar{Z}$，得到

$${\hat{\sigma }}_M=\sqrt{\frac{\pi }{2}}\bar{Z},\bar{Z}=\frac{1}{n}\sum _{i=1}^n{Z}_i.$$

（Ⅲ）最大似然估计

似然函数为

$$\begin{array}{rl}L(\sigma )& =\prod _{i=1}^n\frac{\sqrt{2}}{\sqrt{\pi }\sigma }{e}^{-\frac{Z_i^2}{2{\sigma }^2}}\\ & ={\left(\frac{\sqrt{2}}{\sqrt{\pi }}\right)}^n{\sigma }^{-n}\exp \left(-\frac{1}{2{\sigma }^2}\sum _{i=1}^n{Z}_i^2\right),\sigma >0.\end{array}$$

对数似然函数为

$$\ell (\sigma )=n\ln \frac{\sqrt{2}}{\sqrt{\pi }}-n\ln \sigma -\frac{1}{2{\sigma }^2}\sum _{i=1}^n{Z}_i^2.$$

求导得

$${\ell }^{\prime }(\sigma )=-\frac{n}{\sigma }+\frac{1}{{\sigma }^3}\sum _{i=1}^n{Z}_i^2.$$

令 ${\ell }^{\prime }(\sigma )=0$，得到

$${\hat{\sigma }}_L=\sqrt{\frac{1}{n}\sum _{i=1}^n{Z}_i^2}.$$

该驻点使对数似然函数取得最大值，故为所求最大似然估计量。

---

15. 【2018-13-11 分】 设总体 $X$ 的概率密度为

$$f(x;\sigma )=\frac{1}{2\sigma }{e}^{-\frac{|x|}{\sigma }},-\infty <x<+\infty ,$$

其中 $\sigma \in (0,+\infty )$ 为未知参数，$X_1,X_2,\cdots ,X_n$ 为来自总体 $X$ 的简单随机样本。记 $\sigma$ 的最大似然估计量为 $\hat{\sigma }$。

（Ⅰ）求 $\hat{\sigma }$；

（Ⅱ）求 $E(\hat{\sigma })$ 和 $D(\hat{\sigma })$。

查看答案与解析

答案： （Ⅰ）$\hat{\sigma }=\frac{1}{n}\sum _{i=1}^n|X_i|$。

（Ⅱ）$E(\hat{\sigma })=\sigma$，$D(\hat{\sigma })=\frac{{\sigma }^2}{n}$。

解析： （Ⅰ）最大似然估计

似然函数为

$$\begin{array}{rl}L(\sigma )& =\prod _{i=1}^n\frac{1}{2\sigma }{e}^{-\frac{|X_i|}{\sigma }}\\ & =(2\sigma {)}^{-n}\exp \left(-\frac{1}{\sigma }\sum _{i=1}^n|X_i|\right),\sigma >0.\end{array}$$

对数似然函数为

$$\ell (\sigma )=-n\ln 2-n\ln \sigma -\frac{1}{\sigma }\sum _{i=1}^n|X_i|.$$

求导得

$${\ell }^{\prime }(\sigma )=-\frac{n}{\sigma }+\frac{1}{{\sigma }^2}\sum _{i=1}^n|X_i|.$$

令 ${\ell }^{\prime }(\sigma )=0$，得到

$$\hat{\sigma }=\frac{1}{n}\sum _{i=1}^n|X_i|.$$

又在该点有 ${\ell }^{\prime \prime }(\hat{\sigma })<0$，故其为最大似然估计量。

（Ⅱ）计算期望与方差

令 $Y=|X|$。当 $y\ge 0$ 时，$Y$ 的概率密度为

$$\begin{array}{rl}{f}_Y(y)& =f_X(y)+f_X(-y)\\ & =\frac{1}{\sigma }{e}^{-\frac{y}{\sigma }}.\end{array}$$

因此 $Y=|X|$ 服从均值为 $\sigma$ 的指数分布，故

$$E(|X|)=\sigma ,D(|X|)={\sigma }^2.$$

由于 $|X_1|,|X_2|,\cdots ,|X_n|$ 相互独立同分布，所以

$$\begin{array}{rl}E(\hat{\sigma })& =E\left(\frac{1}{n}\sum _{i=1}^n|X_i|\right)=\sigma ,\\ D(\hat{\sigma })& =D\left(\frac{1}{n}\sum _{i=1}^n|X_i|\right)=\frac{1}{n^2}\sum _{i=1}^{n}D(|X_i|)=\frac{{\sigma }^2}{n}.\end{array}$$

故 $\hat{\sigma }$ 还是 $\sigma$ 的无偏估计量。

---

16. 【2019-13-11 分】 设总体 $X$ 的概率密度为

$$f(x;{\sigma }^2)=\{\begin{array}{ll}A{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}},& x\ge \mu ,\\ 0,& x<\mu ,\end{array}$$

其中 $\mu$ 是已知参数，$\sigma >0$ 是未知参数，$A$ 是常数，$X_1,X_2,\cdots ,X_n$ 是来自总体 $X$ 的简单随机样本。

（1）求 $A$ 的值；

（2）求 ${\sigma }^2$ 的最大似然估计量。

查看答案与解析

答案： （1）$A=\frac{2}{\sqrt{2\pi }\sigma }=\sqrt{\frac{2}{\pi }}\frac{1}{\sigma }$。

（2）$\widehat{{\sigma }^2}=\frac{1}{n}\sum _{i=1}^n(X_i-\mu {)}^2$。

解析： （1）由概率密度的归一性，

$${\int }_{-\infty }^{+\infty }f(x;{\sigma }^2)dx=1.$$

因此

$$A{\int }_{\mu }^{+\infty }{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}dx=1.$$

令 $u=\frac{x-\mu }{\sigma }$，则 $dx=\sigma du$，从而

$$\begin{array}{rl}{\int }_{\mu }^{+\infty }{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}dx& =\sigma {\int }_0^{+\infty }{e}^{-\frac{u^2}{2}}du\\ & =\sigma \sqrt{\frac{\pi }{2}}.\end{array}$$

故

$$A\sigma \sqrt{\frac{\pi }{2}}=1,$$

即

$$A=\sqrt{\frac{2}{\pi }}\frac{1}{\sigma }=\frac{2}{\sqrt{2\pi }\sigma }.$$

这说明 $X-\mu$ 服从参数为 $\sigma$ 的半正态分布。

（2）由样本观测值必须满足 $x_i\ge \mu$，似然函数为

$$\begin{array}{rl}L({\sigma }^2)& =\prod _{i=1}^n\left[\sqrt{\frac{2}{\pi }}\frac{1}{\sigma }{e}^{-\frac{(x_i-\mu {)}^2}{2{\sigma }^2}}\right]\\ & ={\left(\frac{2}{\pi }\right)}^{\frac{n}{2}}({\sigma }^2{)}^{-\frac{n}{2}}\exp \left[-\frac{1}{2{\sigma }^2}\sum _{i=1}^n(x_i-\mu {)}^2\right].\end{array}$$

令 $\tau ={\sigma }^2$，则对数似然函数为

$$\ell (\tau )=\frac{n}{2}\ln \frac{2}{\pi }-\frac{n}{2}\ln \tau -\frac{1}{2\tau }\sum _{i=1}^n(x_i-\mu {)}^2.$$

求导得

$${\ell }^{\prime }(\tau )=-\frac{n}{2\tau }+\frac{1}{2{\tau }^2}\sum _{i=1}^n(x_i-\mu {)}^2.$$

令 ${\ell }^{\prime }(\tau )=0$，可得

$$\hat{\tau }=\frac{1}{n}\sum _{i=1}^n(x_i-\mu {)}^2.$$

且对数似然函数在该点取得最大值，故

$$\widehat{{\sigma }^2}=\frac{1}{n}\sum _{i=1}^n(X_i-\mu {)}^2.$$

---

17. 【2020-13-11 分】 设某元件使用寿命 $T$ 的分布函数为

$$F(t)=\{\begin{array}{ll}1-e^{-{\left(\frac{t}{\theta }\right)}^m},& t\ge 0,\\ 0,& \text{其他},\end{array}$$

其中 $\theta ,m$ 为参数且均大于零。

（1）求概率 $P\{T>t\}$ 与 $P\{T>s+t\mid T>s\}$，其中 $s>0,t>0$；

（2）设取 $n$ 个这样的元件做寿命试验，测得寿命 $t_1,t_2,\cdots ,t_n$，其中 $m$ 已知，求 $\theta$ 的最大似然估计值。

查看答案与解析

答案： （1）

$$P\{T>t\}=e^{-{\left(\frac{t}{\theta }\right)}^m},$$$$P\{T>s+t\mid T>s\}=\exp \left[-\frac{(s+t{)}^m-s^m}{{\theta }^m}\right].$$

（2）

$$\hat{\theta }={\left(\frac{1}{n}\sum _{i=1}^n{t}_i^m\right)}^{\frac{1}{m}}.$$

解析： （1）当 $t>0$ 时，由生存函数与分布函数的关系，

$$\begin{array}{rl}P\{T>t\}& =1-F(t)\\ & =e^{-{\left(\frac{t}{\theta }\right)}^m}.\end{array}$$

又因为事件 $\{T>s+t\}\subset \{T>s\}$，所以

$$\begin{array}{rl}P\{T>s+t\mid T>s\}& =\frac{P\{T>s+t\}}{P\{T>s\}}\\ & =\frac{e^{-{\left(\frac{s+t}{\theta }\right)}^m}}{e^{-{\left(\frac{s}{\theta }\right)}^m}}\\ & =\exp \left[-\frac{(s+t{)}^m-s^m}{{\theta }^m}\right].\end{array}$$

当 $m=1$ 时，上式化为 $e^{-t/\theta }$，与已经使用的时间 $s$ 无关，体现指数分布的无记忆性；当 $m\ne 1$ 时，一般不具有无记忆性。

（2）对分布函数求导，得到 $T$ 的概率密度

$$f(t;\theta )=\frac{m}{{\theta }^m}{t}^{m-1}{e}^{-\frac{t^m}{{\theta }^m}},t>0.$$

样本的似然函数为

$$\begin{array}{rl}L(\theta )& =\prod _{i=1}^n\left(\frac{m}{{\theta }^m}{t}_i^{m-1}{e}^{-\frac{t_i^m}{{\theta }^m}}\right)\\ & =m^n\left(\prod _{i=1}^n{t}_i^{m-1}\right){\theta }^{-mn}\exp \left(-\frac{1}{{\theta }^m}\sum _{i=1}^n{t}_i^m\right).\end{array}$$

对数似然函数为

$$\ell (\theta )=n\ln m+(m-1)\sum _{i=1}^n\ln t_i-mn\ln \theta -\frac{1}{{\theta }^m}\sum _{i=1}^n{t}_i^m.$$

求导得

$${\ell }^{\prime }(\theta )=-\frac{mn}{\theta }+\frac{m}{{\theta }^{m+1}}\sum _{i=1}^n{t}_i^m.$$

令 ${\ell }^{\prime }(\theta )=0$，得到

$$n{\theta }^m=\sum _{i=1}^n{t}_i^m.$$

因此

$$\hat{\theta }={\left(\frac{1}{n}\sum _{i=1}^n{t}_i^m\right)}^{\frac{1}{m}}.$$

---

18. 【2022-13-12 分】 设 $X_1,X_2,\cdots ,X_n$ 是来自期望为 $\theta$ 的指数分布总体的简单随机样本，$Y_1,Y_2,\cdots ,Y_m$ 是来自期望为 $2\theta$ 的指数分布总体的简单随机样本，且 $X_1,X_2,\cdots ,X_n,Y_1,Y_2,\cdots ,Y_m$ 相互独立，其中 $\theta >0$ 是未知参数。求 $\theta$ 的极大似然估计量 $\hat{\theta }$，并求 $D(\hat{\theta })$。

查看答案与解析

答案：

$$\hat{\theta }=\frac{{\sum }_{i=1}^n{X}_i+\frac{1}{2}{\sum }_{j=1}^m{Y}_j}{n+m},$$

$$D(\hat{\theta })=\frac{{\theta }^2}{n+m}.$$

解析： 期望为 $\theta$ 的指数分布概率密度为

$$f_X(x;\theta )=\frac{1}{\theta }{e}^{-\frac{x}{\theta }},x>0.$$

期望为 $2\theta$ 的指数分布概率密度为

$$f_Y(y;\theta )=\frac{1}{2\theta }{e}^{-\frac{y}{2\theta }},y>0.$$

由两组样本相互独立，联合似然函数为

$$\begin{array}{rl}L(\theta )& =\prod _{i=1}^n\frac{1}{\theta }{e}^{-\frac{x_i}{\theta }}\prod _{j=1}^m\frac{1}{2\theta }{e}^{-\frac{y_j}{2\theta }}\\ & =2^{-m}{\theta }^{-(n+m)}\exp \left[-\frac{1}{\theta }\left(\sum _{i=1}^n{x}_i+\frac{1}{2}\sum _{j=1}^m{y}_j\right)\right].\end{array}$$

对数似然函数为

$$\ell (\theta )=-m\ln 2-(n+m)\ln \theta -\frac{1}{\theta }\left(\sum _{i=1}^n{x}_i+\frac{1}{2}\sum _{j=1}^m{y}_j\right).$$

求导得

$${\ell }^{\prime }(\theta )=-\frac{n+m}{\theta }+\frac{1}{{\theta }^2}\left(\sum _{i=1}^n{x}_i+\frac{1}{2}\sum _{j=1}^m{y}_j\right).$$

令 ${\ell }^{\prime }(\theta )=0$，得到

$$\hat{\theta }=\frac{{\sum }_{i=1}^n{X}_i+\frac{1}{2}{\sum }_{j=1}^m{Y}_j}{n+m}.$$

下面计算其方差。由于指数分布的方差等于其均值的平方，故

$$D(X_i)={\theta }^2,D(Y_j)=(2\theta {)}^2=4{\theta }^2.$$

于是

$$D\left(\frac{1}{2}{Y}_j\right)=\frac{1}{4}D(Y_j)={\theta }^2.$$

再利用所有随机变量相互独立，得

$$\begin{array}{rl}D(\hat{\theta })& =\frac{1}{(n+m{)}^2}D\left(\sum _{i=1}^n{X}_i+\frac{1}{2}\sum _{j=1}^m{Y}_j\right)\\ & =\frac{1}{(n+m{)}^2}\left(n{\theta }^2+m{\theta }^2\right)\\ & =\frac{{\theta }^2}{n+m}.\end{array}$$

此外，

$$E(\hat{\theta })=\frac{n\theta +\frac{1}{2}m(2\theta )}{n+m}=\theta ,$$

故该最大似然估计量也是 $\theta$ 的无偏估计量。