四、矩阵方程

小题

1. 【1987-1-4分】 设矩阵$A$和$B$满足$AX=B$，其中$A=\left(\begin{array}{ccc}0& 1& 0\\ -1& 1& 1\\ -1& 0& -1\end{array}\right)$，$B=\left(\begin{array}{cc}1& -1\\ 2& 0\\ 5& -3\end{array}\right)$，求矩阵$X$.

查看答案与解析

答案： $X=\left(\begin{array}{cc}-3& 1\\ 1& -1\\ -2& 2\end{array}\right)$。

解析： 由$AX=B$，若$A$可逆，则

$X=A^{-1}B$。

先计算$A$的行列式：

$|A|=\left|\begin{array}{ccc}0& 1& 0\\ -1& 1& 1\\ -1& 0& -1\end{array}\right|$

$=-\left|\begin{array}{cc}-1& 1\\ -1& -1\end{array}\right|=-(1+1)=-2\ne 0$，

所以$A$可逆。

为避免直接求伴随矩阵，也可把$X$的两列分别看作两个线性方程组的解。设

$X=(x_1,x_2)$，$B=(b_1,b_2)$，

则分别解

$A{x}_1=b_1,A{x}_2=b_2$。

对增广矩阵作初等行变换：

$\left(\begin{array}{ccccc}0& 1& 0& 1& -1\\ -1& 1& 1& 2& 0\\ -1& 0& -1& 5& -3\end{array}\right)$

$⟶\left(\begin{array}{ccccc}1& 0& 1& -5& 3\\ 0& 1& 0& 1& -1\\ 0& 0& 1& -2& 2\end{array}\right)$

$⟶\left(\begin{array}{ccccc}1& 0& 0& -3& 1\\ 0& 1& 0& 1& -1\\ 0& 0& 1& -2& 2\end{array}\right)$。

因此

$X=\left(\begin{array}{cc}-3& 1\\ 1& -1\\ -2& 2\end{array}\right)$。

检验可得$AX=B$，故结果正确。

---

2. 【1989-45-5分】 已知$X=AX+B$，其中$A=\left(\begin{array}{ccc}0& 1& 0\\ -1& 1& 1\\ -1& 0& -1\end{array}\right)$，$B=\left(\begin{array}{cc}1& -1\\ 2& 0\\ 5& -3\end{array}\right)$，求矩阵$X$.

查看答案与解析

答案： $X=\left(\begin{array}{cc}3& -1\\ 2& 0\\ 1& -1\end{array}\right)$。

解析： 由

$X=AX+B$，

移项得

$(E-A)X=B$。

其中

$E-A=\left(\begin{array}{ccc}1& -1& 0\\ 1& 0& -1\\ 1& 0& 2\end{array}\right)$。

计算其行列式：

$|E-A|=\left|\begin{array}{ccc}1& -1& 0\\ 1& 0& -1\\ 1& 0& 2\end{array}\right|=3\ne 0$，

所以$E-A$可逆，从而

$X=(E-A{)}^{-1}B$。

联立计算可得

$X=\left(\begin{array}{cc}3& -1\\ 2& 0\\ 1& -1\end{array}\right)$。

直接检验：

$AX=\left(\begin{array}{cc}2& 0\\ 1& 0\\ -4& 2\end{array}\right)$，

故

$AX+B=\left(\begin{array}{cc}2& 0\\ 1& 0\\ -4& 2\end{array}\right)+\left(\begin{array}{cc}1& -1\\ 2& 0\\ 5& -3\end{array}\right)$

$=\left(\begin{array}{cc}3& -1\\ 2& 0\\ 1& -1\end{array}\right)=X$。

本题易错点是移项后左乘矩阵应为$E-A$，不能写成$A-E$而遗漏负号。

---

3. 【1991-5-5分】 设$n$阶矩阵$A$和$B$满足条件$A+B=AB$： (1)证明$A-E$为可逆矩阵，其中$E$为$n$阶单位矩阵； (2)已知$B=\left(\begin{array}{ccc}1& -3& 0\\ 2& 1& 0\\ 0& 0& 2\end{array}\right)$，求矩阵$A$.

查看答案与解析

答案： （1）$A-E$可逆，且$(A-E{)}^{-1}=B-E$；

（2）$A=\left(\begin{array}{ccc}1& \frac{1}{2}& 0\\ -\frac{1}{3}& 1& 0\\ 0& 0& 2\end{array}\right)$。

解析： （1）由$A+B=AB$，在等式两边同时加上$E$并整理：

$AB-A-B+E=E$，

即

$(A-E)(B-E)=E$。

对于同阶方阵，若两个矩阵的乘积为单位矩阵，则二者均可逆，且互为逆矩阵。因此

$A-E$可逆，并且

$(A-E{)}^{-1}=B-E$。

（2）由原方程也可写成

$A(B-E)=B$。

因为$B-E$可逆，所以

$A=B(B-E{)}^{-1}$。

现有

$B-E=\left(\begin{array}{ccc}0& -3& 0\\ 2& 0& 0\\ 0& 0& 1\end{array}\right)$，

其逆矩阵为

$(B-E{)}^{-1}=\left(\begin{array}{ccc}0& \frac{1}{2}& 0\\ -\frac{1}{3}& 0& 0\\ 0& 0& 1\end{array}\right)$。

于是

$A=\left(\begin{array}{ccc}1& -3& 0\\ 2& 1& 0\\ 0& 0& 2\end{array}\right)\left(\begin{array}{ccc}0& \frac{1}{2}& 0\\ -\frac{1}{3}& 0& 0\\ 0& 0& 1\end{array}\right)$

$=\left(\begin{array}{ccc}1& \frac{1}{2}& 0\\ -\frac{1}{3}& 1& 0\\ 0& 0& 2\end{array}\right)$。

知识点：由$XY=E$可直接推出同阶方阵$X,Y$均可逆；矩阵乘法不可随意交换次序，因此必须写成$A=B(B-E{)}^{-1}$。

---

4. 【1995-12-3分】 设三阶方阵$A,B$满足关系式$A^{-1}BA=6A+BA$，且$A=\left(\begin{array}{ccc}\frac{1}{3}& 0& 0\\ 0& \frac{1}{4}& 0\\ 0& 0& \frac{1}{7}\end{array}\right)$，求$B$.

查看答案与解析

答案： $B=\left(\begin{array}{ccc}3& 0& 0\\ 0& 2& 0\\ 0& 0& 1\end{array}\right)$。

解析： 设

$A=\mathrm{diag}(a_1,a_2,a_3)$，

其中

$a_1=\frac{1}{3},a_2=\frac{1}{4},a_3=\frac{1}{7}$，

并令$B=(b_{ij})$。

矩阵$A^{-1}BA$的第$(i,j)$个元素为

$\frac{a_j}{a_i}{b}_{ij}$，

而$BA$的第$(i,j)$个元素为

$a_j{b}_{ij}$。

因此原方程逐元素写为

$\frac{a_j}{a_i}{b}_{ij}=6a_i{\delta }_{ij}+a_j{b}_{ij}$，

其中${\delta }_{ij}$为克罗内克符号。

当$i\ne j$时，

$a_j\left(\frac{1}{a_i}-1\right)b_{ij}=0$。

由于$a_j\ne 0$且$a_i\ne 1$，所以

$b_{ij}=0(i\ne j)$。

当$i=j$时，

$b_{ii}=6a_i+a_i{b}_{ii}$，

故

$b_{ii}=\frac{6a_i}{1-a_i}$。

于是

$b_{11}=\frac{6\cdot \frac{1}{3}}{1-\frac{1}{3}}=3$，

$b_{22}=\frac{6\cdot \frac{1}{4}}{1-\frac{1}{4}}=2$，

$b_{33}=\frac{6\cdot \frac{1}{7}}{1-\frac{1}{7}}=1$。

因此

$B=\left(\begin{array}{ccc}3& 0& 0\\ 0& 2& 0\\ 0& 0& 1\end{array}\right)$。

---

5. 【1997-2-5分】 已知$A=\left(\begin{array}{ccc}1& 1& -1\\ 0& 1& 1\\ 0& 0& -1\end{array}\right)$，且$A^2-AB=E$，$E$为单位矩阵，求$B$.

查看答案与解析

答案： $B=\left(\begin{array}{ccc}0& 2& 1\\ 0& 0& 0\\ 0& 0& 0\end{array}\right)$。

解析： 由

$A^2-AB=E$，

提取左因子$A$：

$A(A-B)=E$。

因此$A$可逆，且

$A-B=A^{-1}$，

从而

$B=A-A^{-1}$。

计算$A^{-1}$。由于$A$为上三角矩阵，可设

$A^{-1}=\left(\begin{array}{ccc}1& x& y\\ 0& 1& z\\ 0& 0& -1\end{array}\right)$。

由$A{A}^{-1}=E$得到

$x=-1,z=1,y=-2$，

故

$A^{-1}=\left(\begin{array}{ccc}1& -1& -2\\ 0& 1& 1\\ 0& 0& -1\end{array}\right)$。

所以

$B=\left(\begin{array}{ccc}1& 1& -1\\ 0& 1& 1\\ 0& 0& -1\end{array}\right)-\left(\begin{array}{ccc}1& -1& -2\\ 0& 1& 1\\ 0& 0& -1\end{array}\right)$

$=\left(\begin{array}{ccc}0& 2& 1\\ 0& 0& 0\\ 0& 0& 0\end{array}\right)$。

本题关键是从$A(A-B)=E$判断$A$可逆，再进行右侧乘法；不能把$A^2-AB$误写成$(A-B)A$。

---

6. 【1998-34-3分】 设矩阵$A,B$满足$A^{\ast }BA=2BA-8E$，其中$A=\left(\begin{array}{ccc}1& 0& 0\\ 0& -2& 0\\ 0& 0& 1\end{array}\right)$，$A^{\ast }$为$A$的伴随矩阵，则$B=$.

查看答案与解析

答案： $B=\left(\begin{array}{ccc}2& 0& 0\\ 0& -4& 0\\ 0& 0& 2\end{array}\right)$。

解析： 先计算$A^{\ast }$。由于

$|A|=-2$，

且

$A^{-1}=\left(\begin{array}{ccc}1& 0& 0\\ 0& -\frac{1}{2}& 0\\ 0& 0& 1\end{array}\right)$，

故

$A^{\ast }=|A|A^{-1}=\left(\begin{array}{ccc}-2& 0& 0\\ 0& 1& 0\\ 0& 0& -2\end{array}\right)$。

原方程为

$A^{\ast }BA-2BA=-8E$，

即

$(A^{\ast }-2E)BA=-8E$。

因为

$A^{\ast }-2E=\left(\begin{array}{ccc}-4& 0& 0\\ 0& -1& 0\\ 0& 0& -4\end{array}\right)$

可逆，且$A$也可逆，所以

$B=-8(A^{\ast }-2E{)}^{-1}{A}^{-1}$。

代入得

$B=-8\left(\begin{array}{ccc}-\frac{1}{4}& 0& 0\\ 0& -1& 0\\ 0& 0& -\frac{1}{4}\end{array}\right)\left(\begin{array}{ccc}1& 0& 0\\ 0& -\frac{1}{2}& 0\\ 0& 0& 1\end{array}\right)$

$=\left(\begin{array}{ccc}2& 0& 0\\ 0& -4& 0\\ 0& 0& 2\end{array}\right)$。

---

7. 【1998-2-5分】 设$(2E-C^{-1}B)A^T=C^{-1}$，其中$E$是4阶单位矩阵，$A^T$是$A$的转置矩阵，$B=\left(\begin{array}{cccc}1& 2& -3& -2\\ 0& 1& 2& -3\\ 0& 0& 1& 2\\ 0& 0& 0& 1\end{array}\right)$，$C=\left(\begin{array}{cccc}1& 2& 0& 1\\ 0& 1& 2& 0\\ 0& 0& 1& 2\\ 0& 0& 0& 1\end{array}\right)$，求$A$.

查看答案与解析

答案： $A=\left(\begin{array}{cccc}1& 0& 0& 0\\ -2& 1& 0& 0\\ 1& -2& 1& 0\\ 0& 1& -2& 1\end{array}\right)$。

解析： 注意到

$2E-C^{-1}B=C^{-1}(2C-B)$。

因此原方程化为

$C^{-1}(2C-B)A^T=C^{-1}$。

等式两边左乘$C$，得

$(2C-B)A^T=E$，

故

$A^T=(2C-B{)}^{-1}$。

计算

$2C-B=\left(\begin{array}{cccc}1& 2& 3& 4\\ 0& 1& 2& 3\\ 0& 0& 1& 2\\ 0& 0& 0& 1\end{array}\right)$。

对该上三角矩阵求逆，可得

$(2C-B{)}^{-1}=\left(\begin{array}{cccc}1& -2& 1& 0\\ 0& 1& -2& 1\\ 0& 0& 1& -2\\ 0& 0& 0& 1\end{array}\right)$。

所以

$A={\left[(2C-B{)}^{-1}\right]}^T$

$=\left(\begin{array}{cccc}1& 0& 0& 0\\ -2& 1& 0& 0\\ 1& -2& 1& 0\\ 0& 1& -2& 1\end{array}\right)$。

本题的化简关键是把$2E-C^{-1}B$提取为$C^{-1}(2C-B)$；由于矩阵乘法一般不交换，不能写成$(2C-B)C^{-1}$。

---

8. 【1999-4-3分】 已知$AB-B=A$，其中$B=\left(\begin{array}{ccc}1& -2& 0\\ 2& 1& 0\\ 0& 0& 2\end{array}\right)$，则$A=$.

查看答案与解析

答案： $A=\left(\begin{array}{ccc}1& \frac{1}{2}& 0\\ -\frac{1}{2}& 1& 0\\ 0& 0& 2\end{array}\right)$。

解析： 由

$AB-B=A$，

移项并提取右因子，得

$A(B-E)=B$。

这里

$B-E=\left(\begin{array}{ccc}0& -2& 0\\ 2& 0& 0\\ 0& 0& 1\end{array}\right)$，

且

$|B-E|=4\ne 0$，

所以$B-E$可逆。因此

$A=B(B-E{)}^{-1}$。

计算

$(B-E{)}^{-1}=\left(\begin{array}{ccc}0& \frac{1}{2}& 0\\ -\frac{1}{2}& 0& 0\\ 0& 0& 1\end{array}\right)$，

于是

$A=\left(\begin{array}{ccc}1& -2& 0\\ 2& 1& 0\\ 0& 0& 2\end{array}\right)\left(\begin{array}{ccc}0& \frac{1}{2}& 0\\ -\frac{1}{2}& 0& 0\\ 0& 0& 1\end{array}\right)$

$=\left(\begin{array}{ccc}1& \frac{1}{2}& 0\\ -\frac{1}{2}& 1& 0\\ 0& 0& 2\end{array}\right)$。

易错点：从$A(B-E)=B$求$A$时，应在等式右侧乘$(B-E{)}^{-1}$，不能左乘后随意改变矩阵次序。

大题

1. 【1987-45-7分】 设矩阵$A,B$满足$AB=A+2B$，求矩阵$B$，其中$A=\left(\begin{array}{ccc}3& 0& 1\\ 1& 1& 0\\ 0& 1& 4\end{array}\right)$

查看答案与解析

答案： $B=\left(\begin{array}{ccc}5& -2& -2\\ 4& -3& -2\\ -2& 2& 3\end{array}\right)$。

解析： 由

$AB=A+2B$，

移项得

$(A-2E)B=A$。

计算

$A-2E=\left(\begin{array}{ccc}1& 0& 1\\ 1& -1& 0\\ 0& 1& 2\end{array}\right)$，

其行列式为

$|A-2E|=-1\ne 0$，

所以$A-2E$可逆，从而

$B=(A-2E{)}^{-1}A$。

由初等变换或伴随矩阵法可得

$(A-2E{)}^{-1}=\left(\begin{array}{ccc}2& -1& -1\\ 2& -2& -1\\ -1& 1& 1\end{array}\right)$。

因此

$B=\left(\begin{array}{ccc}2& -1& -1\\ 2& -2& -1\\ -1& 1& 1\end{array}\right)\left(\begin{array}{ccc}3& 0& 1\\ 1& 1& 0\\ 0& 1& 4\end{array}\right)$

$=\left(\begin{array}{ccc}5& -2& -2\\ 4& -3& -2\\ -2& 2& 3\end{array}\right)$。

检验：代入可得$AB=A+2B$，故结果正确。关键是从$(A-2E)B=A$解出$B$时，应在左侧乘$(A-2E{)}^{-1}$。

---

2. 【1990-12-6分】 设四阶矩阵$B=\left(\begin{array}{cccc}1& -1& 0& 0\\ 0& 1& -1& 0\\ 0& 0& 1& -1\\ 0& 0& 0& 1\end{array}\right)$，$C=\left(\begin{array}{cccc}2& 1& 3& 4\\ 0& 2& 1& 3\\ 0& 0& 2& 1\\ 0& 0& 0& 2\end{array}\right)$，且矩阵$A$满足$A(E-C^{-1}B{)}^T{C}^T=E$，其中$E$为四阶单位矩阵，$C^{-1}$表示$C$的逆矩阵，$C^T$表示$C$的转置矩阵，将上述关系式化简并求矩阵$A$.

查看答案与解析

答案： $A=\left(\begin{array}{cccc}1& 0& 0& 0\\ -2& 1& 0& 0\\ 1& -2& 1& 0\\ 0& 1& -2& 1\end{array}\right)$。

解析： 先化简原式。因为

$E-C^{-1}B=C^{-1}(C-B)$，

所以

$(E-C^{-1}B{)}^T=(C-B{)}^T(C^{-1}{)}^T$。

又有

$(C^{-1}{)}^T=(C^T{)}^{-1}$，

故

$(E-C^{-1}B{)}^T{C}^T=(C-B{)}^T(C^T{)}^{-1}{C}^T=(C-B{)}^T$。

原方程化为

$A(C-B{)}^T=E$，

从而

$A=[(C-B{)}^T{]}^{-1}=[(C-B{)}^{-1}{]}^T$。

计算

$C-B=\left(\begin{array}{cccc}1& 2& 3& 4\\ 0& 1& 2& 3\\ 0& 0& 1& 2\\ 0& 0& 0& 1\end{array}\right)$。

其逆矩阵为

$(C-B{)}^{-1}=\left(\begin{array}{cccc}1& -2& 1& 0\\ 0& 1& -2& 1\\ 0& 0& 1& -2\\ 0& 0& 0& 1\end{array}\right)$。

所以

$A=[(C-B{)}^{-1}{]}^T=\left(\begin{array}{cccc}1& 0& 0& 0\\ -2& 1& 0& 0\\ 1& -2& 1& 0\\ 0& 1& -2& 1\end{array}\right)$。

易错点：转置乘积满足$(MN{)}^T=N^T{M}^T$，次序会反转；不能把$(E-C^{-1}B{)}^T$误写成$E-(C^{-1}{)}^T{B}^T$。

---

3. 【1999-2-6分】 设矩阵$A=\left(\begin{array}{ccc}1& 1& -1\\ -1& 1& 1\\ 1& -1& 1\end{array}\right)$，矩阵$X$满足$A^{\ast }X=A^{-1}+2X$，其中$A^{\ast }$是$A$的伴随矩阵，求矩阵$X$.

查看答案与解析

答案： $X=\frac{1}{4}\left(\begin{array}{ccc}1& 1& 0\\ 0& 1& 1\\ 1& 0& 1\end{array}\right)$。

解析： 先计算$A$的行列式：

$|A|=4\ne 0$，

故$A$可逆，且

$A^{-1}=\frac{1}{4}{A}^{\ast }=\left(\begin{array}{ccc}\frac{1}{2}& 0& \frac{1}{2}\\ \frac{1}{2}& \frac{1}{2}& 0\\ 0& \frac{1}{2}& \frac{1}{2}\end{array}\right)$。

因此

$A^{\ast }=\left(\begin{array}{ccc}2& 0& 2\\ 2& 2& 0\\ 0& 2& 2\end{array}\right)$。

原方程

$A^{\ast }X=A^{-1}+2X$

可写为

$(A^{\ast }-2E)X=A^{-1}$。

这里

$A^{\ast }-2E=\left(\begin{array}{ccc}0& 0& 2\\ 2& 0& 0\\ 0& 2& 0\end{array}\right)$，

且其行列式为$8\ne 0$，故可逆。其逆矩阵为

$(A^{\ast }-2E{)}^{-1}=\left(\begin{array}{ccc}0& \frac{1}{2}& 0\\ 0& 0& \frac{1}{2}\\ \frac{1}{2}& 0& 0\end{array}\right)$。

于是

$X=(A^{\ast }-2E{)}^{-1}{A}^{-1}$

$=\left(\begin{array}{ccc}0& \frac{1}{2}& 0\\ 0& 0& \frac{1}{2}\\ \frac{1}{2}& 0& 0\end{array}\right)\left(\begin{array}{ccc}\frac{1}{2}& 0& \frac{1}{2}\\ \frac{1}{2}& \frac{1}{2}& 0\\ 0& \frac{1}{2}& \frac{1}{2}\end{array}\right)$

$=\frac{1}{4}\left(\begin{array}{ccc}1& 1& 0\\ 0& 1& 1\\ 1& 0& 1\end{array}\right)$。

本题关键是利用$A^{\ast }=|A|A^{-1}$，并把含$X$的两项移到同一侧提取左因子。

---

4. 【2000-1-6分】 设矩阵$A$的伴随矩阵$A^{\ast }=\left(\begin{array}{cccc}1& 0& 0& 0\\ 0& 1& 0& 0\\ 1& 0& 1& 0\\ 0& -3& 0& 8\end{array}\right)$，且$AB{A}^{-1}=B{A}^{-1}+3E$，其中$E$为4阶单位矩阵，求矩阵$B$.

查看答案与解析

答案： $B=\left(\begin{array}{cccc}6& 0& 0& 0\\ 0& 6& 0& 0\\ 6& 0& 6& 0\\ 0& 3& 0& -1\end{array}\right)$。

解析： 由伴随矩阵行列式公式，对于四阶矩阵有

$|A^{\ast }|=|A{|}^3$。

已知$A^{\ast }$为下三角矩阵，故

$|A^{\ast }|=1\cdot 1\cdot 1\cdot 8=8$，

所以

$|A{|}^3=8$，即$|A|=2$。

又由

$A^{\ast }=|A|A^{-1}$，

得

$A=|A|(A^{\ast }{)}^{-1}=2(A^{\ast }{)}^{-1}$。

计算

$(A^{\ast }{)}^{-1}=\left(\begin{array}{cccc}1& 0& 0& 0\\ 0& 1& 0& 0\\ -1& 0& 1& 0\\ 0& \frac{3}{8}& 0& \frac{1}{8}\end{array}\right)$，

因此

$A=\left(\begin{array}{cccc}2& 0& 0& 0\\ 0& 2& 0& 0\\ -2& 0& 2& 0\\ 0& \frac{3}{4}& 0& \frac{1}{4}\end{array}\right)$。

原方程为

$AB{A}^{-1}=B{A}^{-1}+3E$。

等式两边右乘$A$，得

$AB=B+3A$，

即

$(A-E)B=3A$。

计算

$A-E=\left(\begin{array}{cccc}1& 0& 0& 0\\ 0& 1& 0& 0\\ -2& 0& 1& 0\\ 0& \frac{3}{4}& 0& -\frac{3}{4}\end{array}\right)$，

其行列式为$-\frac{3}{4}\ne 0$，所以可逆。因此

$B=3(A-E{)}^{-1}A$。

由

$(A-E{)}^{-1}=\left(\begin{array}{cccc}1& 0& 0& 0\\ 0& 1& 0& 0\\ 2& 0& 1& 0\\ 0& 1& 0& -\frac{4}{3}\end{array}\right)$，

可得

$B=\left(\begin{array}{cccc}6& 0& 0& 0\\ 0& 6& 0& 0\\ 6& 0& 6& 0\\ 0& 3& 0& -1\end{array}\right)$。

知识点：已知$A^{\ast }$反求$A$时，要同时使用$|A^{\ast }|=|A{|}^{n-1}$和$A=|A|(A^{\ast }{)}^{-1}$。

---

5. 【2001-2-6分】 已知矩阵$A=\left(\begin{array}{ccc}1& 0& 0\\ 1& 1& 0\\ 1& 1& 1\end{array}\right)$，$B=\left(\begin{array}{ccc}0& 1& 1\\ 1& 0& 1\\ 1& 1& 0\end{array}\right)$，且矩阵$X$满足$AXA+BXB=AXB+BXA+E$，其中$E$是3阶单位阵，求$X$.

查看答案与解析

答案： $X=\left(\begin{array}{ccc}1& 2& 5\\ 0& 1& 2\\ 0& 0& 1\end{array}\right)$。

解析： 将原方程移项：

$AXA-AXB-BXA+BXB=E$。

左边可以按矩阵乘法分配律因式分解为

$(A-B)X(A-B)=E$。

计算

$A-B=\left(\begin{array}{ccc}1& -1& -1\\ 0& 1& -1\\ 0& 0& 1\end{array}\right)$。

它是上三角矩阵，且

$|A-B|=1\ne 0$，

所以$A-B$可逆。由

$(A-B)X(A-B)=E$，

等式两边分别左乘、右乘$(A-B{)}^{-1}$，得

$X=(A-B{)}^{-1}(A-B{)}^{-1}=(A-B{)}^{-2}$。

计算

$(A-B{)}^{-1}=\left(\begin{array}{ccc}1& 1& 2\\ 0& 1& 1\\ 0& 0& 1\end{array}\right)$，

因此

$X={\left(\begin{array}{ccc}1& 1& 2\\ 0& 1& 1\\ 0& 0& 1\end{array}\right)}^2$

$=\left(\begin{array}{ccc}1& 2& 5\\ 0& 1& 2\\ 0& 0& 1\end{array}\right)$。

易错点：虽然$(A-B)X(A-B)=E$的左右因子相同，但求解时仍须保留矩阵乘法次序；本题恰好得到$X=(A-B{)}^{-1}(A-B{)}^{-1}$。