线性代数（3）：高斯消元法

复习线性代数第三章：高斯消元法

参考资料：
清华大学数学科学系-线性代数-马辉
《工程数学 线性代数 第六版》 同济大学数学系 高等教育出版社
Linear Algebra by Gilbert Strang 麻省理工视频公开课程

1.高斯（Gauss）消元法

在自然科学 社会科学及工程技术的许多领域，我们会遇到具有若干个未知量，若干个方程的大型线性方程组，这就要求我们思考求解线性方程组的系统解法，高斯消元法以德国著名数学家高斯（1777-1855）命名。高斯被认为是历史上最重要的数学家之一，还享有“数学王子”美誉。

德国十马克上的高斯头像，纸币正面还有正态分布曲线，哥廷根市标志性建筑，包括大学大讲堂，天文馆，教堂，市政厅。背面是航海用的六分仪。

Gauss消元法的步骤：

（1）若方程组的第一个主元位置为0，则交换方程以得到第一个主元
（2）用第一个方程的倍数消去第一个主元下方所有系数
（3）确定第二个主元，继续以上消元过程
（4）最后得到含一个未知量的方程，回代得到方程组的解

n个方程有n个主元 $\longleftrightarrow$ 方程组有唯一解
消元中止（即出现$0 = c \ne 0$ 或 $0 = 0$） $\longrightarrow$ 方程组无解或有无穷多解

Gauss消元法例子：

增广矩阵（augmented matrix）

对于非齐次线性方程组

$$\left\{\begin{array}{l}{a_{11} x_{1}+a_{12} x_{2}+\cdots+a_{1 n} x_{n}=b_{1}} \\ {a_{21} x_{1}+a_{22} x_{2}+\cdots+a_{2 n} x_{n}=b_{2}} \\ {\dots \ldots \ldots \ldots} \\ {a_{m 1} x_{1}+a_{m 2} x_{2}+\cdots+a_{m n} x_{n}=b_{m}}\end{array}\right.$$

有如下几个有用的矩阵：

$$A=\left(a_{i j}\right), x=\left( \begin{array}{c}{x_{1}} \\ {x_{2}} \\ {\vdots} \\ {x_{n}}\end{array}\right), \mathbf{b}=\left( \begin{array}{c}{b_{1}} \\ {b_{2}} \\ {\vdots} \\ {b_{m}}\end{array}\right),B=(A | \mathbf{b})$$

其中$A$称为系数矩阵，$x$称为未知数矩阵，$\mathbf{b}$称为常数项矩阵，$B$称为增广矩阵

初等行变换和初等矩阵（elementary matrix）

定义：以下三种变换称为矩阵的初等行变换
（1）对换两行（对换i，j两行，记作$r{i} \leftrightarrow r{j}$）
（2）以数$k \ne 0$ 乘某一行中的所有元（第i行乘k，记作$r{i} \times k$）
（3）把某一行所有元的k倍加到另一行所对应的元上去（第j行的k倍加到第i行上，记作$r{i}+k r_{j}$）
把定义中的“行”换成“列”，即得矩阵的初等列变换的定义（所用的记号把“r”换成“c”）
矩阵的初等行变换和初等列变换统称初等变换

定义：由单位矩阵E经过一次初等变换得到的矩阵称为初等矩阵（elementary matrix）

初等矩阵性质：设A是一个 $m \times n$ 矩阵，对A施行一次初等行变换，相当于在A的左边乘相应的m阶初等矩阵；对A施行一次初等列变换，相当于在A的右边乘相应的n阶初等矩阵。

简而言之：左乘换行，右乘换列

高斯消元法就是利用初等矩阵把方程组的增广矩阵的系数矩阵部分变换成上三角矩阵，然后求解，结果可能有唯一解，无穷多解和无解三种可能。