清华大学线性代数课程第十五讲：Gram-Schmidt正交化
参考资料:
清华大学数学科学系-线性代数-马辉
《工程数学 线性代数 第六版》 同济大学数学系 高等教育出版社
Linear Algebra by Gilbert Strang MIT麻省理工线性代数公开视频课，非常推荐！
1.正交向量组与正交矩阵
定理：设$\mathbf{v}{1}, \cdots, \mathbf{v}{k} \in \mathbb{R}^{n}$是非零的k个向量，满足$\mathbf{v}{i}^{T} \mathbf{v}{j}=0, i \neq j$，则$\mathbf{v}{1}, \cdots, \mathbf{v}{k}$线性无关。
证明：见《工程数学 线性代数 第六版》 同济大学数学系 高等教育出版社 P115
定理中$\mathbf{v}{1}, \cdots, \mathbf{v}{k}$称为正交向量组（orthogonal vectors）
定义： 如果n阶矩阵A满足$A^{\mathrm{T}} A=E$，即 $\left(A^{-1}=A^{\mathrm{T}}\right)$，那么称A为正交矩阵。上式用A的列向量表示，即是：
这也就是$n^{2}$个关系式：
这就说明：方阵A为正交矩阵的充分必要条件是A的列向量都是单位向量，且两两正交。
因为$A^{T} A=E$与$A A^{\top}=E$等价，所以上述结论对A的行向量亦成立。
由此可见，n阶正交矩阵A的n个列（行）向量构成向量空间$\mathbb{R}^{n}$的一个标准正交基。
定义： 若P为正交矩阵，则线性变换$y=Px$称为正交变换，设$y=Px$为正交变换，则有
因此说明经正交变换线段长度保持不变。
2.Gram-Schmidt正交化过程
见《工程数学 线性代数 第六版》 同济大学数学系 高等教育出版社 P117-P118
3.QR分解
Gram-Schmidt正交化把线性无关向量组$a{1}, \cdots, a{r}$导出标准正交向量组$q{1}, \cdots, q{r}$，用矩阵来描述这个过程，其中$A=\left(\mathbf{a}{1}, \mathbf{a}{2}, \cdots,\mathbf{a}{r}\right)$，$Q=\left(\mathbf{q}{1}, \mathbf{q}{2}, \cdots, \mathbf{q}{r}\right)$，$A{m \times n}=Q{m \times n} R_{n \times n}$。
以$\mathbb{R}^{3}$为例：
Q是正交矩阵，R是对角线上为正数的上三角阵。
性质：若A是可逆矩阵，则QR分解是唯一的
证明：设$A=Q{1} R{1}=Q{2} R{2}$为可逆矩阵A的两个QR分解，则$Q{2}^{-1} Q{1}=R{2} R{1}^{-1}$。$Q{2}^{-1} Q{1}$为正交矩阵，$R{2} R{1}^{-1}$为上三角阵，且对角元素为正。因为正交矩阵的逆矩阵仍为正交矩阵，且是原矩阵的转置，上三角矩阵的转置是下三角矩阵。故原矩阵只能为单位矩阵。故$Q{2}^{-1} Q{1}=R{2} R{1}^{-1}=I_{n}$。
个人理解$A=Q R$其实就是基变换公式，Q的列向量为施密特正交化后的标准正交基，其中R为过渡矩阵。