何要引入欧氏空间:在线性空间中,向量之间的基本运算为线性运算,其具体模型为几何空间,但几何空间的度量性质 (如长度、夹角) 等在一般线性空间中没有涉及。然而在解析几何中,向量的长度,夹角等度量性质通过内积反映都可以得出:
长度:
总结:欧几里得空间 = 向量空间 + 长度和角度
需要注意的是,只有在自然基(相互正交)的条件下才能用点积计算夹角和长度
旋转矩阵(Rotation Matrix):是在乘以一个向量的时候有改变向量的方向但不改变大小的效果并保持了手性的矩阵。
用矩阵形式重新表示为
可以看到, 只要不是满秩矩阵, 矩阵运算总有维度损失
- 满秩矩阵的复合_满秩矩阵P与非满秩矩阵A的乘积矩阵PA的秩为A的秩:
$\operatorname{rank}(P A)=\operatorname{rank}(A)$ - 普通矩阵的复合_小于等于两个复合矩阵的最小值:
$\operatorname{rank}(A B) \leq \min (\operatorname{rank}(A), \operatorname{rank}(B))$
映射前的维度
在下面这个例子中, {x1,x2 xn} 代表n维空间中的任意一点,因此其秩为
经过线性变换后的矩阵的秩为
- 方阵才有行列式,行列式的结果是一个值(可正可负)。
- 行列式为0的矩阵为奇异矩阵,不可逆(没有乘法逆元)
- 当某个方阵的行列式结果为0时,证明该方阵表示的线性变换将把原基向量压缩到更低维的空间(低一维还是二维不清楚)。因为该线性变换的(空间的)基是线性相关的,因此某些基可以用其他基表示,因此该线性变换至少损失一个基底,维度至少降低一维。 如上图中的两个新基底,实际上是共线的,也就是线性相关,因此必定会损失y轴方向的基地,从2维变成了1维
- 行列式的值的绝对值表示该(改变原基向量)的线性变换形成的新基底的乘积放大(或缩小)多少倍(如果是2 × 2矩阵,则是拉伸x轴和y轴的基底并产生的新四边形的面积;若为3 × 3矩阵,则为体积)
- 该结果的正负表示空间上的变向(如二维的翻面)
- 借助下图理解一下行列式的展开
在引入克莱姆法则之前,先引入有关n元线性方程组和有关矩阵、行列式的概念。含有n个未知数的线性方程组称为n元线性方程组。
当常数项全为零时,线性方程组⑵称为齐次线性方程组:
系数构成的行列式称为该方程组的系数行列式D:
定理
记法1: 若线性方程组(1)的系数矩阵可逆 (非奇异),即系数行列式
记法2: 若线性方程组 (1)的系数矩阵可逆(非奇异),即系数行列式
其中
记法1是将解写成矩阵 (列向量) 形式,而记法 2 是将解分别写成数字,本质相同。当其右端的常数项b1,b2,...,bn不全为零时,线性方程组⑴称为非齐次线性方程组。
三维向量叉乘:
等价于:
三点式方程:
由于三点确定一个平面, 加入找到平面上不共线三个点
上式的含义是
The length
1 If the square matrix
2 The algorithm to test invertibility is elimination:
3 The algebra test for invertibility is the determinant of
4 The equation that tests for invertibility is
5 If
6
7 The last page of the book gives 14 equivalent conditions for a square
对2×2矩阵,要得到U这个上三角矩阵,需要我们将2行1列的元消去,则需要E21这个矩阵,然后再求逆矩阵即可
对于更广泛的情况(如三维方阵),也是一样的思路:
Better balance from LDU:A = L U is "unsymmetric" because U has the pivots on its diagonal where L has l's. This is easy to change. Divide U by a diagonal matrix D that contains the pivots. That leaves a new triangular matrix with l's on the diagonal(对角线):
如下图的例子:
1 The transposes of
2 The dot product (inner product) is
3 The idea behind
4 A symmetric matrix has
5 An orthogonal matrix has
6 A permutation matrix
7 Then
The matrix
If
The symmetric factorization of a symmetric matrix is
定义:设
- 若
$\boldsymbol{a} \in \mathcal{V}, \boldsymbol{b} \in \mathcal{V}$ , 则$\boldsymbol{a}+\boldsymbol{b} \in \mathcal{V}$ 。 - 若
$\boldsymbol{a} \in \mathcal{V}, k \in \mathbb{R}$ , 则$k \boldsymbol{a} \in \mathcal{V}$ 。
M The vector space of all real 2 by 2 matrices.
F The vector space of all real functions
如何在向量空间中选择基底:
The column space of
The row space of
The nullspace of
The column space consists of all linear combinations of the columns. The combinations are all possible vectors
The system
列空间是一种用向量空间中的向量来张成子空间的方法,但可以将其推广:
Important Instead of columns in
1 The nullspace
2 Elimination (from
3 The reduced row echelon form
4 If column
5 Number of pivots
6 Every matrix with
The rank of
1 Complete solution to
2 Elimination on $\left[\begin{array}{ll}A & \boldsymbol{b}\end{array}\right]$ leads to $\left[\begin{array}{ll}R & \boldsymbol{d}\end{array}\right]$. Then
3 A \boldsymbol{x}=\boldsymbol{b}$ and
4 When
5 has full column rank
6 A has full row rank
7 The four cases are
8
要解Ax = b这个方程,需要一个AX = b方程的特解,还需要一个AX = 0的方程的通解:
比如下面这个例子:
解特解时,将自由变量设定为0,则其中一个特解肯定是[1,0,6,0]^T,AX = 0的通解分别令自由变量为0和1,解出来之后再乘上相应的Xi即可:
再如下例:
- The rank r = n,则该矩阵A应该是瘦长型的(m ≥ n),将A简化成为R将得到下式:
Every matrix
- All columns of
$A$ are pivot columns. - There are no free variables or special solutions.
- The nullspace
$\boldsymbol{N}(A)$ contains only the zero vector$\boldsymbol{x}=\mathbf{0}$ . - If
$A \boldsymbol{x}=b$ has a solution (it might not) then it has only one solution.
- A matrix has full row rank if r = m,则该矩阵是矮胖型的(n ≥ m)
Every matrix
$A$ with full row$\operatorname{rank}(\boldsymbol{r}=\boldsymbol{m})$ has all these properties:
- All rows have pivots, and
$R$ has no zero rows. -
$A \boldsymbol{x}=\boldsymbol{b}$ has a solution for every right side$b$ . - The column space is the whole space
$\mathbf{R}^m$ . - There are
$n-r=n-m$ special solutions in the nullspace of$A$ .
要解方程则按下图:
令
正交补的概念要考虑取满能正交的集合
基本子空间定理:若
想象一下三维空间中的一维和二维空间则很好理解这个定理
- Independent vectors(no extra vectors)
- Spanning a space(enough vectors to produce the rest)
- Basis for a space(not too many or too few) 少了不够,多了不独立
- Dimension of a space(the number of vectors in a basis)
1 Independent columns of
2 Independent vectors: The only zero combination
3 A matrix with
4 The vectors
5 The vectors
6 The dimension of a space
7 If
关于线性无关:当
The columns are certainly dependent if n > m, because Ax = 0 has a nonzero solution(矮胖型的零空间必定不止包含原点;未知数多方程少,肯定可以解出来)
The row space of
也可以记做R(A)
When
##$When
以上图为例:b为原始向量,a为目标线,p为投影向量,P为投影矩阵
Projecting
Projection
The combination
The next formula picks out the projection matrix that is multiplying
对一个空间进行线性变换之后发现大多数向量都会离开原来所张成的空间
而该拉伸的倍数被称为特征值(该例下特征值为1)
想象特征值和特征向量的拉伸非常有助于我们理解该线性变换(如下图)
要解特征向量就非常简单了,只需要将这个式子
而要一个非零向量进行左边的线性变换
对角化的结果是一个对角矩阵,本质就是把矩阵列向量都放到标准轴上。
某矩阵(代表某种线性变换)可以对角化 = 存在某组基,使得该线性变换在这组基的每一个向量上都是伸缩变换。可以说,对角矩阵一定是“观看演出时”的最佳视角
1 The columns of
2
3 The eigenvector matrix
4 No equal eigenvalues
5 Every matrix
正交矩阵的定义:称
正交矩阵有几个重要性质:
-
A的逆等于
$A$ 的转置,即$A^{-1}=A^T$ (显然) -
$\mathrm{A}$ 的行列式为$\pm 1$ , 即$|A|=\pm 1$ (通过二维的面积和三维的体积来理解这个事) -
A的行 (列) 向量组为
$n$ 维单位正交向量组(矩阵的各列向量都是单位向量,并且两两正交;对于正交矩阵,组成它的列向量构成了一个空间的基,称之为:规范正交基。)
正交矩阵的各个基底本身就是相互垂直,只是说它不见得是各个标准轴,因为可能并不放在各个标准轴上,可能有移动或者旋转
对角化的结果是一个对角矩阵,本质就是把矩阵列向量都放到标准轴上。 那么很显然:正交矩阵一定可以做到!
因此:凡是正交矩阵一定可以对角化
常规选择的基底是i和j,而有时会选择任意其他的b1和b2作为基底。如果希望对该b1和b2作为基底的某个向量进行线性变换,需要先将该基底变换为常规基底i和j,因为如果将矩阵视为线性变换的前提是基底为单位向量。
用i和j来理解b1和b2的话,只需要将两个基底分别作为列向量。下图即为将在b1和b2下表示为[-1,2]的向量转换为常规基底下的向量的过程:
因此可以得到下列的基变换过程,先用常规基底来刻画向量,再线性变换,最后再用逆矩阵将该变换还原到原来的基底:
需要提到的是:表达式
Proof
Suppose
在选择了两个不同的角度(线性空间的两组基)之后,同一个线性变换所对应的矩阵是不一样的。而这些矩阵都是彼此相似的矩阵。也就是说,相似矩阵是同一个线性变换在不同基下的矩阵,因此线性变换相同,则对应的线性变换的特征值也相同,只是选择的基底不同而已。
只要找到这两个组基的过渡矩阵(实际上就是基变换矩阵),就可以轻松得到相似定义中的公式
PS:特征多项式是行列式的展开:
以2 × 2矩阵为例介绍奇异值分解的意义:
Top: The action of M, indicated by its effect on the unit disc D and the two canonical unit vectors e1 and e2.
Left: The action of V⁎, a rotation, on D, e1, and e2.
Bottom: The action of Σ, a scaling by the singular values σ1 horizontally and σ2 vertically.
Right: The action of U, another rotation.
从线性变换的角度理解奇异值分解,
对矩阵
任意一个向量
定义(奇异值分解) 矩阵的奇异值分解是指, 将一个非零的
其中
其中:
如下图: