《线性代数的本质》 - 3blue1brown
In the beginning Grant created the space. And Grant said, Let there be vector: and there was vector.
三维几何空间中的一个有向线段称为向量 (vector)。本文统一用 a , b , c , k , λ a,b,c,k,\lambda a , b , c , k , λ u , v , w , a , b , x \mathbf u,\mathbf v,\mathbf w,\mathbf a,\mathbf b,\mathbf x u , v , w , a , b , x
向量通常定义两种运算：加法和数乘。加法遵循三角形法则(平行四边形法则)，数乘被称为缩放(scaling)。运算法则如下图
性质 ：根据向量的几何性质可证明向量的加法和数乘满足以下八条性质：
加法交换律：v + w = w + v \mathbf v+\mathbf w=\mathbf w+\mathbf v v + w = w + v
加法结合律：u + ( v + w ) = ( u + v ) + w \mathbf u+(\mathbf v+\mathbf w)=(\mathbf u+\mathbf v)+\mathbf w u + ( v + w ) = ( u + v ) + w
加法单位元：∃ 0 ∈ V , 0 + v = v \exists 0\in V,\ 0+\mathbf v=\mathbf v ∃ 0 ∈ V , 0 + v = v
加法逆元：∃ ( − v ) ∈ V , v + ( − v ) = 0 \exists (-\mathbf v)\in V,\ \mathbf v+(-\mathbf v)=0 ∃ ( − v ) ∈ V , v + ( − v ) = 0
数乘结合律：a ( b v ) = ( a b ) v a(b\mathbf v)=(ab)\mathbf v a ( b v ) = ( a b ) v
数乘分配律：a ( v + w ) = a v + a w a(\mathbf v+\mathbf w)=a\mathbf v+a\mathbf w a ( v + w ) = a v + a w
数乘分配律：( a + b ) v = a v + b v (a+b)\mathbf v=a\mathbf v+b\mathbf v ( a + b ) v = a v + b v
数乘单位元：∃ 1 ∈ F , 1 v = v \exists 1\in\mathbb F,\ 1\mathbf v=\mathbf v ∃ 1 ∈ F , 1 v = v
向量空间是三维几何空间向高维空间的推广。线性代数中，每个向量都以坐标原点为起点，那么任何一个向量就由其终点唯一确定。从而，向量和空间中的点一一对应。因此，空间也可以看成由所有向量组成的集合，并且集合中的元素可以进行加法和数乘运算。于是，便有了向量空间的抽象定义。
向量空间 ： 设 V V V n n n 非空集合 ，F \mathbb F F V V V V V V F F F 向量空间 (vector space)。所谓封闭是指
∀ v , w ∈ V , v + w ∈ V \forall\mathbf v,\mathbf w\in V,\ \mathbf v+\mathbf w\in V ∀ v , w ∈ V , v + w ∈ V ∀ v ∈ V , c ∈ F , c v ∈ V \forall\mathbf v\in V, c\in F,\ c\mathbf v\in V ∀ v ∈ V , c ∈ F , c v ∈ V
线性代数中的数域通常取全体实数，即 F = R \mathbb F=\R F = R
例如：n n n
R n = { x = ( x 1 , x 2 , ⋯ , x n ) ∣ x 1 , x 2 , ⋯ , x n ∈ R } \R^n=\{\mathbf x=(x_1,x_2,\cdots,x_n)\mid x_1,x_2,\cdots,x_n\in\R\}
R n = { x = ( x 1 , x 2 , ⋯ , x n ) ∣ x 1 , x 2 , ⋯ , x n ∈ R }
子空间 ：设 U U U V V V U U U U U U V V V 子空间 。
仿照解析几何的基本方法，建立一个坐标系，实现空间内的点与有序实数对一一对应，从而空间内的向量与有序实数对也一一对应，这样就可以用代数方法来研究向量的性质。
为方便建立空间的坐标系，先定义几个概念。
定义 ：取向量空间 V V V a 1 , a 2 , ⋯ , a r \mathbf a_1,\mathbf a_2,\cdots,\mathbf a_r a 1 , a 2 , ⋯ , a r
向量 x 1 a 1 + x 2 a 2 + ⋯ + x r a r x_1\mathbf a_1+x_2\mathbf a_2+\cdots+x_r\mathbf a_r x 1 a 1 + x 2 a 2 + ⋯ + x r a r 线性组合 (linear combination)
向量组的所有线性组合构成的向量集称为由该向量组张成的空间，记作
span { a 1 , ⋯ , a n } = { x 1 a 1 + ⋯ + x n a n ∣ x 1 , ⋯ , x n ∈ R } \text{span}\{\mathbf a_1,\cdots,\mathbf a_n\}=\{x_1\mathbf a_1+\cdots+x_n\mathbf a_n\mid x_1,\cdots,x_n\in\R\}
span { a 1 , ⋯ , a n } = { x 1 a 1 + ⋯ + x n a n ∣ x 1 , ⋯ , x n ∈ R }
如下图，若 u , v ∈ R 3 \mathbf u,\mathbf v\in\R^3 u , v ∈ R 3 span { u , v } \text{span}\{\mathbf u,\mathbf v\} span { u , v } R 3 \R^3 R 3 u , v \mathbf u,\mathbf v u , v
当且仅当系数 x 1 = x 2 = ⋯ = x r = 0 x_1=x_2=\cdots=x_r=0 x 1 = x 2 = ⋯ = x r = 0
x 1 a 1 + x 2 a 2 + ⋯ + x r a r = 0 x_1\mathbf a_1+x_2\mathbf a_2+\cdots+x_r\mathbf a_r=0
x 1 a 1 + x 2 a 2 + ⋯ + x r a r = 0
则称向量组线性无关 (linearly independence)。反之，如果存在不全为零的数使上式成立，则称向量组线性相关 (linearly dependence)。
定理 ：若向量 v \mathbf v v a 1 , a 2 , ⋯ , a r \mathbf a_1,\mathbf a_2,\cdots,\mathbf a_r a 1 , a 2 , ⋯ , a r
证明：设向量v \mathbf v v
b = k 1 a 1 + k 2 a 2 + ⋯ + k r a r b = l 1 a 1 + l 2 a 2 + ⋯ + l r a r \mathbf b=k_1\mathbf a_1+k_2\mathbf a_2+\cdots+k_r\mathbf a_r \\
\mathbf b=l_1\mathbf a_1+l_2\mathbf a_2+\cdots+l_r\mathbf a_r
b = k 1 a 1 + k 2 a 2 + ⋯ + k r a r b = l 1 a 1 + l 2 a 2 + ⋯ + l r a r
则有
( k 1 − l 1 ) a 1 + ( k 1 − l 2 ) a 2 + ⋯ + ( k 1 − l r ) a r = 0 (k_1-l_1)\mathbf a_1+(k_1-l_2)\mathbf a_2+\cdots+(k_1-l_r)\mathbf a_r=0
( k 1 − l 1 ) a 1 + ( k 1 − l 2 ) a 2 + ⋯ + ( k 1 − l r ) a r = 0
因为 a 1 , a 2 , ⋯ , a r \mathbf a_1,\mathbf a_2,\cdots,\mathbf a_r a 1 , a 2 , ⋯ , a r
k 1 − l 1 = k 1 − l 1 = ⋯ = k 1 − l 1 = 0 k_1-l_1=k_1-l_1=\cdots=k_1-l_1=0
k 1 − l 1 = k 1 − l 1 = ⋯ = k 1 − l 1 = 0
即表示系数是唯一的。
接下来，我们自然想用一组线性无关的向量来张成整个向量空间。
向量空间的基 ：张成向量空间V V V 基 (basis)。基向量组所含向量的个数，称为向量空间 V V V 维数 (dimension)，记为 dim V \dim V dim V
可以证明，向量空间的任意一组基的向量个数是相等的。{ 0 } \{0\} { 0 } 零空间 。零空间的维数定义为零。
基定理 ：n n n n n n
向量空间选定了基向量后，空间中全体向量的集合与全体有序实数组的集合之间就建立了一一 对应的关系。
坐标 ：设向量组 a 1 , a 2 , ⋯ , a n \mathbf a_1,\mathbf a_2,\cdots,\mathbf a_n a 1 , a 2 , ⋯ , a n V V V v ∈ V \mathbf v\in V v ∈ V
v = x 1 a 1 + x 2 a 2 + ⋯ + x n a n \mathbf v=x_1\mathbf a_1+x_2\mathbf a_2+\cdots+x_n\mathbf a_n
v = x 1 a 1 + x 2 a 2 + ⋯ + x n a n
有序数组 x 1 , x 2 , ⋯ , x n x_1,x_2,\cdots,x_n x 1 , x 2 , ⋯ , x n v \mathbf v v a 1 , a 2 , ⋯ , a n \mathbf a_1,\mathbf a_2,\cdots,\mathbf a_n a 1 , a 2 , ⋯ , a n 坐标 ，一般记作
[ x 1 x 2 ⋮ x n ] or ( x 1 , x 2 , ⋯ , x n ) \begin{bmatrix}x_1\\x_2\\\vdots\\x_n\end{bmatrix}\quad \text{or}\quad
(x_1,x_2,\cdots,x_n)
⎣ ⎢ ⎢ ⎢ ⎡ x 1 x 2 ⋮ x n ⎦ ⎥ ⎥ ⎥ ⎤ or ( x 1 , x 2 , ⋯ , x n )
类似于三维几何空间，由n n n n n n
例：设 v 1 = [ 3 6 2 ] , v 2 = [ − 1 0 1 ] , x = [ 3 12 7 ] \mathbf v_1=\begin{bmatrix}3\\6\\2\end{bmatrix},\mathbf v_2=\begin{bmatrix}-1\\0\\1\end{bmatrix},\mathbf x=\begin{bmatrix}3\\12\\7\end{bmatrix} v 1 = ⎣ ⎡ 3 6 2 ⎦ ⎤ , v 2 = ⎣ ⎡ − 1 0 1 ⎦ ⎤ , x = ⎣ ⎡ 3 1 2 7 ⎦ ⎤ x \mathbf x x H = span { v 1 , v 2 } H=\text{span }\{\mathbf v_1,\mathbf v_2\} H = span { v 1 , v 2 } x \mathbf x x B = { v 1 , v 2 } B=\{\mathbf v_1,\mathbf v_2\} B = { v 1 , v 2 }
解：如果 x \mathbf x x H = span { v 1 , v 2 } H=\text{span }\{\mathbf v_1,\mathbf v_2\} H = span { v 1 , v 2 }
c 1 [ 3 6 2 ] + c 2 [ − 1 0 1 ] = [ 3 12 7 ] c_1\begin{bmatrix}3\\6\\2\end{bmatrix}+c_2\begin{bmatrix}-1\\0\\1\end{bmatrix}=\begin{bmatrix}3\\12\\7\end{bmatrix}
c 1 ⎣ ⎡ 3 6 2 ⎦ ⎤ + c 2 ⎣ ⎡ − 1 0 1 ⎦ ⎤ = ⎣ ⎡ 3 1 2 7 ⎦ ⎤
如果数 c 1 , c 2 c_1,c_2 c 1 , c 2 x \mathbf x x B B B
[ 3 − 1 3 6 0 12 2 1 7 ] → [ 1 0 2 0 1 3 0 0 0 ] \begin{bmatrix}\begin{array}{cc:c}
3&-1&3\\6&0&12\\2&1&7
\end{array}\end{bmatrix}\to
\begin{bmatrix}\begin{array}{cc:c}
1&0&2\\0&1&3\\0&0&0
\end{array}\end{bmatrix}
⎣ ⎡ 3 6 2 − 1 0 1 3 1 2 7 ⎦ ⎤ → ⎣ ⎡ 1 0 0 0 1 0 2 3 0 ⎦ ⎤
于是， x \mathbf x x v 1 , v 2 \mathbf v_1,\mathbf v_2 v 1 , v 2
v B = [ 3 2 ] \mathbf v_B=\begin{bmatrix}3\\2\end{bmatrix}
v B = [ 3 2 ]
有时为了区分坐标的基向量，向量 v \mathbf v v B = { b 1 , b 2 , ⋯ , b n } B=\{\mathbf b_1,\mathbf b_2,\cdots,\mathbf b_n\} B = { b 1 , b 2 , ⋯ , b n } v B \mathbf v_B v B
建立了坐标之后，V V V v \mathbf v v R n \R^n R n ( x 1 , x 2 , ⋯ , x n ) T (x_1,x_2,\cdots,x_n)^T ( x 1 , x 2 , ⋯ , x n ) T
设 v , w ∈ V \mathbf v,\mathbf w\in V v , w ∈ V
v = v 1 a 1 + v 2 a 2 + ⋯ + v n a n w = w 1 a 1 + w 2 a 2 + ⋯ + w n a n \mathbf v=v_1\mathbf a_1+v_2\mathbf a_2+\cdots+v_n\mathbf a_n\\
\mathbf w=w_1\mathbf a_1+w_2\mathbf a_2+\cdots+w_n\mathbf a_n
v = v 1 a 1 + v 2 a 2 + ⋯ + v n a n w = w 1 a 1 + w 2 a 2 + ⋯ + w n a n
向量加法运算
v + w = ( v 1 + w 1 ) a 1 + ( v 2 + w 2 ) a 2 + ⋯ + ( v n + w n ) a n \mathbf v+\mathbf w=(v_1+w_1)\mathbf a_1+(v_2+w_2)\mathbf a_2+\cdots+(v_n+w_n)\mathbf a_n
v + w = ( v 1 + w 1 ) a 1 + ( v 2 + w 2 ) a 2 + ⋯ + ( v n + w n ) a n
即对应的坐标运算为
[ v 1 v 2 ⋮ v n ] + [ w 1 w 2 ⋮ w n ] = [ v 1 + w 1 v 2 + w 2 ⋮ v n + w n ] \begin{bmatrix}v_1\\ v_2\\ \vdots \\ v_n\end{bmatrix}+
\begin{bmatrix}w_1\\ w_2\\ \vdots \\ w_n\end{bmatrix}=
\begin{bmatrix}v_1+w_1\\ v_2+w_2\\ \vdots \\ v_n+w_n\end{bmatrix}
⎣ ⎢ ⎢ ⎢ ⎡ v 1 v 2 ⋮ v n ⎦ ⎥ ⎥ ⎥ ⎤ + ⎣ ⎢ ⎢ ⎢ ⎡ w 1 w 2 ⋮ w n ⎦ ⎥ ⎥ ⎥ ⎤ = ⎣ ⎢ ⎢ ⎢ ⎡ v 1 + w 1 v 2 + w 2 ⋮ v n + w n ⎦ ⎥ ⎥ ⎥ ⎤
向量数乘运算
c v = ( c v 1 ) a 1 + ( c v 2 ) a 2 + ⋯ + ( c v n ) a n c\mathbf v=(cv_1)\mathbf a_1+(cv_2)\mathbf a_2+\cdots+(cv_n)\mathbf a_n
c v = ( c v 1 ) a 1 + ( c v 2 ) a 2 + ⋯ + ( c v n ) a n
即对应的坐标运算为
c [ v 1 v 2 ⋮ v n ] = [ c v 1 c v 2 ⋮ c v n ] c\begin{bmatrix}v_1\\ v_2\\ \vdots \\ v_n\end{bmatrix}=
\begin{bmatrix}cv_1\\ cv_2\\ \vdots \\ cv_n\end{bmatrix}
c ⎣ ⎢ ⎢ ⎢ ⎡ v 1 v 2 ⋮ v n ⎦ ⎥ ⎥ ⎥ ⎤ = ⎣ ⎢ ⎢ ⎢ ⎡ c v 1 c v 2 ⋮ c v n ⎦ ⎥ ⎥ ⎥ ⎤
向量的坐标取值依托于坐标系的基向量。选取的基向量不同，其所对应的坐标值就不同。当然，基向量自身的坐标总是：
e 1 = [ 1 0 ⋮ 0 ] , e 2 = [ 0 1 ⋮ 0 ] , ⋯ , e n = [ 0 0 ⋮ 1 ] , \mathbf e_1=\begin{bmatrix}1\\0\\\vdots\\0\end{bmatrix},\quad
\mathbf e_2=\begin{bmatrix}0\\1\\\vdots\\0\end{bmatrix},\quad
\cdots,\quad
\mathbf e_n=\begin{bmatrix}0\\0\\\vdots\\1\end{bmatrix},\quad
e 1 = ⎣ ⎢ ⎢ ⎢ ⎡ 1 0 ⋮ 0 ⎦ ⎥ ⎥ ⎥ ⎤ , e 2 = ⎣ ⎢ ⎢ ⎢ ⎡ 0 1 ⋮ 0 ⎦ ⎥ ⎥ ⎥ ⎤ , ⋯ , e n = ⎣ ⎢ ⎢ ⎢ ⎡ 0 0 ⋮ 1 ⎦ ⎥ ⎥ ⎥ ⎤ ,
这种坐标形式通常称为标准向量组 (或单位坐标向量组 )。
总之，在n n n V n V_n V n V n V_n V n R n \R^n R n O O O e 1 , e 2 , ⋯ , e n \mathbf e_1,\mathbf e_2,\cdots,\mathbf e_n e 1 , e 2 , ⋯ , e n 后续将对向量实体和坐标不做区分 。
本节从二维平面出发学习线性代数。通常选用平面坐标系 O x y Oxy O x y i , j \mathbf i,\ \mathbf j i , j
v = x i + y j \mathbf v=x\mathbf i+y\mathbf j
v = x i + y j
这样，平面内的点和有序实数对 ( x , y ) (x,y) ( x , y )
变换与函数类似，函数把数映射到数，变换把点(向量)映射到点(向量)。
T : v ↦ T ( v ) T:\quad \mathbf v\mapsto T(\mathbf v)
T : v ↦ T ( v )
例如，(1) 平面内任意一点 P ( x , y ) P(x,y) P ( x , y ) O O O 60 ° 60\degree 6 0 ° P ′ ( x ′ , y ′ ) P'(x',y') P ′ ( x ′ , y ′ )
{ x ′ = 1 2 x − 3 2 y y ′ = 3 2 x + 1 2 y \begin{cases}
x'=\frac{1}{2}x-\frac{\sqrt 3}{2}y \\
y'=\frac{\sqrt 3}{2}x+\frac{1}{2}y
\end{cases}
{ x ′ = 2 1 x − 2 3 y y ′ = 2 3 x + 2 1 y
可写为向量形式
[ x ′ y ′ ] = x [ 1 2 3 2 ] + y [ − 3 2 1 2 ] \begin{bmatrix}x'\\y'\end{bmatrix}=
x\begin{bmatrix}\frac{1}{2}\\\frac{\sqrt 3}{2}\end{bmatrix}+
y\begin{bmatrix}-\frac{\sqrt 3}{2}\\\frac{1}{2}\end{bmatrix}
[ x ′ y ′ ] = x [ 2 1 2 3 ] + y [ − 2 3 2 1 ]
(2) 平面内任意一点 P ( x , y ) P(x,y) P ( x , y ) y y y P ′ ( x ′ , y ′ ) P'(x',y') P ′ ( x ′ , y ′ )
{ x ′ = − x y ′ = y \begin{cases}
x'=-x \\
y'=y
\end{cases}
{ x ′ = − x y ′ = y
可写为向量形式
[ x ′ y ′ ] = x [ − 1 0 ] + y [ 0 1 ] \begin{bmatrix}x'\\y'\end{bmatrix}=
x\begin{bmatrix}-1\\0\end{bmatrix}+
y\begin{bmatrix}0\\1\end{bmatrix}
[ x ′ y ′ ] = x [ − 1 0 ] + y [ 0 1 ]
事实上，在平面坐标系 O x y Oxy O x y
{ x ′ = a x + b y y ′ = c x + d y \begin{cases}
x'=ax+by \\
y'=cx+dy
\end{cases}
{ x ′ = a x + b y y ′ = c x + d y
向量形式为
[ x ′ y ′ ] = x [ a c ] + y [ b d ] \begin{bmatrix}x'\\y'\end{bmatrix}=
x\begin{bmatrix}a\\c\end{bmatrix}+
y\begin{bmatrix}b\\d\end{bmatrix}
[ x ′ y ′ ] = x [ a c ] + y [ b d ]
其中 ( x ′ , y ′ ) (x',y') ( x ′ , y ′ ) ( x , y ) (x,y) ( x , y ) 平面线性变换 。
容易证明，线性变换满足下列两条性质
(1) 可加性：T ( v + w ) = T ( v ) + T ( w ) T(\mathbf v+\mathbf w)=T(\mathbf v)+T(\mathbf w) T ( v + w ) = T ( v ) + T ( w ) T ( c v ) = c L ( v ) T(c\mathbf v)=cL(\mathbf v) T ( c v ) = c L ( v )
事实上，这两条性质才是线性变换的严格定义。
为了进一步了解线性变换的本质，取任意向量 v = x i + y j \mathbf v=x\mathbf i+y\mathbf j v = x i + y j T T T
T ( v ) = T ( x i + y j ) = x T ( i ) + y T ( j ) T(\mathbf v)=T(x\mathbf i+y\mathbf j)=xT(\mathbf i)+yT(\mathbf j)
T ( v ) = T ( x i + y j ) = x T ( i ) + y T ( j )
可知，变换后的向量 T ( v ) T(\mathbf v) T ( v ) 。设变换后的基向量分别为
T ( i ) = a i + c j = [ a c ] , T ( j ) = b i + d j = [ b d ] T(\mathbf i)=a\mathbf i+c\mathbf j=\begin{bmatrix}a\\c\end{bmatrix},\quad
T(\mathbf j)=b\mathbf i+d\mathbf j=\begin{bmatrix}b\\d\end{bmatrix}
T ( i ) = a i + c j = [ a c ] , T ( j ) = b i + d j = [ b d ]
注意：本章线性变换中的坐标始终使用最初的 O x y Oxy O x y
于是，线性变换 T : v ↦ T ( v ) T:\mathbf v\mapsto T(\mathbf v) T : v ↦ T ( v )
[ x ′ y ′ ] = x [ a c ] + y [ b d ] \begin{bmatrix}x'\\y'\end{bmatrix}=
x\begin{bmatrix}a\\c\end{bmatrix}+
y\begin{bmatrix}b\\d\end{bmatrix}
[ x ′ y ′ ] = x [ a c ] + y [ b d ]
由于上述变换由变换后的基向量唯一确定，我们可以按顺序写为数表的形式
我们把这个数表称为二阶矩阵，一般用大写英文字母表示。变换后的向量则定义为矩阵与向量的乘积
[ a b c d ] [ x y ] = x [ a c ] + y [ b d ] = [ a x + b y c x + d y ] \begin{bmatrix}a & b\\c & d\end{bmatrix}\begin{bmatrix}x\\y\end{bmatrix}=
x\begin{bmatrix} a \\ c \end{bmatrix}+
y\begin{bmatrix} b \\ d \end{bmatrix}=
\begin{bmatrix} ax+by \\ cx+dy \end{bmatrix}
[ a c b d ] [ x y ] = x [ a c ] + y [ b d ] = [ a x + b y c x + d y ]
可知，矩阵代表一个特定的线性变换，我们完全可以把矩阵的列看作变换后的基向量，矩阵向量乘法就是将线性变换作用于给定向量 。
Grant：矩阵最初的定义就来自线性变换。
至此，任何一个线性变换都可以写为矩阵与向量乘积的形式。反之，确定了坐标系后，任何一个矩阵都唯一确定了一个线性变换。矩阵和向量的乘积与线性变换实现了一一对应。
一般地，直线在线性变换后仍然保持直线 。
证明：如图 l l l w 1 , w 2 \mathbf w_1,\mathbf w_2 w 1 , w 2 v \mathbf v v l l l
v = w 1 + λ ( w 2 − w 1 ) = ( 1 − λ ) w 1 + λ w 2 ( λ ∈ R ) \mathbf v=\mathbf w_1+\lambda(\mathbf w_2-\mathbf w_1)=(1-\lambda)\mathbf w_1+\lambda \mathbf w_2 \quad (\lambda\in\R)
v = w 1 + λ ( w 2 − w 1 ) = ( 1 − λ ) w 1 + λ w 2 ( λ ∈ R )
令 λ 1 + λ 2 = 1 \lambda_1+\lambda_2=1 λ 1 + λ 2 = 1
v = λ 1 w 1 + λ 2 w 2 \mathbf v=\lambda_1 \mathbf w_1+\lambda_2 \mathbf w_2
v = λ 1 w 1 + λ 2 w 2
这就是由向量 w 1 , w 2 \mathbf w_1,\mathbf w_2 w 1 , w 2 l l l A A A
v ′ = A ( λ 1 w 1 + λ 2 w 2 ) = λ 1 A w 1 + λ 2 A w 2 \mathbf v'=A(\lambda_1 \mathbf w_1+\lambda_2 \mathbf w_2)=\lambda_1 A\mathbf w_1+\lambda_2 A\mathbf w_2
v ′ = A ( λ 1 w 1 + λ 2 w 2 ) = λ 1 A w 1 + λ 2 A w 2
(1) 如果 A w 1 ≠ A w 2 A\mathbf w_1\neq A\mathbf w_2 A w 1 = A w 2 v ′ \mathbf v' v ′ A w 1 , A w 2 A\mathbf w_1,A\mathbf w_2 A w 1 , A w 2 A A A A w 1 = A w 2 A\mathbf w_1 = A\mathbf w_2 A w 1 = A w 2 λ 1 A w 1 + λ 2 A w 2 = A w 1 \lambda_1 A\mathbf w_1+\lambda_2 A\mathbf w_2=A\mathbf w_1 λ 1 A w 1 + λ 2 A w 2 = A w 1 A w 1 A\mathbf w_1 A w 1 A A A l l l A w 1 A\mathbf w_1 A w 1
Grant：我们可以使用无限网格刻画二维空间所有点的变换。线性变换是操作空间的一种手段，它能够保持网格线平行且等距，并保持原点不动 。
我们已经知道，在线性变换的作用下，直线仍然保持直线(或一个点)。为了方便，我们只考虑在平面直角坐标系内，单位正方形区域的线性变换。
根据向量加法的平行四边形法则，单位正方形区域可用向量形式表示为
[ x y ] = x i + y j ( 0 ⩽ x , y ⩽ 1 ) \begin{bmatrix}x\\y\end{bmatrix}=x\mathbf i+y\mathbf j \quad(0\leqslant x,y\leqslant 1)
[ x y ] = x i + y j ( 0 ⩽ x , y ⩽ 1 )
由线性变换基本性质知，变换后的区域为
A [ x y ] = x ( A i ) + y ( A j ) ( 0 ⩽ x , y ⩽ 1 ) A\begin{bmatrix}x\\y\end{bmatrix}=x(A\mathbf i)+y(A\mathbf j) \quad(0\leqslant x,y\leqslant 1)
A [ x y ] = x ( A i ) + y ( A j ) ( 0 ⩽ x , y ⩽ 1 )
表示以 A i , A j A\mathbf i,A\mathbf j A i , A j i , j \mathbf i,\mathbf j i , j
恒等变换 ：把平面内任意一点 P ( x , y ) P(x,y) P ( x , y ) I I I
[ 1 0 0 1 ] \begin{bmatrix}
1 & 0\\
0 & 1
\end{bmatrix}
[ 1 0 0 1 ]
旋转变换 ：(rotations)平面内任意一点 P ( x , y ) P(x,y) P ( x , y ) O O O θ \theta θ R θ R_{\theta} R θ
[ cos θ − sin θ sin θ cos θ ] \begin{bmatrix}
\cos\theta & -\sin\theta\\
\sin\theta & \cos\theta
\end{bmatrix}
[ cos θ sin θ − sin θ cos θ ]
切变变换 ：(shears)平行于 x x x
[ 1 k 0 1 ] \begin{bmatrix}
1 & k\\
0 & 1
\end{bmatrix}
[ 1 0 k 1 ]
类似的，平行于 y y y
[ 1 0 k 1 ] \begin{bmatrix}
1 & 0\\
k & 1
\end{bmatrix}
[ 1 k 0 1 ]
反射变换 ：(reflection)一般的我们把平面内任意一点 P ( x , y ) P(x,y) P ( x , y ) l l l l l l
(1) 关于 y y y
[ − 1 0 0 1 ] \begin{bmatrix}
-1 & 0\\
0 & 1
\end{bmatrix}
[ − 1 0 0 1 ]
(2) 关于直线 y = x y=x y = x
[ 0 1 1 0 ] \begin{bmatrix}
0 & 1\\
1 & 0
\end{bmatrix}
[ 0 1 1 0 ]
(3) 关于直线 y = k x y=kx y = k x
1 k 2 + 1 [ 1 − k 2 2 k 2 k k 2 − 1 ] \frac{1}{k^2+1}\begin{bmatrix}
1-k^2 & 2k\\
2k & k^2-1
\end{bmatrix}
k 2 + 1 1 [ 1 − k 2 2 k 2 k k 2 − 1 ]
伸缩变换 ：(stretching)将每个点的横坐标变为原来的 k 1 k_1 k 1 k 2 k_2 k 2 k 1 , k 2 ≠ 0 k_1,k_2\neq0 k 1 , k 2 = 0
[ k 1 0 0 k 2 ] \begin{bmatrix}
k_1 & 0\\
0 & k_2
\end{bmatrix}
[ k 1 0 0 k 2 ]
投影变换 ：(projection)平面内任意一点 P ( x , y ) P(x,y) P ( x , y ) l l l l l l
(1) 关于 x x x
[ 1 0 0 0 ] \begin{bmatrix}
1 & 0\\
0 & 0
\end{bmatrix}
[ 1 0 0 0 ]
(2) 关于 y y y
[ 0 0 0 1 ] \begin{bmatrix}
0 & 0\\
0 & 1
\end{bmatrix}
[ 0 0 0 1 ]
(3) 关于直线 y = k x y=kx y = k x
1 k 2 + 1 [ 1 k k k 2 ] \frac{1}{\sqrt{k^2+1}}\begin{bmatrix}
1 & k\\
k & k^2
\end{bmatrix}
k 2 + 1 1 [ 1 k k k 2 ]
平移变换 ：形如 ( x , y ) ↦ ( x + h , y + k ) (x,y)\mapsto (x+h,y+k) ( x , y ) ↦ ( x + h , y + k ) 齐次坐标 ：平面内的每个点 ( x , y ) (x,y) ( x , y ) ( x , y , 1 ) (x,y,1) ( x , y , 1 ) T : ( x , y , 1 ) ↦ ( x + h , y + k , 1 ) T:(x,y,1)\mapsto (x+h,y+k,1) T : ( x , y , 1 ) ↦ ( x + h , y + k , 1 )
[ 1 0 h 0 1 k 0 0 1 ] \begin{bmatrix}
1 & 0 & h \\
0 & 1 & k \\
0 & 0 & 1
\end{bmatrix}
⎣ ⎡ 1 0 0 0 1 0 h k 1 ⎦ ⎤
平面内任意一向量，依次做旋转变换 R θ 1 : [ cos θ 1 − sin θ 1 sin θ 1 cos θ 1 ] R_{\theta_1}:\begin{bmatrix}
\cos{\theta_1} & -\sin{\theta_1}\\
\sin{\theta_1} & \cos{\theta_1}
\end{bmatrix} R θ 1 : [ cos θ 1 sin θ 1 − sin θ 1 cos θ 1 ] R θ 2 : [ cos θ 2 − sin θ 2 sin θ 2 cos θ 2 ] R_{\theta_2}:\begin{bmatrix}
\cos{\theta_2} & -\sin{\theta_2}\\
\sin{\theta_2} & \cos{\theta_2}
\end{bmatrix} R θ 2 : [ cos θ 2 sin θ 2 − sin θ 2 cos θ 2 ]
很显然最终作用的效果可以用一个变换 R θ 1 + θ 2 R_{\theta_1+\theta_2} R θ 1 + θ 2
[ cos ( θ 1 + θ 2 ) − sin ( θ 1 + θ 2 ) sin ( θ 1 + θ 2 ) cos ( θ 1 + θ 2 ) ] \begin{bmatrix}
\cos{(\theta_1+\theta_2)} & -\sin{(\theta_1+\theta_2)}\\
\sin{(\theta_1+\theta_2)} & \cos{(\theta_1+\theta_2)}
\end{bmatrix}
[ cos ( θ 1 + θ 2 ) sin ( θ 1 + θ 2 ) − sin ( θ 1 + θ 2 ) cos ( θ 1 + θ 2 ) ]
旋转变换 R θ 1 + θ 2 R_{\theta_1+\theta_2} R θ 1 + θ 2
一般地，设矩阵 A = [ a 1 b 1 c 1 d 1 ] , B = [ a 2 b 2 c 2 d 2 ] A=\begin{bmatrix}a_1 & b_1\\ c_1 & d_1\end{bmatrix},B=\begin{bmatrix}a_2 & b_2\\ c_2 & d_2\end{bmatrix} A = [ a 1 c 1 b 1 d 1 ] , B = [ a 2 c 2 b 2 d 2 ] f f f g g g
平面上任意一个向量 v = [ x y ] \mathbf v=\begin{bmatrix} x \\ y \end{bmatrix} v = [ x y ] g g g f f f
f ( g ( v ) ) = A ( B v ) f(g(\mathbf v))=A(B\mathbf v)
f ( g ( v ) ) = A ( B v )
Grant：线性变换的本质主要在于追踪基向量变换后的位置。
接下来，我们追踪变换过程中基向量的位置。由矩阵向量乘法的定义知道，基向量 i , j \mathbf i,\mathbf j i , j B B B
B i = [ a 2 c 2 ] , B j = [ b 2 d 2 ] B\mathbf i=\begin{bmatrix}a_2\\c_2\end{bmatrix},\quad
B\mathbf j=\begin{bmatrix}b_2\\d_2\end{bmatrix}
B i = [ a 2 c 2 ] , B j = [ b 2 d 2 ]
基向量 B i , B j B\mathbf i,B\mathbf j B i , B j A A A
i ′ : [ a 1 b 1 c 1 d 1 ] [ a 2 c 2 ] = a 2 [ a 1 c 1 ] + c 2 [ b 1 d 1 ] = [ a 1 a 2 + b 1 c 2 c 1 a 2 + d 1 c 2 ] j ′ : [ a 1 b 1 c 1 d 1 ] [ b 2 d 2 ] = b 2 [ a 1 c 1 ] + d 2 [ b 1 d 1 ] = [ a 1 b 2 + b 1 d 2 c 1 b 2 + d 1 d 2 ] \mathbf i':\begin{bmatrix}a_1 & b_1\\ c_1 & d_1\end{bmatrix}
\begin{bmatrix}a_2\\ c_2\end{bmatrix}=
a_2\begin{bmatrix}a_1\\ c_1\end{bmatrix}+
c_2\begin{bmatrix}b_1\\d_1\end{bmatrix}=
\begin{bmatrix}a_1a_2+b_1c_2 \\ c_1a_2+d_1c_2\end{bmatrix} \\
\mathbf j':\begin{bmatrix}a_1 & b_1\\ c_1 & d_1\end{bmatrix}
\begin{bmatrix}b_2\\ d_2\end{bmatrix}=
b_2\begin{bmatrix}a_1\\ c_1\end{bmatrix}+
d_2\begin{bmatrix}b_1\\d_1\end{bmatrix}=
\begin{bmatrix}a_1b_2+b_1d_2\\c_1b_2+d_1d_2\end{bmatrix}
i ′ : [ a 1 c 1 b 1 d 1 ] [ a 2 c 2 ] = a 2 [ a 1 c 1 ] + c 2 [ b 1 d 1 ] = [ a 1 a 2 + b 1 c 2 c 1 a 2 + d 1 c 2 ] j ′ : [ a 1 c 1 b 1 d 1 ] [ b 2 d 2 ] = b 2 [ a 1 c 1 ] + d 2 [ b 1 d 1 ] = [ a 1 b 2 + b 1 d 2 c 1 b 2 + d 1 d 2 ]
从而，对任意向量 v = [ x y ] \mathbf v=\begin{bmatrix} x \\ y \end{bmatrix} v = [ x y ] B B B A A A
A ( B v ) = x i ′ + y j ′ = [ a 1 a 2 + b 1 c 2 a 1 b 2 + b 1 d 2 c 1 a 2 + d 1 c 2 c 1 b 2 + d 1 d 2 ] [ x y ] A(B\mathbf v)=x\mathbf i'+y\mathbf j'=\begin{bmatrix}a_1a_2+b_1c_2 & a_1b_2+b_1d_2\\ c_1a_2+d_1c_2 & c_1b_2+d_1d_2\end{bmatrix}
\begin{bmatrix} x \\ y \end{bmatrix}
A ( B v ) = x i ′ + y j ′ = [ a 1 a 2 + b 1 c 2 c 1 a 2 + d 1 c 2 a 1 b 2 + b 1 d 2 c 1 b 2 + d 1 d 2 ] [ x y ]
这也是一个线性变换，我们称为复合变换 (composite transformation)，记为 f ∘ g f\circ g f ∘ g
在此，我们定义复合变换 f ∘ g f\circ g f ∘ g A , B A,B A , B
A B = [ a 1 b 1 c 1 d 1 ] [ a 2 b 2 c 2 d 2 ] = [ a 1 a 2 + b 1 c 2 a 1 b 2 + b 1 d 2 c 1 a 2 + d 1 c 2 c 1 b 2 + d 1 d 2 ] AB=\begin{bmatrix}a_1 & b_1\\ c_1 & d_1\end{bmatrix}
\begin{bmatrix}a_2 & b_2\\ c_2 & d_2\end{bmatrix}=
\begin{bmatrix}a_1a_2+b_1c_2 & a_1b_2+b_1d_2\\ c_1a_2+d_1c_2 & c_1b_2+d_1d_2\end{bmatrix}
A B = [ a 1 c 1 b 1 d 1 ] [ a 2 c 2 b 2 d 2 ] = [ a 1 a 2 + b 1 c 2 c 1 a 2 + d 1 c 2 a 1 b 2 + b 1 d 2 c 1 b 2 + d 1 d 2 ]
注意：矩阵乘积的次序与复合变换相同，从右向左相继作用。
由定义易知，对任意向量 v \mathbf v v
( A B ) v = A ( B v ) (AB)\mathbf v=A(B\mathbf v)
( A B ) v = A ( B v )
接下来，我们将矩阵的概念推广到高维空间。高维线性空间中的变换与二维空间中的变换类似。
矩阵 : m × n m\times n m × n 矩阵
[ a 11 a 12 ⋯ a 1 n a 21 a 22 ⋯ a 2 n ⋮ ⋮ ⋱ ⋮ a m 1 a m 2 ⋯ a m n ] \begin{bmatrix}
a_{11}&a_{12}&\cdots&a_{1n} \\
a_{21}&a_{22}&\cdots&a_{2n} \\
\vdots&\vdots&\ddots&\vdots \\
a_{m1}&a_{m2}&\cdots&a_{mn} \\
\end{bmatrix}
⎣ ⎢ ⎢ ⎢ ⎡ a 1 1 a 2 1 ⋮ a m 1 a 1 2 a 2 2 ⋮ a m 2 ⋯ ⋯ ⋱ ⋯ a 1 n a 2 n ⋮ a m n ⎦ ⎥ ⎥ ⎥ ⎤
常用大写英文字母表示矩阵，如A A A A m × n A_{m× n} A m × n a i j a_{ij} a i j ( a i j ) (a_{ij}) ( a i j ) ( a i j ) m × n (a_{ij})_{m× n} ( a i j ) m × n
几种特殊的矩阵 ：
元素全为零的矩阵称为零矩阵 (zero matrix)，记作O O O
只有一行的矩阵称为行矩阵 (row matrix)或行向量 ；只有一列的矩阵称为列矩阵 (column matrix)或列向量 。行(列)矩阵通常用小写黑体字母表示，如 a , x \mathbf a,\mathbf x a , x
当行数和列数相等时的矩阵 A n × n A_{n\times n} A n × n n n n
不在主对角线上的元素全为零的方阵称为对角阵 (diagonal matrix)，记作 d i a g ( a 1 , a 2 , ⋯ , a n ) \mathrm{diag}(a_1,a_2,\cdots,a_n) d i a g ( a 1 , a 2 , ⋯ , a n )
主对角线上的元素全为1的对角阵，称为单位阵 (identity matrix)。记n n n E n E_n E n I n I_n I n
矩阵的线性运算 ：因为矩阵 A m × n A_{m\times n} A m × n m m m A = [ a 1 a 2 ⋯ a n ] A=\begin{bmatrix}\mathbf a_1&\mathbf a_2&\cdots&\mathbf a_n\end{bmatrix} A = [ a 1 a 2 ⋯ a n ]
设矩阵A = ( a i j ) A=(a_{ij}) A = ( a i j ) B = ( b i j ) B=(b_{ij}) B = ( b i j )
他们的对应元素完全相同 a i j = b i j a_{ij}=b_{ij} a i j = b i j A A A B B B A = B A=B A = B
矩阵的加法定义为 A + B = ( a i j + b i j ) A+B=(a_{ij}+b_{ij}) A + B = ( a i j + b i j )
矩阵的数乘定义为k A = ( k a i j ) kA=(ka_{ij}) k A = ( k a i j )
性质 ：线性运算满足以下性质
加法交换律：A + B = B + A A+B=B+A A + B = B + A
加法结合律：A + ( B + C ) = ( A + B ) + C A+(B+C)=(A+B)+C A + ( B + C ) = ( A + B ) + C
零矩阵：O + A = A O+A=A O + A = A
负矩阵：A + ( − A ) = O A+(-A)=O A + ( − A ) = O
数乘结合律：k ( l A ) = ( k l ) A k(lA)=(kl)A k ( l A ) = ( k l ) A
数乘分配律：k ( A + B ) = k A + k B k(A+B)=kA+kB k ( A + B ) = k A + k B
数乘分配律：( k + l ) A = k A + l A (k+l)A=kA+lA ( k + l ) A = k A + l A
数乘单位元：1 A = A 1A=A 1 A = A
矩阵向量的乘法 ： 矩阵与向量的乘法来源于线性变换，它有着直观的、深刻的几何背景。设m × n m\times n m × n A = ( a i j ) A=(a_{ij}) A = ( a i j ) n n n v = ( x 1 , x 2 , ⋯ , x n ) T \mathbf v=(x_1,x_2,\cdots,x_n)^T v = ( x 1 , x 2 , ⋯ , x n ) T
[ a 11 a 12 ⋯ a 1 n a 21 a 22 ⋯ a 2 n ⋮ ⋮ ⋱ ⋮ a m 1 a m 2 ⋯ a m n ] [ x 1 x 2 ⋮ x n ] = x 1 [ a 11 a 21 ⋮ a m 1 ] + ⋯ + x n [ a 1 n a 2 n ⋮ a m n ] = [ ∑ j = 1 n a 1 j x j ∑ j = 1 n a 2 j x j ⋮ ∑ j = 1 n a m j x j ] \begin{bmatrix}
a_{11}&a_{12}&\cdots&a_{1n} \\
a_{21}&a_{22}&\cdots&a_{2n} \\
\vdots&\vdots&\ddots&\vdots \\
a_{m1}&a_{m2}&\cdots&a_{mn} \\
\end{bmatrix}
\begin{bmatrix}x_1\\x_2\\\vdots\\x_n\end{bmatrix}=
x_1\begin{bmatrix}a_{11}\\a_{21}\\\vdots\\a_{m1}\end{bmatrix}+\cdots+
x_n\begin{bmatrix}a_{1n}\\a_{2n}\\\vdots\\a_{mn}\end{bmatrix}=
\begin{bmatrix}\sum_{j=1}^na_{1j}x_j\\\sum_{j=1}^na_{2j}x_j\\\vdots\\\sum_{j=1}^na_{mj}x_j\end{bmatrix}
⎣ ⎢ ⎢ ⎢ ⎡ a 1 1 a 2 1 ⋮ a m 1 a 1 2 a 2 2 ⋮ a m 2 ⋯ ⋯ ⋱ ⋯ a 1 n a 2 n ⋮ a m n ⎦ ⎥ ⎥ ⎥ ⎤ ⎣ ⎢ ⎢ ⎢ ⎡ x 1 x 2 ⋮ x n ⎦ ⎥ ⎥ ⎥ ⎤ = x 1 ⎣ ⎢ ⎢ ⎢ ⎡ a 1 1 a 2 1 ⋮ a m 1 ⎦ ⎥ ⎥ ⎥ ⎤ + ⋯ + x n ⎣ ⎢ ⎢ ⎢ ⎡ a 1 n a 2 n ⋮ a m n ⎦ ⎥ ⎥ ⎥ ⎤ = ⎣ ⎢ ⎢ ⎢ ⎡ ∑ j = 1 n a 1 j x j ∑ j = 1 n a 2 j x j ⋮ ∑ j = 1 n a m j x j ⎦ ⎥ ⎥ ⎥ ⎤
一般地，m × n m\times n m × n n n n m m m j j j j j j
矩阵乘法 ：矩阵与矩阵乘法来源于复合线性变换。设矩阵A = ( a i j ) m × n A=(a_{ij})_{m\times n} A = ( a i j ) m × n B = ( b i j ) n × p B=(b_{ij})_{n\times p} B = ( b i j ) n × p v = ( x 1 , x 2 , ⋯ , x p ) \mathbf v=(x_1,x_2,\cdots,x_p) v = ( x 1 , x 2 , ⋯ , x p ) b 1 , b 2 , ⋯ , b p \mathbf b_1,\mathbf b_2,\cdots,\mathbf b_p b 1 , b 2 , ⋯ , b p B B B
B v = x 1 b 1 + x 2 b 2 + ⋯ + x p b p B\mathbf v=x_1\mathbf b_1+x_2\mathbf b_2+\cdots+x_p\mathbf b_p
B v = x 1 b 1 + x 2 b 2 + ⋯ + x p b p
由线性变换的性质
A ( B v ) = A ( x 1 b 1 ) + A ( x 2 b 2 ) + ⋯ + A ( x p b p ) = x 1 A b 1 + x 2 A b 2 + ⋯ + x p A b p = [ A b 1 A b 2 ⋯ A b p ] v \begin{aligned}
A(B\mathbf v)&=A(x_1\mathbf b_1)+A(x_2\mathbf b_2)+\cdots+A(x_p\mathbf b_p) \\
&=x_1A\mathbf b_1+x_2A\mathbf b_2+\cdots+x_pA\mathbf b_p \\
&=\begin{bmatrix}A\mathbf b_1&A\mathbf b_2&\cdots&A\mathbf b_p\end{bmatrix}\mathbf v
\end{aligned}
A ( B v ) = A ( x 1 b 1 ) + A ( x 2 b 2 ) + ⋯ + A ( x p b p ) = x 1 A b 1 + x 2 A b 2 + ⋯ + x p A b p = [ A b 1 A b 2 ⋯ A b p ] v
于是可定义矩阵的乘积 A B AB A B m × p m\times p m × p
A B = A [ b 1 b 2 ⋯ b p ] = [ A b 1 A b 2 ⋯ A b p ] AB=A\begin{bmatrix}\mathbf b_1&\mathbf b_2&\cdots&\mathbf b_p\end{bmatrix}=
\begin{bmatrix}A\mathbf b_1&A\mathbf b_2&\cdots&A\mathbf b_p\end{bmatrix}
A B = A [ b 1 b 2 ⋯ b p ] = [ A b 1 A b 2 ⋯ A b p ]
矩阵 A A A B B B A B = ( c i j ) m × p AB=(c_{ij})_{m× p} A B = ( c i j ) m × p
c i j = a i 1 b 1 j + a i 2 b 2 j + ⋯ + a i p b p j c_{ij}=a_{i1}b_{1j}+a_{i2}b_{2j}+\cdots+a_{ip}b_{pj}
c i j = a i 1 b 1 j + a i 2 b 2 j + ⋯ + a i p b p j
性质 ：矩阵乘法满足以下性质
矩阵乘法满足结合率：A ( B C ) = ( A B ) C A(BC)=(AB)C A ( B C ) = ( A B ) C
矩阵乘法满足左分配律：A ( B + C ) = A B + A C A(B+C)=AB+AC A ( B + C ) = A B + A C
矩阵乘法满足右分配律：( B + C ) A = B A + C A (B+C)A=BA+CA ( B + C ) A = B A + C A
矩阵乘法满足数乘分配律：k ( A B ) = ( k A ) B = A ( k B ) k(AB)=(kA)B=A(kB) k ( A B ) = ( k A ) B = A ( k B )
矩阵乘法单位元：I A = A I = A IA=AI=A I A = A I = A
证明：(1) 可从矩阵乘法的定义证明满足结合率。从线性变换角度来看，对于复合变换 A ( B C ) A(BC) A ( B C ) ( A B ) C (AB)C ( A B ) C
v → C C v → B B C v → A A B C v \mathbf v\xrightarrow{C}C\mathbf v\xrightarrow{B}BC\mathbf v\xrightarrow{A}ABC\mathbf v
v C C v B B C v A A B C v
注意：
矩阵乘法不满足交换率，即一般情况下 A B ≠ B A AB\neq BA A B = B A
矩阵乘法不满足消去率，即若 A B = A C AB=AC A B = A C B = C B=C B = C A B = O AB=O A B = O A = O A=O A = O B = O B=O B = O
证明：(1) 一般地，复合变换 f ∘ g ≠ g ∘ f f\circ g\neq g\circ f f ∘ g = g ∘ f A B ≠ B A AB\neq BA A B = B A
设矩阵
A = [ 0 1 0 0 0 1 0 0 1 ] , B = [ 0 0 1 0 0 0 0 0 0 ] A=\begin{bmatrix}0&1&0\\ 0&0&1\\ 0&0&1\end{bmatrix},\quad
B=\begin{bmatrix}0&0&1\\ 0&0&0\\ 0&0&0\end{bmatrix}
A = ⎣ ⎡ 0 0 0 1 0 0 0 1 1 ⎦ ⎤ , B = ⎣ ⎡ 0 0 0 0 0 0 1 0 0 ⎦ ⎤
则有
A B = [ 0 1 0 0 0 1 0 0 1 ] [ 0 0 1 0 0 0 0 0 0 ] = [ 0 0 0 0 0 0 0 0 0 ] = O B A = [ 0 0 1 0 0 0 0 0 0 ] [ 0 1 0 0 0 1 0 0 1 ] = [ 0 0 1 0 0 0 0 0 0 ] ≠ O AB=\begin{bmatrix}0&1&0\\ 0&0&1\\ 0&0&1\end{bmatrix}
\begin{bmatrix}0&0&1\\ 0&0&0\\ 0&0&0\end{bmatrix}=
\begin{bmatrix}0&0&0\\ 0&0&0\\ 0&0&0\end{bmatrix}=O \\
BA=\begin{bmatrix}0&0&1\\ 0&0&0\\ 0&0&0\end{bmatrix}
\begin{bmatrix}0&1&0\\ 0&0&1\\ 0&0&1\end{bmatrix}=
\begin{bmatrix}0&0&1\\ 0&0&0\\ 0&0&0\end{bmatrix}\neq O
A B = ⎣ ⎡ 0 0 0 1 0 0 0 1 1 ⎦ ⎤ ⎣ ⎡ 0 0 0 0 0 0 1 0 0 ⎦ ⎤ = ⎣ ⎡ 0 0 0 0 0 0 0 0 0 ⎦ ⎤ = O B A = ⎣ ⎡ 0 0 0 0 0 0 1 0 0 ⎦ ⎤ ⎣ ⎡ 0 0 0 1 0 0 0 1 1 ⎦ ⎤ = ⎣ ⎡ 0 0 0 0 0 0 1 0 0 ⎦ ⎤ = O
定义 ：为方便使用，先介绍几个简单的定义
线性变换是一种映射，称变换后的向量 T ( v ) T(\mathbf v) T ( v ) v \mathbf v v T T T 像 ，而称 v \mathbf v v T ( v ) T(\mathbf v) T ( v ) T T T 原像 。
线性变换 T T T T ( V ) T(V) T ( V ) T T T 值域 ，记作
range ( T ) = { T ( v ) ∣ v ∈ V } \text{range}(T)=\{T(\mathbf v)\mid\mathbf v\in V\}
range ( T ) = { T ( v ) ∣ v ∈ V }
在前面几节的分析中，我们始终将矩阵的列看成是向量。而这些列向量所张成的空间，称为列空间 ，若 A = ( a 1 , a 2 , ⋯ , a n ) A=(\mathbf a_1,\mathbf a_2,\cdots,\mathbf a_n) A = ( a 1 , a 2 , ⋯ , a n )
col A = span { a 1 , a 2 , ⋯ , a n } \text{col }A=\text{span}\{\mathbf a_1,\mathbf a_2,\cdots,\mathbf a_n\}
col A = span { a 1 , a 2 , ⋯ , a n }
我们已经知道，变换后的向量 A v A\mathbf v A v A A A A A A
col A = range A = { A v ∣ v ∈ V } \text{col }A=\text{range }A=\{A\mathbf v\mid\mathbf v\in V\}
col A = range A = { A v ∣ v ∈ V }
定理 ：矩阵 A A A col A \text{col }A col A
下面两个例子给出对列空间求基的简单算法。
例1：求 Col B \text{Col }B Col B
B = ( b 1 , b 2 , ⋯ , b n ) = [ 1 4 0 2 0 0 0 1 − 1 0 0 0 0 0 1 0 0 0 0 0 ] B=(\mathbf b_1,\mathbf b_2,\cdots,\mathbf b_n)=\begin{bmatrix}1&4&0&2&0\\ 0&0&1&-1&0\\ 0&0&0&0&1\\0&0&0&0&0\end{bmatrix}
B = ( b 1 , b 2 , ⋯ , b n ) = ⎣ ⎢ ⎢ ⎡ 1 0 0 0 4 0 0 0 0 1 0 0 2 − 1 0 0 0 0 1 0 ⎦ ⎥ ⎥ ⎤
事实上，B B B b 2 = 4 b 1 , b 4 = 2 b 1 − b 3 \mathbf b_2=4\mathbf b_1,\mathbf b_4=2\mathbf b_1-\mathbf b_3 b 2 = 4 b 1 , b 4 = 2 b 1 − b 3 col B = span { b 1 , b 3 , b 5 } \text{col }B=\text{span }\{\mathbf b_1,\mathbf b_3,\mathbf b_5\} col B = span { b 1 , b 3 , b 5 }
当矩阵不是阶梯型矩阵时，回顾矩阵 A = ( a 1 , a 2 , ⋯ , a n ) A=(\mathbf a_1,\mathbf a_2,\cdots,\mathbf a_n) A = ( a 1 , a 2 , ⋯ , a n ) A x = 0 A\mathbf x=0 A x = 0 A A A B = ( b 1 , b 2 , ⋯ , b n ) B=(\mathbf b_1,\mathbf b_2,\cdots,\mathbf b_n) B = ( b 1 , b 2 , ⋯ , b n ) P P P B = P A B=PA B = P A B B B x \mathbf x x B x = 0 B\mathbf x=0 B x = 0
x 1 b 1 + x 2 b 2 + ⋯ + x n b n = 0 x_1\mathbf b_1+x_2\mathbf b_2+\cdots+x_n\mathbf b_n=0
x 1 b 1 + x 2 b 2 + ⋯ + x n b n = 0
同样的系数 x \mathbf x x A A A A x = P − 1 B x = 0 A\mathbf x=P^{-1}B\mathbf x=0 A x = P − 1 B x = 0
x 1 a 1 + x 2 a 2 + ⋯ + x n a n = 0 x_1\mathbf a_1+x_2\mathbf a_2+\cdots+x_n\mathbf a_n=0
x 1 a 1 + x 2 a 2 + ⋯ + x n a n = 0
综上，即矩阵A A A B B B
例2：
A = ( a 1 , a 2 , ⋯ , a n ) = [ 1 4 0 2 − 1 3 12 1 5 5 2 8 1 3 2 5 20 2 8 8 ] A=(\mathbf a_1,\mathbf a_2,\cdots,\mathbf a_n)=\begin{bmatrix}1&4&0&2&-1\\ 3&12&1&5&5\\ 2&8&1&3&2\\5&20&2&8&8\end{bmatrix}
A = ( a 1 , a 2 , ⋯ , a n ) = ⎣ ⎢ ⎢ ⎡ 1 3 2 5 4 1 2 8 2 0 0 1 1 2 2 5 3 8 − 1 5 2 8 ⎦ ⎥ ⎥ ⎤
已知矩阵 A A A B B B Col A \text{Col }A Col A
由于上例中 b 2 = 4 b 1 , b 4 = 2 b 1 − b 3 \mathbf b_2=4\mathbf b_1,\mathbf b_4=2\mathbf b_1-\mathbf b_3 b 2 = 4 b 1 , b 4 = 2 b 1 − b 3 A A A a 2 = 4 a 1 , a 4 = 2 a 1 − a 3 \mathbf a_2=4\mathbf a_1,\mathbf a_4=2\mathbf a_1-\mathbf a_3 a 2 = 4 a 1 , a 4 = 2 a 1 − a 3 a 1 , a 3 , a 5 \mathbf a_1,\mathbf a_3,\mathbf a_5 a 1 , a 3 , a 5 Col A \text{Col }A Col A col A = span { a 1 , a 3 , a 5 } \text{col }A=\text{span }\{\mathbf a_1,\mathbf a_3,\mathbf a_5\} col A = span { a 1 , a 3 , a 5 }
注意：阶梯形矩阵的主元列通常不在原矩阵的列空间中。
矩阵的秩 就是列空间的维度，记作 rank A = dim ( col A ) \text{rank }A=\dim(\text{col }A) rank A = dim ( col A )
前面介绍的都是方阵，表示向量空间到自身的映射。下面简单说下非方阵的映射关系。
一般地，m × n m\times n m × n n n n m m m j j j j j j
3 × 2 3\times 2 3 × 2
[ 1 − 1 3 2 0 3 ] [ x y ] = [ 1 3 0 ] x + [ − 1 2 3 ] y \begin{bmatrix}1&-1\\3&2\\0&3\end{bmatrix}
\begin{bmatrix}x\\y\end{bmatrix}=
\begin{bmatrix}1\\3\\0\end{bmatrix}x+
\begin{bmatrix}-1\\2\\3\end{bmatrix}y
⎣ ⎡ 1 3 0 − 1 2 3 ⎦ ⎤ [ x y ] = ⎣ ⎡ 1 3 0 ⎦ ⎤ x + ⎣ ⎡ − 1 2 3 ⎦ ⎤ y
2 × 3 2\times 3 2 × 3
[ 2 2 1 1 0 − 1 ] [ x y z ] = [ 2 1 ] x + [ 2 0 ] y + [ 1 − 1 ] z \begin{bmatrix}2&2&1\\1&0&-1\end{bmatrix}
\begin{bmatrix}x\\y\\z\end{bmatrix}=
\begin{bmatrix}2\\1\end{bmatrix}x+
\begin{bmatrix}2\\0\end{bmatrix}y+
\begin{bmatrix}1\\-1\end{bmatrix}z
[ 2 1 2 0 1 − 1 ] ⎣ ⎡ x y z ⎦ ⎤ = [ 2 1 ] x + [ 2 0 ] y + [ 1 − 1 ] z
若矩阵的秩等于列数，则称为满秩矩阵 (full rank matrix)，零向量一定在列空间内，满秩变换中，唯一能落在原点的就是零向量自身。满秩矩阵的列即为列空间的基。
对于非满秩矩阵 ，意味着该线性变换会将空间压缩到一个更低维的空间，通俗来讲，就是会有一系列直线上不同方向的向量压缩为原点。
由此可得，秩可以用来描述线性变换对空间的压缩程度 。
我们已经知道了矩阵与线性变换中的对应关系，试想一下，将变换后的向量还原到初始状态。
逆矩阵 ：对于 n n n A A A n n n B B B
A B = B A = I AB=BA=I
A B = B A = I
则称矩阵 A A A 可逆 (invertible)，B B B A A A 逆矩阵 。实际上， A A A A − 1 A^{-1} A − 1 B , C B,C B , C A A A
B = ( C A ) B = C ( A B ) = C B=(CA)B=C(AB)=C
B = ( C A ) B = C ( A B ) = C
不可逆矩阵有时称为奇异矩阵 ，而可逆矩阵也称为非奇异矩阵 。
性质 ：逆矩阵满足下列性质
( A − 1 ) − 1 = A (A^{-1})^{-1}=A ( A − 1 ) − 1 = A ( k A ) − 1 = 1 k A − 1 , ( k ≠ 0 ) (kA)^{-1}=\dfrac{1}{k}A^{-1},\quad(k\neq0) ( k A ) − 1 = k 1 A − 1 , ( k = 0 ) ( A B ) − 1 = B − 1 A − 1 (AB)^{-1}=B^{-1}A^{-1} ( A B ) − 1 = B − 1 A − 1 ( A T ) − 1 = ( A − 1 ) T (A^T)^{-1}=(A^{-1})^T ( A T ) − 1 = ( A − 1 ) T
证明：(性质3)若方阵 A , B A,B A , B
( A B ) ( B − 1 A − 1 ) = ( B − 1 A − 1 ) ( A B ) = I (AB)(B^{-1}A^{-1})=(B^{-1}A^{-1})(AB)=I
( A B ) ( B − 1 A − 1 ) = ( B − 1 A − 1 ) ( A B ) = I
因此 ( A B ) − 1 = B − 1 A − 1 (AB)^{-1}=B^{-1}A^{-1} ( A B ) − 1 = B − 1 A − 1
从变换的角度考虑，复合变换的逆 ( f ∘ g ) − 1 = g − 1 ∘ f − 1 (f\circ g)^{-1}=g^{-1}\circ f^{-1} ( f ∘ g ) − 1 = g − 1 ∘ f − 1
(性质4)
I = ( A A − 1 ) T = ( A − 1 ) T A T , I = ( A − 1 A ) T = A T ( A − 1 ) T I=(AA^{-1})^T=(A^{-1})^TA^T,\quad I=(A^{-1}A)^T=A^T(A^{-1})^T
I = ( A A − 1 ) T = ( A − 1 ) T A T , I = ( A − 1 A ) T = A T ( A − 1 ) T
因此 ( A T ) − 1 = ( A − 1 ) T (A^T)^{-1}=(A^{-1})^T ( A T ) − 1 = ( A − 1 ) T
客观世界最简单的数量关系是均匀变化的关系。在均匀变化问题中，列出的方程组是一次方程组，我们称之为线性方程组(Linear system of equations)。n n n
{ a 11 x 1 + a 12 x 2 + ⋯ + a 1 n x n = b 1 a 21 x 1 + a 22 x 2 + ⋯ + a 2 n x n = b 2 ⋯ ⋯ a m 1 x 1 + a m 2 x 2 + ⋯ + a m n x n = b m \begin{cases}
a_{11}x_1+a_{12}x_2+\cdots+a_{1n}x_n=b_1 \\
a_{21}x_1+a_{22}x_2+\cdots+a_{2n}x_n=b_2 \\
\cdots\quad\cdots \\
a_{m1}x_1+a_{m2}x_2+\cdots+a_{mn}x_n=b_m
\end{cases}
⎩ ⎪ ⎪ ⎪ ⎨ ⎪ ⎪ ⎪ ⎧ a 1 1 x 1 + a 1 2 x 2 + ⋯ + a 1 n x n = b 1 a 2 1 x 1 + a 2 2 x 2 + ⋯ + a 2 n x n = b 2 ⋯ ⋯ a m 1 x 1 + a m 2 x 2 + ⋯ + a m n x n = b m
如果存在n n n x 1 = s 1 , x 2 = s 2 , ⋯ , x n = s n x_1=s_1,x_2=s_2,\cdots,x_n=s_n x 1 = s 1 , x 2 = s 2 , ⋯ , x n = s n 解 (solution)。方程组的所有解组成的集合称为这个方程组的解集 。
解线性方程组的一般方法，是把方程组用一个更容易解的等价方程组 (即有相同解集的方程组)代替。用来化简线性方程组的三种基本变换是：
(1) 互换两个方程的位置；
以上三种变换称为高斯消元法(Gaussian Elimination)。
例如，解方程组
{ 2 x 2 − x 3 = 7 x 1 + x 2 + 2 x 3 = 0 x 1 + x 2 − x 3 = − 6 x 1 + 3 x 2 − 2 x 3 = 1 \begin{cases}
\begin{alignedat}{4}
&\quad 2x_2&-\ \ x_3 &= 7 \\
x_1&+\ x_2&+2x_3& = 0 \\
x_1&+\ x_2&-\ \ x_3& = -6 \\
x_1&+3x_2&-2x_3&=1
\end{alignedat}
\end{cases}
⎩ ⎪ ⎪ ⎪ ⎪ ⎨ ⎪ ⎪ ⎪ ⎪ ⎧ x 1 x 1 x 1 2 x 2 + x 2 + x 2 + 3 x 2 − x 3 + 2 x 3 − x 3 − 2 x 3 = 7 = 0 = − 6 = 1
经过基本变换把线性方程组化成阶梯形方程组
{ x 1 + x 2 − x 3 = − 6 2 x 2 − x 3 = 7 3 x 3 = 6 0 = 0 \begin{cases}
\begin{alignedat}{4}
x_1&+x_2&-x_3& = -6 \\
&\quad 2x_2&-x_3 &= 7 \\
&\quad &\quad 3x_3& = 6 \\
&\quad &\quad 0& = 0
\end{alignedat}
\end{cases}
⎩ ⎪ ⎪ ⎪ ⎪ ⎨ ⎪ ⎪ ⎪ ⎪ ⎧ x 1 + x 2 2 x 2 − x 3 − x 3 3 x 3 0 = − 6 = 7 = 6 = 0
还可以进一步变换为简化阶梯形方程组
{ x 1 = − 9 x 2 = 5 x 3 = 2 0 = 0 \begin{cases}
x_1 & & &=-9 \\
& x_2 & & = 5 \\
& & x_3& = 2 \\
& & 0& = 0
\end{cases}
⎩ ⎪ ⎪ ⎪ ⎨ ⎪ ⎪ ⎪ ⎧ x 1 x 2 x 3 0 = − 9 = 5 = 2 = 0
上面的简单例子代表了用消元法解线性方程组的一般方法和计算格式。
根据矩阵与向量的乘法定义，线性方程组可写为矩阵形式
A x = b A\mathbf x=\mathbf b
A x = b
其中
A = [ a 11 a 12 ⋯ a 1 n a 21 a 22 ⋯ a 2 n ⋮ ⋮ ⋱ ⋮ a m 1 a m 2 ⋯ a m n ] , x = [ x 1 x 2 ⋮ x n ] , b = [ b 1 b 2 ⋮ b n ] A=\begin{bmatrix}
a_{11}&a_{12}&\cdots&a_{1n} \\
a_{21}&a_{22}&\cdots&a_{2n} \\
\vdots&\vdots&\ddots&\vdots \\
a_{m1}&a_{m2}&\cdots&a_{mn} \\
\end{bmatrix},\quad
\mathbf x=\begin{bmatrix}
x_1\\x_2\\\vdots\\x_n
\end{bmatrix},\quad
\mathbf b=\begin{bmatrix}
b_1\\b_2\\\vdots\\b_n
\end{bmatrix}
A = ⎣ ⎢ ⎢ ⎢ ⎡ a 1 1 a 2 1 ⋮ a m 1 a 1 2 a 2 2 ⋮ a m 2 ⋯ ⋯ ⋱ ⋯ a 1 n a 2 n ⋮ a m n ⎦ ⎥ ⎥ ⎥ ⎤ , x = ⎣ ⎢ ⎢ ⎢ ⎡ x 1 x 2 ⋮ x n ⎦ ⎥ ⎥ ⎥ ⎤ , b = ⎣ ⎢ ⎢ ⎢ ⎡ b 1 b 2 ⋮ b n ⎦ ⎥ ⎥ ⎥ ⎤
矩阵 A A A 系数矩阵 ， x \mathbf x x 未知数向量 ，b \mathbf b b 常数向量 。
从上节求解线性方程组的过程中，不难发现，只是对线性方程组的系数和常数项进行了运算。因此，线性方程组可以用它的系数和常数项来求解。
为求解方便，把常数向量添加到系数矩阵最后一列，构成的矩阵
A ˉ = [ A ∣ b ] = [ a 11 ⋯ a 1 n b 1 a 21 ⋯ a 2 n b 2 ⋮ ⋮ ⋱ ⋮ a m 1 ⋯ a m n b m ] \bar A=[A\mid b]=\begin{bmatrix}\begin{array}{ccc:c}
a_{11}&\cdots&a_{1n}&b_1 \\
a_{21}&\cdots&a_{2n}&b_2 \\
\vdots&\vdots&\ddots&\vdots \\
a_{m1}&\cdots&a_{mn}&b_m \\
\end{array}\end{bmatrix}
A ˉ = [ A ∣ b ] = ⎣ ⎢ ⎢ ⎢ ⎡ a 1 1 a 2 1 ⋮ a m 1 ⋯ ⋯ ⋮ ⋯ a 1 n a 2 n ⋱ a m n b 1 b 2 ⋮ b m ⎦ ⎥ ⎥ ⎥ ⎤
称为方程组的增广矩阵 (augmented matrix)。
初等行变换 ：上节所讲的三种基本变换对应于矩阵的下列变换：
(1) 行互换变换：对调矩阵的第i i i j j j r i ↔ r j r_i\lrarr r_j r i ↔ r j i i i k k k k r i kr_i k r i j j j i i i r i + k r j r_i+kr_j r i + k r j
称为矩阵的初等行变换 (elementary row transformation)。
矩阵消元法 ：在解线性方程组时，把它的增广矩阵经过初等行变换化成行阶梯形矩阵，写出相应的阶梯形方程组 ，进行求解；或者一直化成简化行阶梯形矩阵，写出它表示的简化阶梯形方程组，从而立即得出解。
上节例子中，增广矩阵经过初等行变换可简化为
A ˉ = [ 0 2 − 1 7 1 1 2 0 1 1 − 1 − 6 1 3 − 2 1 ] → [ 1 1 − 1 − 6 0 2 − 1 7 0 0 3 6 0 0 0 0 ] = B 1 \bar A=\begin{bmatrix}\begin{array}{ccc:c}
0 & 2 & -1 & 7 \\
1 & 1 & 2 & 0\\
1 & 1 & -1 & -6 \\
1 & 3 & -2 & 1
\end{array}\end{bmatrix}\to
\begin{bmatrix}\begin{array}{ccc:c}
1 & 1 & -1 & -6 \\
0 & 2 & -1 & 7\\
0 & 0 & 3 & 6 \\
0 & 0 & 0 & 0
\end{array}\end{bmatrix}=B_1
A ˉ = ⎣ ⎢ ⎢ ⎡ 0 1 1 1 2 1 1 3 − 1 2 − 1 − 2 7 0 − 6 1 ⎦ ⎥ ⎥ ⎤ → ⎣ ⎢ ⎢ ⎡ 1 0 0 0 1 2 0 0 − 1 − 1 3 0 − 6 7 6 0 ⎦ ⎥ ⎥ ⎤ = B 1
称形如 B 1 B_1 B 1 行阶梯形矩阵 (Row Echelon Form，REF)。其特点是：
(1) 若有零行(元素全为零的行)，零行均在非零行的下方；主元 ，pivot)以下的元素全为零。
使用初等行变换对行阶梯形矩阵进一步化简
B 1 = [ 1 1 − 1 − 6 0 2 − 1 7 0 0 3 6 0 0 0 0 ] → [ 1 0 0 − 9 0 1 0 5 0 0 1 2 0 0 0 0 ] = B 2 B_1=\begin{bmatrix}\begin{array}{ccc:c}
1 & 1 & -1 & -6 \\
0 & 2 & -1 & 7\\
0 & 0 & 3 & 6 \\
0 & 0 & 0 & 0
\end{array}\end{bmatrix}\to\begin{bmatrix}\begin{array}{ccc:c}
1 & 0 & 0 & -9 \\
0 & 1 & 0 & 5\\
0 & 0 & 1 & 2 \\
0 & 0 & 0 & 0
\end{array}\end{bmatrix}=B_2
B 1 = ⎣ ⎢ ⎢ ⎡ 1 0 0 0 1 2 0 0 − 1 − 1 3 0 − 6 7 6 0 ⎦ ⎥ ⎥ ⎤ → ⎣ ⎢ ⎢ ⎡ 1 0 0 0 0 1 0 0 0 0 1 0 − 9 5 2 0 ⎦ ⎥ ⎥ ⎤ = B 2
称形如 B 2 B_2 B 2 简化行阶梯形矩阵 (Reduced Row Echelon Form，RREF)。其特点是：
(1) 每个非零行主元都是1；
通过简化行阶梯形矩阵，我们可以直接写出解 x 1 = − 9 , x 2 = 5 , x 3 = 2 x_1=-9,x_2=5,x_3=2 x 1 = − 9 , x 2 = 5 , x 3 = 2
使用矩阵消元法，我们可以知道任何矩阵都可以经过有限次初等行变换化成行阶梯形矩阵，任何矩阵也可进一步化成简化行阶梯形矩阵 。
从最后的简化行阶梯形矩阵可以直接写出一般解，但注意把自由变量的系数变号移到等式右边。
假设某方程组的增广矩阵行已变换为阶梯形矩阵
[ 1 0 − 5 1 0 1 1 4 0 0 0 0 ] \begin{bmatrix}\begin{array}{ccc:c}
1 & 0 & -5 & 1 \\
0 & 1 & 1 & 4\\
0 & 0 & 0 & 0
\end{array}\end{bmatrix}
⎣ ⎡ 1 0 0 0 1 0 − 5 1 0 1 4 0 ⎦ ⎤
对应的线性方程组是
{ x 1 − 5 x 3 = 1 x 2 + x 3 = 4 0 = 0 \begin{cases}
\begin{alignedat}{4}
x_1&&-5x_3& = 1 \\
&\quad\ x_2&+x_3 &= 4 \\
&\quad &\quad 0& =0
\end{alignedat}
\end{cases}
⎩ ⎪ ⎨ ⎪ ⎧ x 1 x 2 − 5 x 3 + x 3 0 = 1 = 4 = 0
方程组的解可显示表示为 x 1 = 1 + 5 x 3 , x 2 = 4 − x 3 x_1=1+5x_3,\ x_2=4-x_3 x 1 = 1 + 5 x 3 , x 2 = 4 − x 3
把 n n n r r r r r r 主变量 ，剩下的 n − r n-r n − r 自由变量 ，其值可任取。
假设某方程组的增广矩阵行已变换为阶梯形矩阵
[ 2 − 3 2 1 0 1 − 4 8 0 0 0 15 ] \begin{bmatrix}\begin{array}{ccc:c}
2 & -3 & 2 & 1 \\
0 & 1 & -4 & 8\\
0 & 0 & 0 & 15
\end{array}\end{bmatrix}
⎣ ⎡ 2 0 0 − 3 1 0 2 − 4 0 1 8 1 5 ⎦ ⎤
对应的线性方程组是
{ 2 x 1 − 3 x 2 + 2 x 3 = 1 x 2 − 4 x 3 = 8 0 = 15 \begin{cases}
\begin{alignedat}{4}
2x_1&-3x_2&+2x_3& = 1 \\
&\quad\ x_2&-4x_3 &= 8 \\
&\quad &\quad 0& = 15
\end{alignedat}
\end{cases}
⎩ ⎪ ⎨ ⎪ ⎧ 2 x 1 − 3 x 2 x 2 + 2 x 3 − 4 x 3 0 = 1 = 8 = 1 5
这个阶梯形方程组显然是矛盾的，故原方程组无解。
解的情况 ：线性方程组有解的充要条件是增广矩阵的增广列不是主元列，即行阶梯形方程组不包含矛盾方程。若线性方程组有解，则解有两种情况：(1) 当没有自由变量时，有唯 一解；(2) 当有自由变量是，有无穷多解。
应用向量加法和数乘运算，线性方程组 A x = b A\mathbf x=\mathbf b A x = b 向量方程
x 1 a 1 + x 2 a 2 + ⋯ + x n a n = b x_1\mathbf a_1+x_2\mathbf a_2+\cdots+x_n\mathbf a_n=\mathbf b
x 1 a 1 + x 2 a 2 + ⋯ + x n a n = b
其中 a 1 , a 2 , ⋯ , a n \mathbf a_1,\mathbf a_2,\cdots,\mathbf a_n a 1 , a 2 , ⋯ , a n A A A b \mathbf b b s = ( x 1 , x 2 , ⋯ , x n ) T s=(x_1,x_2,\cdots,x_n)^T s = ( x 1 , x 2 , ⋯ , x n ) T 解向量 。
例如，方程组
{ 2 x 1 − x 2 + x 3 = 4 4 x 1 + 2 x 2 − x 3 = − 1 \begin{cases}
\begin{alignedat}{4}
2x_1&-x_2&+x_3& = 4 \\
4x_1&+2x_2&-x_3& = -1
\end{alignedat}
\end{cases}
{ 2 x 1 4 x 1 − x 2 + 2 x 2 + x 3 − x 3 = 4 = − 1
可以表述为
[ 2 4 ] x 1 + [ − 1 2 ] x 2 + [ 1 − 1 ] x 3 = [ 4 − 1 ] \begin{bmatrix}2\\4\end{bmatrix}x_1+
\begin{bmatrix}-1\\2\end{bmatrix}x_2+
\begin{bmatrix}1\\-1\end{bmatrix}x_3=
\begin{bmatrix}4\\-1\end{bmatrix}
[ 2 4 ] x 1 + [ − 1 2 ] x 2 + [ 1 − 1 ] x 3 = [ 4 − 1 ]
既然可表示为向量的形式，那么就可以从向量的角度分析。向量方程是否有解的问题等价于判断常数向量 b \mathbf b b b \mathbf b b col A = span { a 1 , a 2 , ⋯ , a n } \text{col }A=\text{span}\{\mathbf a_1,\mathbf a_2,\cdots,\mathbf a_n\} col A = span { a 1 , a 2 , ⋯ , a n }
结论 ：方程 A x = b A\mathbf x=\mathbf b A x = b b \mathbf b b A A A
以线性变换的角度理解，希望找出未知向量 x \mathbf x x A A A b \mathbf b b
常数项都为零的线性方程组 A x = 0 A\mathbf{x}=0 A x = 0 齐次线性方程组 。向量方程为
x 1 a 1 + x 2 a 2 + ⋯ + x n a n = 0 x_1\mathbf a_1+x_2\mathbf a_2+\cdots+x_n\mathbf a_n=0
x 1 a 1 + x 2 a 2 + ⋯ + x n a n = 0
齐次线性方程组显然有一组解
x 1 = x 2 = ⋯ = x n = 0 x_1=x_2=\cdots=x_n=0
x 1 = x 2 = ⋯ = x n = 0
这组解称为零解 或平凡解 。除此之外的其他解称为非零解 或非平凡解 。
方程 A m × n x = 0 A_{m\times n}\mathbf{x}=0 A m × n x = 0 A A A rank ( A ) < n \text{rank}(A)<n rank ( A ) < n
齐次线性方程组的解有如下性质
如果 s 1 , s 2 s_1,s_2 s 1 , s 2 s 1 + s 2 s_1+s_2 s 1 + s 2
如果 s s s k k k k s ks k s
这两条性质只要直接代入向量方程进行验证就可以。
显然，系数矩阵为 A A A
null A = { x ∣ A x = 0 } \text{null } A=\{\mathbf x|A\mathbf{x}=0\}
null A = { x ∣ A x = 0 }
满足向量空间的条件， 称为零空间 (nullspace)或核 (kernel)。解空间的一组基 s 1 , s 2 , ⋯ , s n − r s_1,s_2,\cdots,s_{n-r} s 1 , s 2 , ⋯ , s n − r 基础解系 。零空间的维数即为自由变量的个数 。
如果能找到基础解系，就能描述整个解空间。
定理 ：
方程 A m × n x = 0 A_{m\times n}\mathbf{x}=0 A m × n x = 0 rank ( A ) < n \text{rank}(A)<n rank ( A ) < n
方程 A m × n x = 0 A_{m\times n}\mathbf{x}=0 A m × n x = 0 n − rank ( A ) n-\text{rank}(A) n − rank ( A )
设 A A A V V V
dim V = dim ( range A ) + dim ( null A ) \dim V=\dim(\text{range }A)+\dim(\text{null } A)
dim V = dim ( range A ) + dim ( null A )
可以用系数矩阵的初等行变换来求基础解系。
示例：求下列齐次线性方程组的解集。
{ x 2 − x 3 + x 4 − x 5 = 0 x 1 + x 3 + 2 x 4 − x 5 = 0 x 1 + x 2 + 3 x 4 − 2 x 5 = 0 2 x 1 + 2 x 2 + 6 x 4 − 3 x 5 = 0 \begin{cases}
x_2-x_3+x_4-x_5=0 \\
x_1+x_3+2x_4-x_5=0 \\
x_1+x_2+3x_4-2x_5=0 \\
2x_1+2x_2+6x_4-3x_5=0
\end{cases}
⎩ ⎪ ⎪ ⎪ ⎨ ⎪ ⎪ ⎪ ⎧ x 2 − x 3 + x 4 − x 5 = 0 x 1 + x 3 + 2 x 4 − x 5 = 0 x 1 + x 2 + 3 x 4 − 2 x 5 = 0 2 x 1 + 2 x 2 + 6 x 4 − 3 x 5 = 0
解：先做矩阵消元法获得阶梯形矩阵和简化阶梯形矩阵
A = [ 0 1 − 1 1 − 1 1 0 1 2 − 1 1 1 0 3 − 2 2 2 0 6 − 3 ] → [ 1 0 1 2 − 1 0 1 − 1 1 − 1 0 0 0 0 1 0 0 0 0 0 ] → [ 1 0 1 2 0 0 1 − 1 1 0 0 0 0 0 1 0 0 0 0 0 ] A=\begin{bmatrix}
0&1&-1&1&-1 \\
1&0&1&2&-1 \\
1&1&0&3&-2 \\
2&2&0&6&-3
\end{bmatrix}\to
\begin{bmatrix}
1&0&1&2&-1 \\
0&1&-1&1&-1 \\
0&0&0&0&1 \\
0&0&0&0&0
\end{bmatrix}\to
\begin{bmatrix}
1&0&1&2&0 \\
0&1&-1&1&0 \\
0&0&0&0&1 \\
0&0&0&0&0
\end{bmatrix}
A = ⎣ ⎢ ⎢ ⎡ 0 1 1 2 1 0 1 2 − 1 1 0 0 1 2 3 6 − 1 − 1 − 2 − 3 ⎦ ⎥ ⎥ ⎤ → ⎣ ⎢ ⎢ ⎡ 1 0 0 0 0 1 0 0 1 − 1 0 0 2 1 0 0 − 1 − 1 1 0 ⎦ ⎥ ⎥ ⎤ → ⎣ ⎢ ⎢ ⎡ 1 0 0 0 0 1 0 0 1 − 1 0 0 2 1 0 0 0 0 1 0 ⎦ ⎥ ⎥ ⎤
因此
{ x 1 = − x 3 − 2 x 4 x 2 = x 3 − x 4 x 5 = 0 \begin{cases}
x_1=-x_3-2x_4 \\
x_2=x_3-x_4 \\
x_5=0
\end{cases}
⎩ ⎪ ⎨ ⎪ ⎧ x 1 = − x 3 − 2 x 4 x 2 = x 3 − x 4 x 5 = 0
可写为解向量的形式
[ x 1 x 2 x 3 x 4 x 5 ] = x 3 [ − 1 1 1 0 0 ] + x 4 [ − 2 − 1 0 1 0 ] \begin{bmatrix}x_1 \\ x_2 \\ x_3 \\ x_4 \\ x_5\end{bmatrix}=
x_3\begin{bmatrix}-1 \\ 1 \\ 1 \\ 0 \\ 0\end{bmatrix}
+x_4\begin{bmatrix}-2\\-1\\0\\1\\0\end{bmatrix}
⎣ ⎢ ⎢ ⎢ ⎢ ⎡ x 1 x 2 x 3 x 4 x 5 ⎦ ⎥ ⎥ ⎥ ⎥ ⎤ = x 3 ⎣ ⎢ ⎢ ⎢ ⎢ ⎡ − 1 1 1 0 0 ⎦ ⎥ ⎥ ⎥ ⎥ ⎤ + x 4 ⎣ ⎢ ⎢ ⎢ ⎢ ⎡ − 2 − 1 0 1 0 ⎦ ⎥ ⎥ ⎥ ⎥ ⎤
对于非齐次线性方程组 A x = 0 A\mathbf{x}=0 A x = 0 x 1 a 1 + x 2 a 2 + ⋯ + x n a n = b x_1\mathbf a_1+x_2\mathbf a_2+\cdots+x_n\mathbf a_n=\mathbf b x 1 a 1 + x 2 a 2 + ⋯ + x n a n = b b \mathbf b b span { a 1 , a 2 , ⋯ , a n } \text{span}\{\mathbf a_1,\mathbf a_2,\cdots,\mathbf a_n\} span { a 1 , a 2 , ⋯ , a n }
判别定理 ：线性方程组有解的充要条件是其系数矩阵A A A A ˉ \bar A A ˉ rank ( A ) = rank ( A ˉ ) \text{rank}(A)=\text{rank}(\bar A) rank ( A ) = rank ( A ˉ )
通俗理解就是，变换后的阶梯形方程组不存在 0 = b 0=b 0 = b
解的结构：设 n n n rank ( A ) = rank ( A ˉ ) \text{rank}(A)=\text{rank}(\bar A) rank ( A ) = rank ( A ˉ )
(1) 若 rank ( A ) = n \text{rank}(A)=n rank ( A ) = n rank ( A ) < n \text{rank}(A)<n rank ( A ) < n
非齐次线性方程组 A x = b A\mathbf x=\mathbf b A x = b A x = 0 A\mathbf x=0 A x = 0 导出方程组 。解的关系：
A x = b A\mathbf x=\mathbf b A x = b A x = 0 A\mathbf x=0 A x = 0 A x = b A\mathbf x=\mathbf b A x = b A x = b A\mathbf x=\mathbf b A x = b
如下图
示例：求下列线性方程组的全部解
{ x 1 + 4 x 2 − 5 x 3 = 0 2 x 1 − x 2 + 8 x 3 = 9 \begin{cases}
\begin{alignedat}{4}
x_1&+4x_2&-5x_3& = 0 \\
2x_1&-x_2&+8x_3& = 9
\end{alignedat}
\end{cases}
{ x 1 2 x 1 + 4 x 2 − x 2 − 5 x 3 + 8 x 3 = 0 = 9
解：对方程组的增广矩阵做初等行变换获得阶梯形矩阵和简化阶梯形矩阵
A ˉ = [ 1 4 − 5 0 2 − 1 8 9 ] → [ 1 4 − 5 0 0 − 9 18 9 ] → [ 1 0 3 4 0 1 − 2 1 ] \bar A=\begin{bmatrix}\begin{array}{ccc:c}
1&4&-5&0 \\
2&-1&8&9
\end{array}\end{bmatrix}\to
\begin{bmatrix}\begin{array}{ccc:c}
1&4&-5&0 \\
0&-9&18&9
\end{array}\end{bmatrix}\to
\begin{bmatrix}\begin{array}{ccc:c}
1&0&3&4 \\
0&1&-2&1
\end{array}\end{bmatrix}
A ˉ = [ 1 2 4 − 1 − 5 8 0 9 ] → [ 1 0 4 − 9 − 5 1 8 0 9 ] → [ 1 0 0 1 3 − 2 4 1 ]
因此
{ x 1 = 4 − 3 x 3 x 2 = 1 + 2 x 3 \begin{cases}
x_1=4-3x_3 \\
x_2=1+2x_3
\end{cases}
{ x 1 = 4 − 3 x 3 x 2 = 1 + 2 x 3
解向量的形式为
[ x 1 x 2 x 3 ] = [ 4 1 0 ] + x 3 [ − 3 2 1 ] \begin{bmatrix}x_1\\x_2\\x_3\end{bmatrix}=
\begin{bmatrix}4\\1\\0\end{bmatrix}
+x_3\begin{bmatrix}-3 \\ 2 \\ 1 \end{bmatrix}
⎣ ⎡ x 1 x 2 x 3 ⎦ ⎤ = ⎣ ⎡ 4 1 0 ⎦ ⎤ + x 3 ⎣ ⎡ − 3 2 1 ⎦ ⎤
行列式引自对线性方程组的求解。考虑两个方程的二元线性方程组
{ a 11 x 1 + a 12 x 2 = b 1 a 21 x 1 + a 22 x 2 = b 2 \begin{cases}
a_{11}x_1+a_{12}x_2=b_1 \\
a_{21}x_1+a_{22}x_2=b_2
\end{cases}
{ a 1 1 x 1 + a 1 2 x 2 = b 1 a 2 1 x 1 + a 2 2 x 2 = b 2
可使用消元法，得
( a 11 a 22 − a 12 a 21 ) x 1 = b 1 a 22 − a 12 b 2 ( a 11 a 22 − a 12 a 21 ) x 2 = a 11 b 2 − b 1 a 21 (a_{11}a_{22}-a_{12}a_{21})x_1=b_1a_{22}-a_{12}b_2 \\
(a_{11}a_{22}-a_{12}a_{21})x_2=a_{11}b_2-b_1a_{21}
( a 1 1 a 2 2 − a 1 2 a 2 1 ) x 1 = b 1 a 2 2 − a 1 2 b 2 ( a 1 1 a 2 2 − a 1 2 a 2 1 ) x 2 = a 1 1 b 2 − b 1 a 2 1
当 a 11 a 22 − a 12 a 21 ≠ 0 a_{11}a_{22}-a_{12}a_{21}\neq 0 a 1 1 a 2 2 − a 1 2 a 2 1 = 0
x 1 = b 1 a 22 − a 12 b 2 a 11 a 22 − a 12 a 21 , x 2 = a 11 b 2 − b 1 a 21 a 11 a 22 − a 12 a 21 x_1=\frac{b_1a_{22}-a_{12}b_2}{a_{11}a_{22}-a_{12}a_{21}},\quad
x_2=\frac{a_{11}b_2-b_1a_{21}}{a_{11}a_{22}-a_{12}a_{21}}
x 1 = a 1 1 a 2 2 − a 1 2 a 2 1 b 1 a 2 2 − a 1 2 b 2 , x 2 = a 1 1 a 2 2 − a 1 2 a 2 1 a 1 1 b 2 − b 1 a 2 1
从方程组解来看，分母 a 11 a 22 − a 12 a 21 a_{11}a_{22}-a_{12}a_{21} a 1 1 a 2 2 − a 1 2 a 2 1 A = [ a 11 a 12 a 21 a 22 ] A=\begin{bmatrix} a_{11} & a_{12} \\ a_{21} & a_{22}\end{bmatrix} A = [ a 1 1 a 2 1 a 1 2 a 2 2 ] A A A 二阶行列式 (determinant)，记为 det A \det A det A ∣ A ∣ |A| ∣ A ∣
∣ a 11 a 12 a 21 a 22 ∣ = a 11 a 22 − a 12 a 21 \begin{vmatrix}
a_{11} & a_{12} \\
a_{21} & a_{22}
\end{vmatrix}=a_{11}a_{22}-a_{12}a_{21}
∣ ∣ ∣ ∣ a 1 1 a 2 1 a 1 2 a 2 2 ∣ ∣ ∣ ∣ = a 1 1 a 2 2 − a 1 2 a 2 1
利用二阶行列式的概念，分子也可写为二阶行列式
det A 1 = ∣ b 1 a 12 b 2 a 22 ∣ = b 1 a 22 − a 12 b 2 det A 2 = ∣ a 11 b 1 a 21 b 2 ∣ = a 11 b 2 − b 1 a 21 \det A_1=\begin{vmatrix} b_1 & a_{12} \\ b_2 & a_{22}\end{vmatrix}=b_1a_{22}-a_{12}b_2 \\
\det A_2=\begin{vmatrix} a_{11} & b_1 \\ a_{21} & b_2\end{vmatrix}=a_{11}b_2-b_1a_{21}
det A 1 = ∣ ∣ ∣ ∣ b 1 b 2 a 1 2 a 2 2 ∣ ∣ ∣ ∣ = b 1 a 2 2 − a 1 2 b 2 det A 2 = ∣ ∣ ∣ ∣ a 1 1 a 2 1 b 1 b 2 ∣ ∣ ∣ ∣ = a 1 1 b 2 − b 1 a 2 1
从上面对比可以看出，x j x_j x j A j A_j A j A A A j j j
x 1 = det A 1 det A , x 2 = det A 2 det A x_1=\frac{\det A_1}{\det A},\quad
x_2=\frac{\det A_2}{\det A}
x 1 = det A det A 1 , x 2 = det A det A 2
n n n 考虑三个方程的三元线性方程组，系数矩阵为
A = [ a 11 a 12 a 13 a 21 a 22 a 23 a 31 a 32 a 33 ] A=\begin{bmatrix} a_{11} & a_{12} & a_{13} \\ a_{21} & a_{22} & a_{23} \\a_{31} & a_{32} & a_{33}\end{bmatrix}
A = ⎣ ⎡ a 1 1 a 2 1 a 3 1 a 1 2 a 2 2 a 3 2 a 1 3 a 2 3 a 3 3 ⎦ ⎤
用消元法可知未知数的分母同样是系数矩阵A A A
∣ a 11 a 12 a 13 a 21 a 22 a 23 a 31 a 32 a 33 ∣ = a 11 a 22 a 33 + a 12 a 23 a 31 + a 13 a 21 a 32 − a 11 a 23 a 32 − a 12 a 21 a 33 − a 13 a 22 a 31 \begin{vmatrix} a_{11} & a_{12} & a_{13} \\ a_{21} & a_{22} & a_{23} \\a_{31} & a_{32} & a_{33}\end{vmatrix}
=a_{11}a_{22}a_{33}+a_{12}a_{23}a_{31}+a_{13}a_{21}a_{32}
-a_{11}a_{23}a_{32}-a_{12}a_{21}a_{33}-a_{13}a_{22}a_{31}
∣ ∣ ∣ ∣ ∣ ∣ a 1 1 a 2 1 a 3 1 a 1 2 a 2 2 a 3 2 a 1 3 a 2 3 a 3 3 ∣ ∣ ∣ ∣ ∣ ∣ = a 1 1 a 2 2 a 3 3 + a 1 2 a 2 3 a 3 1 + a 1 3 a 2 1 a 3 2 − a 1 1 a 2 3 a 3 2 − a 1 2 a 2 1 a 3 3 − a 1 3 a 2 2 a 3 1
由二阶行列式的定义，上式可变为
∣ a 11 a 12 a 13 a 21 a 22 a 23 a 31 a 32 a 33 ∣ = a 11 ∣ a 22 a 23 a 32 a 33 ∣ − a 12 ∣ a 21 a 23 a 31 a 33 ∣ + a 13 ∣ a 11 a 12 a 21 a 22 ∣ \begin{vmatrix} a_{11} & a_{12} & a_{13} \\ a_{21} & a_{22} & a_{23} \\a_{31} & a_{32} & a_{33}\end{vmatrix}=
a_{11}\begin{vmatrix} a_{22} & a_{23} \\ a_{32} & a_{33}\end{vmatrix}-
a_{12}\begin{vmatrix} a_{21} & a_{23} \\ a_{31} & a_{33}\end{vmatrix}+
a_{13}\begin{vmatrix} a_{11} & a_{12} \\ a_{21} & a_{22}\end{vmatrix}
∣ ∣ ∣ ∣ ∣ ∣ a 1 1 a 2 1 a 3 1 a 1 2 a 2 2 a 3 2 a 1 3 a 2 3 a 3 3 ∣ ∣ ∣ ∣ ∣ ∣ = a 1 1 ∣ ∣ ∣ ∣ a 2 2 a 3 2 a 2 3 a 3 3 ∣ ∣ ∣ ∣ − a 1 2 ∣ ∣ ∣ ∣ a 2 1 a 3 1 a 2 3 a 3 3 ∣ ∣ ∣ ∣ + a 1 3 ∣ ∣ ∣ ∣ a 1 1 a 2 1 a 1 2 a 2 2 ∣ ∣ ∣ ∣
进一步探索 n n n a i j a_{ij} a i j a i j a_{ij} a i j 余子式 (cofactor)，记作 M i j M_{ij} M i j
A i j = ( − 1 ) i + j M i j A_{ij}=(-1)^{i+j}M_{ij}
A i j = ( − 1 ) i + j M i j
为 a i j a_{ij} a i j 代数余子式 (algebraic cofactor)。
定义 ：方阵 A A A
det A = ∣ a 11 a 12 ⋯ a 1 n a 21 a 22 ⋯ a 2 n ⋮ ⋮ ⋱ ⋮ a n 1 a n 2 ⋯ a n n ∣ = ∑ j = 1 n a 1 j A 1 j \det A=\begin{vmatrix}
a_{11}&a_{12}&\cdots&a_{1n} \\
a_{21}&a_{22}&\cdots&a_{2n} \\
\vdots&\vdots&\ddots&\vdots \\
a_{n1}&a_{n2}&\cdots&a_{nn} \\
\end{vmatrix}=\sum_{j=1}^na_{1j}A_{1j}
det A = ∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ a 1 1 a 2 1 ⋮ a n 1 a 1 2 a 2 2 ⋮ a n 2 ⋯ ⋯ ⋱ ⋯ a 1 n a 2 n ⋮ a n n ∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ = j = 1 ∑ n a 1 j A 1 j
由定义易知，行列式可以按任意行(列)展开。
det A = ∑ j = 1 n a i j A i j , by row i det A = ∑ i = 1 n a i j A i j , by col j \det A=\sum_{j=1}^na_{ij}A_{ij}, \quad \text{by row }i \\
\det A=\sum_{i=1}^na_{ij}A_{ij}, \quad \text{by col }j
det A = j = 1 ∑ n a i j A i j , by row i det A = i = 1 ∑ n a i j A i j , by col j
性质 ：使用数学归纳法可知
行列式与其转置行列式相等：det A T = det A \det A^T=\det A det A T = det A
互换行列式两行(列)，行列式改变符号。
∣ a b c d ∣ = − ∣ c d a b ∣ \begin{vmatrix}a&b\\c&d\end{vmatrix}=-\begin{vmatrix}c&d\\a&b\end{vmatrix}
∣ ∣ ∣ ∣ a c b d ∣ ∣ ∣ ∣ = − ∣ ∣ ∣ ∣ c a d b ∣ ∣ ∣ ∣
行列式的某一行(列)所有元素同乘以数k k k k k k
∣ k a b k c d ∣ = k ∣ a b c d ∣ \begin{vmatrix}ka&b\\kc&d\end{vmatrix}=k\begin{vmatrix}a&b\\c&d\end{vmatrix}
∣ ∣ ∣ ∣ k a k c b d ∣ ∣ ∣ ∣ = k ∣ ∣ ∣ ∣ a c b d ∣ ∣ ∣ ∣
若行列式的某一行(列)的为两组数之和，则可表示为两行列式之和。
∣ a 1 + a 2 b c 1 + c 2 d ∣ = ∣ a 1 b c 1 d ∣ + ∣ a 2 b c 2 d ∣ \begin{vmatrix}a_1+a_2&b\\c_1+c_2&d\end{vmatrix}=\begin{vmatrix}a_1&b\\c_1&d\end{vmatrix}+\begin{vmatrix}a_2&b\\c_2&d\end{vmatrix}
∣ ∣ ∣ ∣ a 1 + a 2 c 1 + c 2 b d ∣ ∣ ∣ ∣ = ∣ ∣ ∣ ∣ a 1 c 1 b d ∣ ∣ ∣ ∣ + ∣ ∣ ∣ ∣ a 2 c 2 b d ∣ ∣ ∣ ∣
把行列式的某一行(列)所有元素同乘以数 k k k
∣ a b c d ∣ = ∣ a + k b b c + k d d ∣ \begin{vmatrix}a&b\\c&d\end{vmatrix}=\begin{vmatrix}a+kb&b\\c+kd&d\end{vmatrix}
∣ ∣ ∣ ∣ a c b d ∣ ∣ ∣ ∣ = ∣ ∣ ∣ ∣ a + k b c + k d b d ∣ ∣ ∣ ∣
矩阵乘积的行列式等于行列式的乘积：det ( A B ) = ( det A ) ( det B ) = det ( B A ) \det(AB)=(\det A)(\det B)=\det(BA) det ( A B ) = ( det A ) ( det B ) = det ( B A )
推论 ：
行列式中若有两行(列)元素相同，该行列式的值为零。
行列式中某一行(列)的公因子可以提取到行列式符号外面。
行列式中若有两行(列)元素成比例，则此行列式等于零。
det ( k A ) = k n det A \det(kA)=k^n\det A det ( k A ) = k n det A
由上面的性质，我们很容易得到：
出现零行和零列的行列式为零。
对角阵 A = diag ( λ 1 , λ 2 , ⋯ , λ n ) A=\text{diag}(\lambda_1,\lambda_2,\cdots,\lambda_n) A = diag ( λ 1 , λ 2 , ⋯ , λ n ) det A = λ 1 λ 2 ⋯ λ n \det A=\lambda_1\lambda_2\cdots\lambda_n det A = λ 1 λ 2 ⋯ λ n
如果 A A A
对于高阶行列式，一般利用行列式的性质，初等变换化为三角行列式求解。
示例：可用数学归纳法证明范德蒙行列式 (Vandermonde determinant)：
∣ 1 1 ⋯ 1 a 1 a 2 ⋯ a n a 1 2 a 2 2 ⋯ a n 2 ⋮ ⋮ ⋮ ⋮ a 1 n − 1 a 2 n − 1 ⋯ a n n − 1 ∣ = ∏ 1 ⩽ i < j ⩽ n ( a j − a i ) \begin{vmatrix}
1 & 1& \cdots &1 \\
a_1 &a_2&\cdots &a_n \\
a_1^2 &a_2^2&\cdots &a_n^2 \\
\vdots &\vdots&\vdots &\vdots \\
a_1^{n-1} &a_2^{n-1}&\cdots &a_n^{n-1}
\end{vmatrix}=\prod_{1⩽ i<j⩽n}(a_j-a_i)
∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ 1 a 1 a 1 2 ⋮ a 1 n − 1 1 a 2 a 2 2 ⋮ a 2 n − 1 ⋯ ⋯ ⋯ ⋮ ⋯ 1 a n a n 2 ⋮ a n n − 1 ∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ ∣ = 1 ⩽ i < j ⩽ n ∏ ( a j − a i )
行列式函数 ：若 A A A n n n det A \det A det A A A A n n n A A A det A \det A det A
假设第 j j j x ↦ T ( x ) \mathbf x\mapsto T(\mathbf x) x ↦ T ( x )
T ( x ) = det A = det [ a 1 ⋯ x ⋯ a n ] T(\mathbf x)=\det A=\det\begin{bmatrix}\mathbf a_1\cdots\mathbf x\cdots\mathbf a_n\end{bmatrix}
T ( x ) = det A = det [ a 1 ⋯ x ⋯ a n ]
则有
T ( c x ) = c T ( x ) T ( u + v ) = T ( u ) + T ( v ) T(c\mathbf x)=cT(\mathbf x) \\
T(\mathbf u+\mathbf v)=T(\mathbf u)+T(\mathbf v)
T ( c x ) = c T ( x ) T ( u + v ) = T ( u ) + T ( v )
这里只讨论方程个数和未知数相等的n n n
A x = b A\mathbf x=\mathbf b
A x = b
若 det A ≠ 0 \det A\neq0 det A = 0
x j = det A j ( b ) det A , ( j = 1 , 2 , ⋯ , n ) x_j=\frac{\det A_j(\mathbf b)}{\det A},\quad(j=1,2,\cdots,n)
x j = det A det A j ( b ) , ( j = 1 , 2 , ⋯ , n )
约定 A j ( b ) A_j(\mathbf b) A j ( b ) b \mathbf b b A A A j j j
证：用a 1 , a 2 , ⋯ , a n \mathbf a_1,\mathbf a_2,\cdots,\mathbf a_n a 1 , a 2 , ⋯ , a n A A A e 1 , e 2 , ⋯ , e n \mathbf e_1,\mathbf e_2,\cdots,\mathbf e_n e 1 , e 2 , ⋯ , e n I n I_n I n
A I j ( x ) = A [ e 1 ⋯ x ⋯ e n ] = [ A e 1 ⋯ A x ⋯ A e n ] = [ a 1 ⋯ b ⋯ a n ] = A j ( b ) \begin{aligned}
AI_j(\mathbf x)&=A\begin{bmatrix}\mathbf e_1&\cdots&\mathbf x&\cdots&\mathbf e_n\end{bmatrix} \\
&=\begin{bmatrix}A\mathbf e_1&\cdots& A\mathbf x&\cdots& A\mathbf e_n\end{bmatrix} \\
&=\begin{bmatrix}\mathbf a_1&\cdots&\mathbf b&\cdots&\mathbf a_n\end{bmatrix} \\
&=A_j(\mathbf b)
\end{aligned}
A I j ( x ) = A [ e 1 ⋯ x ⋯ e n ] = [ A e 1 ⋯ A x ⋯ A e n ] = [ a 1 ⋯ b ⋯ a n ] = A j ( b )
由行列式的乘法性质
det A det I j ( x ) = det A j ( b ) \det A\det I_j(\mathbf x)=\det A_j(\mathbf b)
det A det I j ( x ) = det A j ( b )
左边第二个行列式可沿第 j j j det I j ( x ) = x j \det I_j(\mathbf x)=x_j det I j ( x ) = x j
x j det A = det A j ( b ) x_j\det A=\det A_j(\mathbf b)
x j det A = det A j ( b )
若 det A ≠ 0 \det A\neq0 det A = 0
Grant：行列式告诉你一个线性变换对区域的缩放比例。
我们已经知道，线性变换保持网格线平行且等距。为了方便，我们只考虑在平面直角坐标系内，单位基向量 i , j \mathbf i,\mathbf j i , j
根据向量加法的平行四边形法则和线性变换基本性质知，变换后的区域为矩阵 A = [ a b c d ] A=\begin{bmatrix}a & b\\c & d\end{bmatrix} A = [ a c b d ] [ a c ] \begin{bmatrix}a\\c\end{bmatrix} [ a c ] [ b d ] \begin{bmatrix}b\\d\end{bmatrix} [ b d ]
结论 ：二阶行列式的值表示由 A A A
(1) 若 A A A det [ a b 0 d ] \det\begin{bmatrix}a & b\\0 & d\end{bmatrix} det [ a 0 b d ] a a a d d d
(2) 更一般的情况 A = [ a b c d ] A=\begin{bmatrix}a & b\\c & d\end{bmatrix} A = [ a c b d ]
(3) 矩阵 [ a 2 a a 1 ] \begin{bmatrix}a^2 & a\\a & 1\end{bmatrix} [ a 2 a a 1 ]
单位正方形区域缩放的比例，其实可以代表任意给定区域缩放的比例。这是因为，线性变换保持网格线平行且等距。对于空间中任意区域的面积，借助微积分的思想，我们可以采用足够的小方格来逼近区域的面积，对所有小方格等比例缩放，则整个区域也以同样的比例缩放。
volume T ( Ω ) = ( det T ) ( volume Ω ) \text{volume }T(\Omega) = (\det T)(\text{volume }\Omega)
volume T ( Ω ) = ( det T ) ( volume Ω )
通过行列式的几何意义，我们就建立了线性变换、矩阵、行列式之间的关系。不难得出
复合线性变换缩放的比例相当于每次变换缩放比例的乘积，即
det A B = det A det B \det AB=\det A\det B
det A B = det A det B
行列式的值为零，表示将空间压缩到更低的维度，矩阵的列向量线性相关
转置 ：矩阵A A A A A A A T A^T A T
性质 ：矩阵转置运算满足下列性质：
( A + B ) T = A T + B T (A+B)^T=A^T+B^T ( A + B ) T = A T + B T ( A T ) T = A (A^T)^T=A ( A T ) T = A ( k A ) T = k A T (kA)^T=kA^T ( k A ) T = k A T ( A B ) T = B T A T (AB)^T=B^TA^T ( A B ) T = B T A T ( A T ) − 1 = ( A − 1 ) T (A^T)^{-1}=(A^{-1})^T ( A T ) − 1 = ( A − 1 ) T
三角矩阵 ：(triangular matrix)主对角线的下方元素都是零的方阵，称为上三角矩阵 。类似的，主对角线的上方元素都是零的方阵，称为下三角矩阵 。
[ a 11 a 12 ⋯ a 1 n a 22 ⋯ a 2 n ⋱ ⋮ a n n ] , [ a 11 a 21 a 22 ⋮ ⋮ ⋱ a n 1 a n 2 ⋯ a n n ] \begin{bmatrix}
a_{11}&a_{12}&\cdots&a_{1n} \\
&a_{22}&\cdots&a_{2n} \\
&&\ddots&\vdots \\
&&&a_{nn} \\
\end{bmatrix},\quad
\begin{bmatrix}
a_{11}&&& \\
a_{21}&a_{22}&& \\
\vdots&\vdots&\ddots& \\
a_{n1}&a_{n2}&\cdots&a_{nn} \\
\end{bmatrix}
⎣ ⎢ ⎢ ⎢ ⎡ a 1 1 a 1 2 a 2 2 ⋯ ⋯ ⋱ a 1 n a 2 n ⋮ a n n ⎦ ⎥ ⎥ ⎥ ⎤ , ⎣ ⎢ ⎢ ⎢ ⎡ a 1 1 a 2 1 ⋮ a n 1 a 2 2 ⋮ a n 2 ⋱ ⋯ a n n ⎦ ⎥ ⎥ ⎥ ⎤
上(下)三角阵的行列式为主对角线元素的乘积
det A = a 11 a 22 ⋯ a n n \det A=a_{11}a_{22}\cdots a_{nn}
det A = a 1 1 a 2 2 ⋯ a n n
对角阵 ：不在主对角线上的元素全为零的矩阵称为对角阵 (diagonal matrix)，记作
d i a g ( a 1 , a 2 , ⋯ , a n ) = [ a 1 a 2 ⋱ a n ] \mathrm{diag}(a_1,a_2,\cdots,a_n)=\begin{bmatrix}
a_1 \\
&a_2 \\
&&\ddots \\
&&&a_n \\
\end{bmatrix}
d i a g ( a 1 , a 2 , ⋯ , a n ) = ⎣ ⎢ ⎢ ⎡ a 1 a 2 ⋱ a n ⎦ ⎥ ⎥ ⎤
对角阵有良好的性质：
两对角阵的乘积仍为对角阵
[ a 1 a 2 ⋱ a n ] [ b 1 b 2 ⋱ b n ] = [ a 1 b 1 a 2 b 2 ⋱ a n b n ] \begin{bmatrix}a_1 \\&a_2 \\&&\ddots \\&&&a_n \end{bmatrix}
\begin{bmatrix}b_1 \\&b_2 \\&&\ddots \\&&&b_n \end{bmatrix}=
\begin{bmatrix}a_1b_1 \\&a_2b_2 \\&&\ddots \\&&&a_nb_n \end{bmatrix}
⎣ ⎢ ⎢ ⎡ a 1 a 2 ⋱ a n ⎦ ⎥ ⎥ ⎤ ⎣ ⎢ ⎢ ⎡ b 1 b 2 ⋱ b n ⎦ ⎥ ⎥ ⎤ = ⎣ ⎢ ⎢ ⎡ a 1 b 1 a 2 b 2 ⋱ a n b n ⎦ ⎥ ⎥ ⎤
对角阵的幂仍为对角阵
[ a 1 a 2 ⋱ a n ] k = [ a 1 k a 2 k ⋱ a n k ] \begin{bmatrix}a_1 \\&a_2 \\&&\ddots \\&&&a_n \end{bmatrix}^k=
\begin{bmatrix}a_1^k \\&a_2^k \\&&\ddots \\&&&a_n^k \end{bmatrix}
⎣ ⎢ ⎢ ⎡ a 1 a 2 ⋱ a n ⎦ ⎥ ⎥ ⎤ k = ⎣ ⎢ ⎢ ⎡ a 1 k a 2 k ⋱ a n k ⎦ ⎥ ⎥ ⎤
数量阵 ：主对角线上的元素都相等的对角阵，称为数量阵 (scalar matrix)。
d i a g ( a , a , ⋯ , a ) = [ a a ⋱ a ] \mathrm{diag}(a,a,\cdots,a)=\begin{bmatrix}
a \\
&a \\
&&\ddots \\
&&&a \\
\end{bmatrix}
d i a g ( a , a , ⋯ , a ) = ⎣ ⎢ ⎢ ⎡ a a ⋱ a ⎦ ⎥ ⎥ ⎤
数量阵得名于它的乘法。如二阶数量阵
[ k 0 0 k ] A = k [ 1 0 0 1 ] A = k A \begin{bmatrix}k&0 \\ 0&k \end{bmatrix}A=k\begin{bmatrix}1&0 \\ 0&1 \end{bmatrix}A=kA
[ k 0 0 k ] A = k [ 1 0 0 1 ] A = k A
单位阵 ：主对角线上的元素全为1的对角阵，称为单位阵 (identity matrix)。n n n E n E_n E n I n I_n I n
I 3 = [ 1 0 0 0 1 0 0 0 1 ] I_3=\begin{bmatrix}1&0&0 \\0&1&0 \\0&0&1 \\ \end{bmatrix}
I 3 = ⎣ ⎡ 1 0 0 0 1 0 0 0 1 ⎦ ⎤
对称阵 与反对称阵 ：设 A = ( a i j ) A=(a_{ij}) A = ( a i j ) n n n A T = A A^T=A A T = A a i j = a j i a_{ij}=a_{ji} a i j = a j i 对称阵 (symmetric matrix)；若A T = − A A^T=-A A T = − A a i j = − a j i a_{ij}=-a_{ji} a i j = − a j i 反对称阵 (skew-symmetric matrix)。
易证明 A A T AA^T A A T A T A A^TA A T A
方阵的幂 ：由于矩阵满足结合律，我们可以定义矩阵的幂运算
A 0 = I , A n = A A ⋯ A ⏞ n A^0=I,\quad A^n=\overbrace{AA\cdots A}^n
A 0 = I , A n = A A ⋯ A n
当矩阵 A A A
A − k = ( A − 1 ) k A^{-k}=(A^{-1})^k
A − k = ( A − 1 ) k
显然只有方阵的幂才有意义。幂运算满足如下性质：
A k A l = A k + l A^kA^l=A^{k+l} A k A l = A k + l ( A k ) l = A k l (A^k)^l=A^{kl} ( A k ) l = A k l
注意：因为矩阵乘法无交换率，因此一般情况下 ( A B ) k ≠ A k B k (AB)^k\neq A^kB^k ( A B ) k = A k B k
初等变换 ：矩阵初等行变换的定义同样适用于列，相应的记法为 c i ↔ c j , k c i , c i + k c j c_i\lrarr c_j,kc_i,c_i+kc_j c i ↔ c j , k c i , c i + k c j 初等变换 。若矩阵 A A A B B B A A A B B B 等价 (equivalent) 。
矩阵的初等变换是矩阵的一种最基本运算，其过程可以通过特殊矩阵的乘法来表示。
初等矩阵 ：由单位矩阵进行一次初等变换得到的矩阵称为初等矩阵 (elementary matrix)。易知初等矩阵都是可逆的。
三种初等变换对应着三种初等矩阵。由矩阵的乘法运算可以验证：对矩阵的初等行变换相当于左乘相应的初等矩阵；对矩阵的初等列变换相当于右乘相应的初等矩阵 。
互换变换，如 r 1 ↔ r 2 r_1\lrarr r_2 r 1 ↔ r 2
[ 0 1 0 1 0 0 0 0 1 ] [ a 1 b 1 a 2 b 2 a 3 b 3 ] = [ a 2 b 2 a 1 b 1 a 3 b 3 ] \begin{bmatrix}0&1&0 \\1&0&0\\0&0&1\end{bmatrix}
\begin{bmatrix}a_1&b_1 \\a_2&b_2\\a_3&b_3\end{bmatrix}=
\begin{bmatrix}a_2&b_2\\a_1&b_1 \\a_3&b_3\end{bmatrix}
⎣ ⎡ 0 1 0 1 0 0 0 0 1 ⎦ ⎤ ⎣ ⎡ a 1 a 2 a 3 b 1 b 2 b 3 ⎦ ⎤ = ⎣ ⎡ a 2 a 1 a 3 b 2 b 1 b 3 ⎦ ⎤
倍乘变换，如 2 r 1 2r_1 2 r 1
[ 2 0 0 0 1 0 0 0 1 ] [ a 1 b 1 a 2 b 2 a 3 b 3 ] = [ 2 a 1 b 1 a 2 b 2 a 3 b 3 ] \begin{bmatrix}2&0&0 \\0&1&0\\0&0&1\end{bmatrix}
\begin{bmatrix}a_1&b_1 \\a_2&b_2\\a_3&b_3\end{bmatrix}=
\begin{bmatrix}2a_1&b_1 \\a_2&b_2\\a_3&b_3\end{bmatrix}
⎣ ⎡ 2 0 0 0 1 0 0 0 1 ⎦ ⎤ ⎣ ⎡ a 1 a 2 a 3 b 1 b 2 b 3 ⎦ ⎤ = ⎣ ⎡ 2 a 1 a 2 a 3 b 1 b 2 b 3 ⎦ ⎤
倍加变换，如 r 1 + 2 r 2 r_1+2r_2 r 1 + 2 r 2
[ 1 2 0 0 1 0 0 0 1 ] [ a 1 b 1 a 2 b 2 a 3 b 3 ] = [ a 1 + 2 a 2 b 1 + 2 b 2 a 2 b 2 a 3 b 3 ] \begin{bmatrix}1&2&0 \\0&1&0\\0&0&1\end{bmatrix}
\begin{bmatrix}a_1&b_1 \\a_2&b_2\\a_3&b_3\end{bmatrix}=
\begin{bmatrix}a_1+2a_2&b_1+2b_2 \\a_2&b_2\\a_3&b_3\end{bmatrix}
⎣ ⎡ 1 0 0 2 1 0 0 0 1 ⎦ ⎤ ⎣ ⎡ a 1 a 2 a 3 b 1 b 2 b 3 ⎦ ⎤ = ⎣ ⎡ a 1 + 2 a 2 a 2 a 3 b 1 + 2 b 2 b 2 b 3 ⎦ ⎤
定理 ：任意一个可逆矩阵都可以表示为有限个初等矩阵的乘积。
由于初等矩阵可逆，所以初等矩阵的乘积亦可逆。
所有矩阵都可通过初等变换化为标准型
[ 1 ⋱ 1 } r 0 ⋱ 0 ] = [ I r O O O ] \begin{bmatrix}
\left.\begin{matrix}1&& \\ &\ddots&\\&&1\end{matrix}\right\}r & \\
&\begin{matrix}0 \\ &\ddots&\\&&0\end{matrix}
\end{bmatrix}=
\begin{bmatrix}I_r&O \\O&O\end{bmatrix}
⎣ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎡ 1 ⋱ 1 ⎭ ⎬ ⎫ r 0 ⋱ 0 ⎦ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ ⎤ = [ I r O O O ]
分块矩阵是矩阵运算的一种技巧。
在矩阵的运算和理论研究中，有时对矩阵进行分块处理，常常会简化矩阵的运算，或者使原矩阵显得结构简单而清晰。
[ 1 0 0 0 0 1 0 0 0 0 1 5 ] = [ I 2 O O A ] \begin{bmatrix}
\begin{array}{cc:cc}
1&0 & 0 & 0 \\
0&1 & 0 &0 \\
\hdashline
0&0 & 1 & 5
\end{array}\end{bmatrix}
=\begin{bmatrix}
I_2 & O \\
O & A
\end{bmatrix}
⎣ ⎡ 1 0 0 0 1 0 0 0 1 0 0 5 ⎦ ⎤ = [ I 2 O O A ]
像这样，结合矩阵本身的特点，把一个矩阵用横线和竖线划分为若干个子块，并以所分的子块为元素的矩阵称为分块矩阵 (Block matrix)。一个矩阵可用不同的方法分块。
分块矩阵的运算形式上和普通矩阵相同，把子块当成元素计算即可。
加法 ：设分块 A , B A,B A , B A + B = ( A i j + B i j ) A+B=(A_{ij}+B_{ij}) A + B = ( A i j + B i j )
[ A 1 B 1 C 1 D 1 ] + [ A 2 B 2 C 2 D 2 ] = [ A 1 + A 2 B 1 + B 2 C 1 + C 2 D 1 + D 2 ] \begin{bmatrix}A_1 & B_1 \\C_1 & D_1 \end{bmatrix}+
\begin{bmatrix}A_2 & B_2 \\C_2 & D_2 \end{bmatrix}=\begin{bmatrix}A_1+A_2 & B_1+B_2 \\C_1+C_2 & D_1+D_2 \end{bmatrix}
[ A 1 C 1 B 1 D 1 ] + [ A 2 C 2 B 2 D 2 ] = [ A 1 + A 2 C 1 + C 2 B 1 + B 2 D 1 + D 2 ]
数乘 ：分块矩阵 A A A
k [ A B C D ] = [ k A k B k C k D ] k\begin{bmatrix}A & B \\C & D \end{bmatrix}=\begin{bmatrix}kA & kB \\kC & kD \end{bmatrix}
k [ A C B D ] = [ k A k C k B k D ]
乘法 ：分块矩阵的乘法按矩阵乘法的形式计算。
A B = A [ b 1 b 2 ⋯ b p ] = [ A b 1 A b 2 ⋯ A b p ] AB=A\begin{bmatrix}\mathbf b_1&\mathbf b_2&\cdots&\mathbf b_p\end{bmatrix}=
\begin{bmatrix}A\mathbf b_1&A\mathbf b_2&\cdots&A\mathbf b_p\end{bmatrix}
A B = A [ b 1 b 2 ⋯ b p ] = [ A b 1 A b 2 ⋯ A b p ]
矩阵乘法的列行展开
A B = [ a 1 a 2 ⋯ a n ] [ b 1 b 2 ⋮ b n ] = a 1 b 1 + a 2 b 2 + ⋯ + a n b n AB=\begin{bmatrix}\mathbf a_1&\mathbf a_2&\cdots&\mathbf a_n\end{bmatrix}
\begin{bmatrix}\mathbf b_1\\\mathbf b_2\\\vdots\\\mathbf b_n\end{bmatrix}
=\mathbf a_1\mathbf b_1+\mathbf a_2\mathbf b_2+\cdots+\mathbf a_n\mathbf b_n
A B = [ a 1 a 2 ⋯ a n ] ⎣ ⎢ ⎢ ⎢ ⎡ b 1 b 2 ⋮ b n ⎦ ⎥ ⎥ ⎥ ⎤ = a 1 b 1 + a 2 b 2 + ⋯ + a n b n
转置 ：分块矩阵 A = ( A i j ) A=(A_{ij}) A = ( A i j ) A T = ( A i j T ) A^T=(A_{ij}^T) A T = ( A i j T )
分块上三角矩阵 ：
[ A B O D ] − 1 = [ A − 1 − A − 1 B D − 1 O D − 1 ] \begin{bmatrix}A&B\\O&D\end{bmatrix}^{-1}=
\begin{bmatrix}A^{-1}&-A^{-1}BD^{-1}\\O&D^{-1}\end{bmatrix}
[ A O B D ] − 1 = [ A − 1 O − A − 1 B D − 1 D − 1 ]
设分块矩阵 [ X 1 X 2 X 3 X 4 ] \begin{bmatrix}X_1&X_2\\X_3&X_4\end{bmatrix} [ X 1 X 3 X 2 X 4 ] [ A B O D ] \begin{bmatrix}A&B\\O&D\end{bmatrix} [ A O B D ]
[ A B O D ] [ X 1 X 2 X 3 X 4 ] = [ I p O O I q ] \begin{bmatrix}A&B\\O&D\end{bmatrix}
\begin{bmatrix}X_1&X_2\\X_3&X_4\end{bmatrix}
=\begin{bmatrix}I_p&O\\O&I_q\end{bmatrix}
[ A O B D ] [ X 1 X 3 X 2 X 4 ] = [ I p O O I q ]
这个矩阵方程包含了4个未知子块的方程
A X 1 + B X 3 = I p A X 2 + B X 4 = O D X 3 = O D X 4 = I q AX_1+BX_3=I_p \\
AX_2+BX_4=O \\
DX_3=O \\
DX_4=I_q
A X 1 + B X 3 = I p A X 2 + B X 4 = O D X 3 = O D X 4 = I q
若 D D D X 3 = O , X 4 = D − 1 X_3=O,X_4=D^{-1} X 3 = O , X 4 = D − 1 A A A X 1 = A − 1 , X 2 = − A − 1 B D − 1 X_1=A^{-1},X_2=-A^{-1}BD^{-1} X 1 = A − 1 , X 2 = − A − 1 B D − 1
分块对角矩阵 ：分块对角矩阵拥有良好的性质。
(1) 分块对角矩阵乘积
[ A 1 A 2 ⋱ A s ] [ B 1 B 2 ⋱ B s ] = [ A 1 B 1 A 2 B 2 ⋱ A s B s ] \begin{bmatrix}A_1 \\&A_2 \\&&\ddots \\&&&A_s \end{bmatrix}
\begin{bmatrix}B_1 \\&B_2 \\&&\ddots \\&&&B_s \end{bmatrix}
=\begin{bmatrix}A_1B_1 \\&A_2B_2 \\&&\ddots \\&&&A_sB_s \end{bmatrix}
⎣ ⎢ ⎢ ⎡ A 1 A 2 ⋱ A s ⎦ ⎥ ⎥ ⎤ ⎣ ⎢ ⎢ ⎡ B 1 B 2 ⋱ B s ⎦ ⎥ ⎥ ⎤ = ⎣ ⎢ ⎢ ⎡ A 1 B 1 A 2 B 2 ⋱ A s B s ⎦ ⎥ ⎥ ⎤
(2) 若分块对角矩阵的各个子块可逆，则该对角分块矩阵可逆
[ A 1 A 2 ⋱ A s ] − 1 = [ A 1 − 1 A 2 − 1 ⋱ A s − 1 ] \begin{bmatrix}A_1 \\&A_2 \\&&\ddots \\&&&A_s \end{bmatrix}^{-1}=
\begin{bmatrix}A_1^{-1} \\&A_2^{-1} \\&&\ddots \\&&&A_s^{-1} \end{bmatrix}
⎣ ⎢ ⎢ ⎡ A 1 A 2 ⋱ A s ⎦ ⎥ ⎥ ⎤ − 1 = ⎣ ⎢ ⎢ ⎡ A 1 − 1 A 2 − 1 ⋱ A s − 1 ⎦ ⎥ ⎥ ⎤
(3) 分块对角矩阵的行列式为对角位置的行列式乘积
det [ A 1 A 2 ⋱ A s ] = det A 1 det A 2 ⋯ det A s \det\begin{bmatrix}A_1 \\&A_2 \\&&\ddots \\&&&A_s \end{bmatrix}
=\det A_1\det A_2\cdots\det A_s
det ⎣ ⎢ ⎢ ⎡ A 1 A 2 ⋱ A s ⎦ ⎥ ⎥ ⎤ = det A 1 det A 2 ⋯ det A s
利用克拉默法可以容易地导出一个求矩阵的逆的一般公式。设矩阵 A = ( a i j ) n × n A=(a_{ij})_{n\times n} A = ( a i j ) n × n A − 1 = ( b i j ) n × n A^{-1}=(b_{ij})_{n\times n} A − 1 = ( b i j ) n × n
A A − 1 = A [ b 1 b 2 ⋯ b n ] = I n = [ e 1 e 2 ⋯ e n ] AA^{-1}=A\begin{bmatrix}\mathbf b_1&\mathbf b_2&\cdots&\mathbf b_n\end{bmatrix}
=I_n=\begin{bmatrix}\mathbf e_1&\mathbf e_2&\cdots&\mathbf e_n\end{bmatrix}
A A − 1 = A [ b 1 b 2 ⋯ b n ] = I n = [ e 1 e 2 ⋯ e n ]
其中 b j \mathbf b_j b j A − 1 A^{-1} A − 1 j j j e j \mathbf e_j e j I n I_n I n j j j
A b j = e j A\mathbf b_j=\mathbf e_j
A b j = e j
向量 b j \mathbf b_j b j i i i A − 1 A^{-1} A − 1 b i j b_{ij} b i j
b i j = det A i ( e j ) det A b_{ij}=\frac{\det A_i(\mathbf e_j)}{\det A}
b i j = det A det A i ( e j )
回顾代数余子式的定义，它是把矩阵 A A A a i j a_{ij} a i j det A i ( e j ) \det A_i(\mathbf e_j) det A i ( e j ) i i i
det A i ( e j ) = ( − 1 ) i + j M j i = A j i \det A_i(\mathbf e_j)=(-1)^{i+j}M_{ji}=A_{ji}
det A i ( e j ) = ( − 1 ) i + j M j i = A j i
于是可写出矩阵 A A A
A − 1 = 1 det A adj A A^{-1}=\dfrac{1}{\det A}\text{adj }A
A − 1 = det A 1 adj A
其中 adj A \text{adj }A adj A A A A A j i A_{ji} A j i
adj A = [ A 11 A 21 ⋯ A n 1 A 12 A 22 ⋯ A n 2 ⋮ ⋮ ⋱ ⋮ A 1 n A 2 n ⋯ A n n ] \text{adj }A=\begin{bmatrix}
A_{11}&A_{21}&\cdots&A_{n1} \\
A_{12}&A_{22}&\cdots&A_{n2} \\
\vdots&\vdots&\ddots&\vdots \\
A_{1n}&A_{2n}&\cdots&A_{nn} \\
\end{bmatrix}
adj A = ⎣ ⎢ ⎢ ⎢ ⎡ A 1 1 A 1 2 ⋮ A 1 n A 2 1 A 2 2 ⋮ A 2 n ⋯ ⋯ ⋱ ⋯ A n 1 A n 2 ⋮ A n n ⎦ ⎥ ⎥ ⎥ ⎤
做矩阵A A A 伴随矩阵 (Adjugate Matrix) 。
注意，伴随矩阵里代数余子式的排列顺序是颠倒的。
定理 ：方阵 A A A det A ≠ 0 \det A\neq0 det A = 0 A − 1 = 1 det A adj A A^{-1}=\dfrac{1}{\det A}\text{adj }A A − 1 = det A 1 adj A
此定理仅适用于理论上的计算矩阵的逆，使我们不用实际计算出A − 1 A^{-1} A − 1
这里给出二阶方阵 A = [ a b c d ] A=\begin{bmatrix}a&b\\c&d\end{bmatrix} A = [ a c b d ] det A = a d − b c ≠ 0 \det A=ad-bc\neq0 det A = a d − b c = 0
A − 1 = 1 a d − b c [ d − b − c a ] A^{-1}=\frac{1}{ad-bc}\begin{bmatrix}d&-b\\-c&a\end{bmatrix}
A − 1 = a d − b c 1 [ d − c − b a ]
推论 ：
若 n n n A , B A,B A , B A B = I AB=I A B = I B A = I BA=I B A = I B = A − 1 B=A^{-1} B = A − 1
A ( adj A ) = ( adj A ) A = ( det A ) I A(\text{adj }A)=(\text{adj }A)A=(\det A)I A ( adj A ) = ( adj A ) A = ( det A ) I
有了推论1，只需判断 A B = I AB=I A B = I B A = I BA=I B A = I
利用初等变换计算逆矩阵 ：写出增广矩阵 ( A ∣ I ) (A\mid I) ( A ∣ I ) A A A I I I A − 1 A^{-1} A − 1
( A ∣ I ) → ( I ∣ A − 1 ) (A\mid I)\xrightarrow{}(I\mid A^{-1})
( A ∣ I ) ( I ∣ A − 1 )
同样，利用初等列变换计算逆矩阵的示意如下
[ A I ] → [ I A − 1 ] \begin{bmatrix}A\\I\end{bmatrix}\xrightarrow{}\begin{bmatrix}I\\A^{-1}\end{bmatrix}
[ A I ] [ I A − 1 ]
示例：解矩阵方程
[ 1 0 1 − 1 1 1 2 − 1 1 ] [ x 1 y 1 x 2 y 2 x 3 y 3 ] = [ 1 1 0 1 − 1 0 ] \begin{bmatrix}1&0&1\\-1&1&1\\2&-1&1\end{bmatrix}
\begin{bmatrix}x_1&y_1\\x_2&y_2\\x_3&y_3\\\end{bmatrix}=
\begin{bmatrix}1&1\\0&1\\-1&0\\\end{bmatrix}
⎣ ⎡ 1 − 1 2 0 1 − 1 1 1 1 ⎦ ⎤ ⎣ ⎡ x 1 x 2 x 3 y 1 y 2 y 3 ⎦ ⎤ = ⎣ ⎡ 1 0 − 1 1 1 0 ⎦ ⎤
解：系数矩阵可逆的矩阵方程 A X = B AX=B A X = B X = A − 1 B X=A^{-1}B X = A − 1 B P = A − 1 P=A^{-1} P = A − 1
( A ∣ B ) → ( I ∣ X ) (A\mid B)\xrightarrow{}(I\mid X)
( A ∣ B ) ( I ∣ X )
本例计算过程如下
[ 1 0 1 1 1 − 1 1 1 0 1 2 − 1 1 − 1 0 ] → [ 1 0 0 3 1 0 1 0 5 2 0 0 1 − 2 0 ] \begin{bmatrix}
\begin{array}{ccc:cc}
1&0&1&1&1\\
-1&1&1&0&1\\
2&-1&1&-1&0
\end{array}
\end{bmatrix}\to
\begin{bmatrix}
\begin{array}{ccc:cc}
1&0&0&3&1\\
0&1&0&5&2\\
0&0&1&-2&0
\end{array}
\end{bmatrix}
⎣ ⎡ 1 − 1 2 0 1 − 1 1 1 1 1 0 − 1 1 1 0 ⎦ ⎤ → ⎣ ⎡ 1 0 0 0 1 0 0 0 1 3 5 − 2 1 2 0 ⎦ ⎤
故
[ x 1 y 1 x 2 y 2 x 3 y 3 ] = [ 3 1 5 2 − 2 0 ] \begin{bmatrix}x_1&y_1\\x_2&y_2\\x_3&y_3\end{bmatrix}=
\begin{bmatrix}3&1\\5&2\\-2&0\end{bmatrix}
⎣ ⎡ x 1 x 2 x 3 y 1 y 2 y 3 ⎦ ⎤ = ⎣ ⎡ 3 5 − 2 1 2 0 ⎦ ⎤
行空间 ：矩阵A = ( r 1 , r 2 , ⋯ , r m ) T A=(\mathbf r_1,\mathbf r_2,\cdots,\mathbf r_m)^T A = ( r 1 , r 2 , ⋯ , r m ) T A A A
row A = span { r 1 , r 2 , ⋯ , r m } \text{row }A=\text{span}\{\mathbf r_1,\mathbf r_2,\cdots,\mathbf r_m\}
row A = span { r 1 , r 2 , ⋯ , r m }
若两个矩阵 A A A B B B B B B B B B row B \text{row }B row B row A \text{row }A row A
证明：若 B B B A A A B B B A A A B B B A A A B B B A A A A A A B B B B B B B B B B B B A A A
例：分别求矩阵 A A A
A = [ − 2 − 5 8 0 − 17 1 3 − 5 1 5 3 11 − 19 7 1 1 7 − 13 5 − 3 ] A=\begin{bmatrix}-2&-5&8&0&-17\\1&3&-5&1&5\\3&11&-19&7&1\\1&7&-13&5&-3\end{bmatrix}
A = ⎣ ⎢ ⎢ ⎡ − 2 1 3 1 − 5 3 1 1 7 8 − 5 − 1 9 − 1 3 0 1 7 5 − 1 7 5 1 − 3 ⎦ ⎥ ⎥ ⎤
解：为了求行空间和列空间的基，行化简A A A
A → [ 1 3 − 5 1 5 0 1 − 2 2 − 7 0 0 0 − 4 20 0 0 0 0 0 ] = B A\to \begin{bmatrix}1&3&-5&1&5\\0&1&-2&2&-7\\0&0&0&-4&20\\0&0&0&0&0\end{bmatrix}=B
A → ⎣ ⎢ ⎢ ⎡ 1 0 0 0 3 1 0 0 − 5 − 2 0 0 1 2 − 4 0 5 − 7 2 0 0 ⎦ ⎥ ⎥ ⎤ = B
矩阵 B B B B B B A A A
row A \text{row }A row A ( 1 , 3 , − 5 , 1 , 5 ) , ( 0 , 1 , − 2 , 2 , − 7 ) , ( 0 , 0 , 0 , − 4 , 20 ) (1,3,-5,1,5),(0,1,-2,2,-7),(0,0,0,-4,20) ( 1 , 3 , − 5 , 1 , 5 ) , ( 0 , 1 , − 2 , 2 , − 7 ) , ( 0 , 0 , 0 , − 4 , 2 0 )
对列空间，B B B A A A col A \text{col }A col A
col A \text{col }A col A ( − 2 , 1 , 3 , 1 ) T , ( − 5 , 3 , 11 , 7 ) T , ( 0 , 1 , 7 , 5 ) T (-2,1,3,1)^T,(-5,3,11,7)^T,(0,1,7,5)^T ( − 2 , 1 , 3 , 1 ) T , ( − 5 , 3 , 1 1 , 7 ) T , ( 0 , 1 , 7 , 5 ) T
对于核空间，需要进一步行变换得简化阶梯型矩阵
B → [ 1 0 1 0 1 0 1 − 2 0 3 0 0 0 1 − 5 0 0 0 0 0 ] = C B\to\begin{bmatrix}1&0&1&0&1\\0&1&-2&0&3\\0&0&0&1&-5\\0&0&0&0&0\end{bmatrix}=C
B → ⎣ ⎢ ⎢ ⎡ 1 0 0 0 0 1 0 0 1 − 2 0 0 0 0 1 0 1 3 − 5 0 ⎦ ⎥ ⎥ ⎤ = C
方程 A x = 0 A\mathbf x=0 A x = 0 C x = 0 C\mathbf x=0 C x = 0
{ x 1 + x 3 + x 5 = 0 x 2 − 2 x 3 + 3 x 5 = 0 x 4 − 5 x 5 = 0 \begin{cases}
x_1+x_3+x_5=0 \\
x_2-2x_3+3x_5=0 \\
x_4-5x_5=0
\end{cases}
⎩ ⎪ ⎨ ⎪ ⎧ x 1 + x 3 + x 5 = 0 x 2 − 2 x 3 + 3 x 5 = 0 x 4 − 5 x 5 = 0
所以
[ x 1 x 2 x 3 x 4 x 5 ] = x 3 [ − 1 2 1 0 0 ] + x 5 [ − 1 − 3 0 5 1 ] \begin{bmatrix}x_1\\x_2\\x_3\\x_4\\x_5\end{bmatrix}=
x_3\begin{bmatrix}-1\\2\\1\\0\\0\end{bmatrix}+
x_5\begin{bmatrix}-1\\-3\\0\\5\\1\end{bmatrix}
⎣ ⎢ ⎢ ⎢ ⎢ ⎡ x 1 x 2 x 3 x 4 x 5 ⎦ ⎥ ⎥ ⎥ ⎥ ⎤ = x 3 ⎣ ⎢ ⎢ ⎢ ⎢ ⎡ − 1 2 1 0 0 ⎦ ⎥ ⎥ ⎥ ⎥ ⎤ + x 5 ⎣ ⎢ ⎢ ⎢ ⎢ ⎡ − 1 − 3 0 5 1 ⎦ ⎥ ⎥ ⎥ ⎥ ⎤
null A \text{null } A null A ( − 1 , 2 , 1 , 0 , 0 ) T , ( − 1 , − 3 , 0 , 5 , 1 ) T (-1,2,1,0,0)^T,(-1,-3,0,5,1)^T ( − 1 , 2 , 1 , 0 , 0 ) T , ( − 1 , − 3 , 0 , 5 , 1 ) T
通过观察可见，与 col A \text{col }A col A row A \text{row }A row A null A \text{null } A null A A A A
定理 ：对于 m × n m\times n m × n A A A
dim ( row A ) = dim ( col A ) = rank A \dim(\text{row }A)=\dim(\text{col }A)=\text{rank }A dim ( row A ) = dim ( col A ) = rank A rank A + dim ( null A ) = n \text{rank }A+\dim(\text{null } A)=n rank A + dim ( null A ) = n
证明：rank A \text{rank }A rank A A A A A A A B B B B B B A A A A A A row A \text{row }A row A null A \text{null } A null A A x = 0 A\mathbf x=0 A x = 0 null A \text{null } A null A A A A
性质 ：
矩阵的秩在初等变换下保持不变
矩阵的列向量组的秩等于行向量组的秩
rank ( A + B ) ⩽ rank ( A ) + rank ( B ) \text{rank}(A+B)\leqslant \text{rank}(A)+\text{rank}(B) rank ( A + B ) ⩽ rank ( A ) + rank ( B ) rank ( k A ) = rank ( A ) \text{rank}(kA)=\text{rank}(A) rank ( k A ) = rank ( A ) rank ( A B ) ⩽ min { rank ( A ) , rank ( B ) } \text{rank}(AB)\leqslant \min\{\text{rank}(A),\text{rank}(B)\} rank ( A B ) ⩽ min { rank ( A ) , rank ( B ) }
对于非其次线性方程组 A x = b A\mathbf x=\mathbf b A x = b A A A x = A − 1 b \mathbf x=A^{-1}\mathbf b x = A − 1 b A A A m × n m\times n m × n G G G x = G b \mathbf x=G\mathbf b x = G b
若 A G A = A AGA=A A G A = A A x = A G A x = A ( G b ) = b A\mathbf x=AGA\mathbf x=A(G\mathbf b)=\mathbf b A x = A G A x = A ( G b ) = b G b G\mathbf b G b
若 G A G = G GAG=G G A G = G G A x = G b GA\mathbf x=G\mathbf b G A x = G b G A x = G A G A x = G A ( G b ) = G b GA\mathbf x=GAGA\mathbf x=GA(G\mathbf b)=G\mathbf b G A x = G A G A x = G A ( G b ) = G b G b G\mathbf b G b
对于m × n m\times n m × n A A A n × m n\times m n × m G G G A G A = A AGA=A A G A = A G A G = G GAG=G G A G = G ( A G ) T = A G (AG)^T=AG ( A G ) T = A G ( G A ) T = G A (GA)^T=GA ( G A ) T = G A
的全部或一部分，则称 G G G A A A 广义逆矩阵 。若 G G G G G G A A A A + A^+ A +
性质 ：
( A + ) + = A (A^+)^+=A ( A + ) + = A ( A T ) + = ( A + ) T (A^T)^+=(A^+)^T ( A T ) + = ( A + ) T rank A + = rank A \text{rank }A^+=\text{rank }A rank A + = rank A
若非其次线性方程组 A x = b A\mathbf x=\mathbf b A x = b
x = A + b + ( I − A + A ) c \mathbf x=A^+\mathbf b+(I-A^+A)\mathbf c
x = A + b + ( I − A + A ) c
其中 c \mathbf c c x \mathbf x x A A A x = A − 1 b + ( I − A − 1 A ) c = A − 1 b \mathbf x=A^{-1}\mathbf b+(I-A^{-1}A)\mathbf c=A^{-1}\mathbf b x = A − 1 b + ( I − A − 1 A ) c = A − 1 b
求伪逆矩阵的一个方法是利用奇异值分解 A = U Σ V T A=U\Sigma V^T A = U Σ V T Λ r \Lambda_r Λ r Λ r \Lambda_r Λ r
A + = V r Λ r − 1 U r T A^+=V_r\Lambda_r^{-1} U^T_r
A + = V r Λ r − 1 U r T
