【代数1】线性空间

线性空间的定义

线性空间（也称向量空间，vector space，linear space） V是非空集合，F是一个数域，如果满足以下两个条件，称为V是F上的线性空间，记做 V(F)

1. 定义了两个运算
   • 定义了加法，使得∀u,v∈V⇒u+v∈V∀u,v∈V⇒u+v∈V，且唯一
   • 定义了数乘，使得∀u∈V,∀λ∈F⇒λu∈V∀u∈V,∀λ∈F⇒λu∈V，且唯一
2. 运算律
   • (A1)加法交换律u+v=v+uu+v=v+u
   • (A2)加法结合律(u+v)+w=u+(v+w)(u+v)+w=u+(v+w)
   • (A3)具有0向量∃θ,∀u∈Fn,θ+u=u∃θ,∀u∈Fn,θ+u=u ，记做θ=0θ=0
   • (A4)具有负向量∀u∈Fn,∃v∈Fn,u+v=0∀u∈Fn,∃v∈Fn,u+v=0，记做v=−uv=−u
   • (M1)对标量乘法分配律∀u∈Fn∀a,b∈F,a(bu)=(ab)u∀u∈Fn∀a,b∈F,a(bu)=(ab)u
   • (M2)∀u,1u=u∀u,1u=u
   • (D1)乘法对向量和的分配率a(u+v)=au+ava(u+v)=au+av
   • (D2)乘法对数量和的分配率(a+b)u=au+bu(a+b)u=au+bu

TH
显然，FnFn的子空间是一个线性空间
如果V是F上的线性空间，那么以下命题成立

• V中的零向量唯一
• 每个向量的负向量唯一
• λα=0⇔λ=0orα=0λα=0⇔λ=0orα=0
• ∀α∈V,(−1)α=−α∀α∈V,(−1)α=−α

线性空间的衍生定义

线性组合 V是F上的线性空间，S是V的任意子集，S的任意有限子集S1={α1,α2,...αk}S1={α1,α2,...αk}的任意线性组合β=λ1α1+λ2α2+…+λkαkβ=λ1α1+λ2α2+…+λkαk都可以称作S的线性组合。(向量是集合的线性组合，也称为ββ可以被S线性表出)
V是F上的线性空间，S和T都是V的子集，如果T中的任意元素都是S的线性组合，那么叫做T是S的线性组合(集合之间的线性组合)
方程的线性组合 指的是，把m个方程分别乘以m个已知常数λ1,λ2,…λnλ1,λ2,…λn得到的新方程。 等价 两个集合互为线性组合，叫做等价
矩阵行等价（row equivalent） ：A,B∈Fm×nA,B∈Fm×n是矩阵，A的每一行都是B的线性组合，B的每一行都是A的线性组合 初等行变换（elementary transformation of rows） 对矩阵做如下的变换，叫做初等行变换

1. 某两行互换
2. 用F中的非0数乘某行
3. 把某行的常数倍加到另一行

TH：A∈Fm×nA∈Fm×n是一个矩阵，A经过初等行变换后得到B，那么A与B行等价

子空间（subspace）（重新定义） V是数域F上的线性空间, S是V的任意子集,如果满足以下条件，叫做W是V的子空间

• u,v∈W⇒u+v∈Wu,v∈W⇒u+v∈W
• u∈W,λ∈F⇒λu∈Wu∈W,λ∈F⇒λu∈W

TH V是F上的线性空间，W是V的子空间，那么W也是F上的线性空间
TH V的任意子集S，S全体线性组合的的构成的集合，是V的子空间

线性相关，线性无关 极大线性无关组 V是F上的线性空间，S是V的子集。M是S的子集，M线性无关，∀α∈S,M∪{α}∀α∈S,M∪{α}线性相关，那么M是S的极大线性无关组

TH

• S是V的子集，那么S的任意两个极大线性无关组等价，数量也相等
• V是F上的线性空间，S1,S2⊆VS1,S2⊆V分别有n1,n2n1,n2个元素，S1S1是S2S2的线性组合。如果n1>n2n1>n2,那么S1S1线性相关；如果S1S1线性无关，那么n1≤n2n1≤n2

秩 向量组S的极大线性无关组的个数(前面定理，极大线性无关组等价、个数相等) 维度、基、坐标 V是F上的线性空间，那么定义一系列概念。
维度：极大线性无关组的个数。
基：极大线性无关组。
坐标：任意一个向量被基表示时的系数

TH
W是V的子空间，那么dimW≤dimVdim⁡W≤dim⁡V，并且dimW=dimV⇔W=Vdim⁡W=dim⁡V⇔W=V

Steinitz替换定理
S={α1,...αs}S={α1,...αs}可以被T={β1,...,βt}T={β1,...,βt}线性表示，那么：

• s≤ts≤t
• 用S中的s个元素替换，T中的s个元素，存在替换方案，使得替换后的集合{α1,α2,...,αs,βi1,...,βit−s}{α1,α2,...,αs,βi1,...,βit−s}与T等价

同构和同态

同构

同构（isomorphic） V1, V2是数域F上的线性空间，如果存在一一映射σ:V1→V2σ:V1→V2，满足条件：

• σ(α+β)=σ(α)+σ(β),∀α,β∈V1σ(α+β)=σ(α)+σ(β),∀α,β∈V1
• σ(λα)=λσ(α),∀α∈V1,λ∈Fσ(λα)=λσ(α),∀α∈V1,λ∈F
  称为：V1与V2 同构（isomorphic），σσ是V1到V2的 同构映射（isomorphism）。
  特别的，若V1=V2，称 为自同构（automorphism）

TH 若σ:V1→V2σ:V1→V2是同构映射，那么：

1. 把0向量映射到0向量：σ(0)=0σ(0)=0
2. 把负向量映射到负向量：σ(−α)=−σ(α)σ(−α)=−σ(α)
3. 把线性无关映射到线性无关：S⊆V1S⊆V1，S线性无关⇔σ(S)⇔σ(S)线性无关
4. 把基映射到基：M是V1的基⇔σ(M)⇔σ(M)是V2的基
5. 维数相等：dimV1=dimV2dim⁡V1=dim⁡V2

TH 同一数域F上的任何两个线性空间，如果维度相等，那么同构

同态

同态（homomorphism） V1, V2是数域F上的线性空间如果存在（不一定是一一）映射σ:V1→V2σ:V1→V2，满足条件：

• σ(α+β)=σ(α)+σ(β),∀α,β∈V1σ(α+β)=σ(α)+σ(β),∀α,β∈V1
• σ(λα)=λσ(α),∀α∈V1,λ∈Fσ(λα)=λσ(α),∀α∈V1,λ∈F
  称为：σσ是V1到V2的 同态映射（homomorphism）

TH 若σσ是V1到V2的同态映射，那么：

1. 把0向量映射到0向量：σ(0)=0σ(0)=0
2. 把负向量映射到负向量：σ(−α)=−σ(α)σ(−α)=−σ(α)
3. 把线性相关映射到线性相关：S⊆V1S⊆V1，S线性相关⇒σ(V1)⇒σ(V1)线性相关

子空间的交与和

子空间的交 V是F上的线性空间，Wi(i∈I)Wi(i∈I)是V的子空间，U=⋂i∈IWiU=⋂i∈IWi叫做 子空间的交

TH 子空间的交也是子空间

子空间的和 V是F上的线性空间，Wi(i∈I)Wi(i∈I)是V的子空间，定义W1+W2+...+Wt={β1+β2+...+βt∣βi∈Wi,∀i∈I}W1+W2+...+Wt={β1+β2+...+βt∣βi∈Wi,∀i∈I}为 子空间的和

TH（符号上接定义）

1. W是子空间
2. W是包含⋃i∈IWi⋃i∈IWi的最小子空间
3. 假如MiMi是WiWi的基，那么⋃i∈IMi⋃i∈IMi的生成子空间是W1+W2+…+WtW1+W2+…+Wt
4. dim(W1+W2+…+Wt)≤dimW1+dimW2+…+dimWtdim⁡(W1+W2+…+Wt)≤dim⁡W1+dim⁡W2+…+dim⁡Wt
5. dim(W1+W2)=dim(W1)+dim(W1)+dim(W2)−dim(W1∪W2)dim⁡(W1+W2)=dim⁡(W1)+dim⁡(W1)+dim⁡(W2)−dim⁡(W1∪W2)

直和 （直和是一种和，区别在于子空间特殊） V是F上的线性空间，Wi(i∈I)Wi(i∈I)是V的子空间。W=W1+W2+…+WtW=W1+W2+…+Wt，如果∀w∈W,w=w1+w2+…+wt(wi∈Wi,i∈I)∀w∈W,w=w1+w2+…+wt(wi∈Wi,i∈I)的分解式唯一，称为W是WiWi的 直和，记做W1⨁W2⨁…⨁WtW1⨁W2⨁…⨁Wt

TH

1. W1+W2+…+WtW1+W2+…+Wt是直和的充分必要条件是:
   w1+w2+…+wt=0⇔w1=w2=…=wt=0w1+w2+…+wt=0⇔w1=w2=…=wt=0
2. W1+W2+…+WtW1+W2+…+Wt是直和的充分必要条件是:
   dim(W1+W2+…+Wt)=dim(W1)+dim(W1)+…+dim(Wt)dim⁡(W1+W2+…+Wt)=dim⁡(W1)+dim⁡(W1)+…+dim⁡(Wt)
3. W1+W2+…+WtW1+W2+…+Wt是直和的充分必要条件是:
   (W1+W2+…+Wi−1)∩Wi=0(W1+W2+…+Wi−1)∩Wi=0对2≤i≤t2≤i≤t成立

补空间（complement space） W⨁U=VW⨁U=V，称为U是W在V中的补空间。

行列式

几何意义：
det(a1,a2)det(a1,a2)是对应平行四边形的面积，
det(a1,a2,a3)det(a1,a2,a3)是对应平行六面体的体积

1. 行列式可以看做向量的某种乘积，从而满足分配律和结合律 det(…,ai−1,xb+yc,ai+1,…)=xdet(…,ai−1,b,ai+1,…)+ydet(…,ai−1,c,ai+1,…)det(…,ai−1,xb+yc,ai+1,…)=xdet(…,ai−1,b,ai+1,…)+ydet(…,ai−1,c,ai+1,…)
2. 某两组向量互换位置，变为相反数det(a1,…,ai,…,aj,…)=−det(a1,…,aj,…,ai,…)det(a1,…,ai,…,aj,…)=−det(a1,…,aj,…,ai,…)
3. 把某一行加到另一行，值不变（由第2条证）
4. 某两行相等的行列式，值为0（由第二条证明）
5. detA=detATdetA=detAT

矩阵

对称矩阵(symmetric matrix) AT=AAT=A 反对称矩阵(anti-symmetric matrix) AT=−AAT=−A 共轭矩阵 矩阵中的每个元素换成共轭复数，记做A¯A¯ Hermite matrix 满足A¯T=AA¯T=A的矩阵 anti Hermite matrix 满足A¯T=−AA¯T=−A

TH

• A¯T=AT¯A¯T=AT¯
• Am×nAm×n是矩阵，那么AATAAT是对称矩阵
• AA是反对称矩阵，那么∀X,XTAX=0∀X,XTAX=0

分块矩阵：分块矩阵的数乘、矩阵乘、转置有一些优美的规律。

矩阵的逆

可逆矩阵(invertible) A∈Fm×n,∃B∈Fn×mA∈Fm×n,∃B∈Fn×m,使得AB=IAB=I,并且BA=IBA=I，叫做A 可逆，B是A的 逆(inverse)

TH

1. 逆矩阵唯一
2. 如果A可逆，那么A各列线性无关
3. 如果A可逆，那么A是方阵，且∣A∣≠0∣A∣≠0
4. (A−1)−1=A(A−1)−1=A,逆矩阵一定可逆
5. (AB)−1=A−1B−1(AB)−1=A−1B−1
6. (λA)−1=λ−1A−1(λA)−1=λ−1A−1

矩阵的初等变换

矩阵做初等行变换，相当于左乘一相应的 初等方阵
矩阵做初等列变换，相当于右乘一个相应的初等方阵。

TH

1. 对任意矩阵Am×nAm×n，都可以通过有限次 初等行变换 和 初等裂变换 ，变成(IrOOO)(IrOOO)，其中r=rankAr=rankA
2. 对任意矩阵Am×nAm×n，存在有限个初等方阵，使得 Ps...P2P1AQ1Q2...Qt=(IrOOO)Ps...P2P1AQ1Q2...Qt=(IrOOO)
3. 对任意矩阵Am×nAm×n，存在可逆阵P,QP,Q,使得PAQ=(IrOOO)PAQ=(IrOOO)
4. 可逆方阵可以经过有限次初等 行 变换，变成单位矩阵。（注意，只做行变换就可以A=P−11P−12…P−1sQ−1t…Q−12Q−11A=P1−1P2−1…Ps−1Qt−1…Q2−1Q1−1）

秩

矩阵的行秩等于列秩
rankAB≤rankArankAB≤rankA

等价（equivalent） 如果A可以通过一系列的初等行变换和初等列变换变成B，那么称为A,B 等价

TH

1. A，B等价⇔⇔存在可逆方阵P，Q，使得B=PAQB=PAQ
2. 等价有 反身性，对称性，传递性
3. A,B等价，那么A，B的秩相等

矩阵的更多概念

奇异值分解

如果一个矩阵是实对称矩阵，那么一定可以进行特征分解 A=QΛQTA=QΛQT（其中，QQ是特征向量组成的正交矩阵，ΛΛ是特征值组成的对角矩阵）

不是所有的矩阵都可以做特征分解，但每个矩阵都可以做奇异值分解（singlar value decomposition）
Am×n=Um×mDm×nVTn×nAm×n=Um×mDm×nVn×nT（其中,U,V是正交矩阵，D是对角矩阵）
实际上，U,V,D与ATA,AATATA,AAT的特征值特征向量有关系。

伪逆

定义伪逆为 A+=limα→0(ATA+αI)−1ATA+=limα→0(ATA+αI)−1AT

计算时，借用这个公式A+=VD+UTA+=VD+UT（其中，D+D+是D对角线非0元素取倒数，然后转置得到）

• 当A列多于行时，有多个伪逆，但A+A+是x=A+yx=A+y方程所有可行解中，∣∣x∣∣2∣∣x∣∣2最小的一个
• 当A行多于列时，可能误解，这种情况下，伪逆得到的x是使∣∣Ax−y∣∣2∣∣Ax−y∣∣2最小的

迹

定义Tr(A)=∑iAiiTr(A)=∑iAii
可以拿来描述 Frobenius 范数 ∣∣A∣∣F=Tr(AAT)−−−−−−−−√∣∣A∣∣F=Tr(AAT)

• Tr(ABC)=Tr(CAB)=Tr(BCA)Tr(ABC)=Tr(CAB)=Tr(BCA)

参考文献

李尚志《线性代数》