MathLabs

代数学

向量空间

可以相加和数乘的对象集合,是整个线性代数的基本舞台。

直观直觉:相加和数乘——这就是全部所需

平面上的箭头可以首尾相接来相加,也可以被一个数拉长或缩短。仅凭这一点结构,就已经足以展开惊人数量的数学内容——更让人惊讶的是,恰恰是这两种运算,加法与数乘,对多项式(把两个多项式相加,用一个数乘一个多项式)、对同样大小的矩阵,以及对函数(逐点相加两个函数,用常数缩放一个函数)同样有意义。向量空间就是任何配备了这两种运算、并满足平面箭头早已满足的那几条合理规则的集合;一旦一个集合被认出是向量空间,那么"对一般向量"证明过一次的每一个定理,便立刻同时适用于箭头、多项式、矩阵和函数。

一个显示经过原点的平面的三维曲面图,用于说明两个向量的张成空间。
两个列向量 v1=(a11,a21)\mathbf{v}_1 = (a_{11}, a_{21}) 与 v2=(a12,a22)\mathbf{v}_2 = (a_{12}, a_{22}) 只要不共线(det⁡A≠0\det A \neq 0)就构成 R2\mathbb{R}^2 的一组基,张成图中的坐标网格。

中学定义:向量空间的公理

定义: 向量空间

R\mathbb{R} 上的向量空间是一个集合 VV,配备了加法 u+v∈V\mathbf{u}+\mathbf{v}\in V 与数乘 αu∈V\alpha\mathbf{u}\in V(α∈R\alpha\in\mathbb{R}),满足加法可交换且可结合,存在零向量 0\mathbf{0} 使 u+0=u\mathbf{u}+\mathbf{0}=\mathbf{u},每个 u\mathbf{u} 都有加法逆元 −u-\mathbf{u},数乘与实数乘法相容,并对向量加法和标量加法都满足分配律,且 1⋅u=u1\cdot\mathbf{u}=\mathbf{u}。具体来说,这两条分配律是 α(u+v)=αu+αv,(α+β)u=αu+βu\alpha(\mathbf{u}+\mathbf{v})=\alpha\mathbf{u}+\alpha\mathbf{v},\quad (\alpha+\beta)\mathbf{u}=\alpha\mathbf{u}+\beta\mathbf{u}。常见的例子包括 Rn\mathbb{R}^n、次数不超过 nn 的多项式空间 PnP_n、矩阵空间 Mm×nM_{m\times n},以及区间上连续函数空间 C[a,b]C[a,b]。

α(u+v)=αu+αv,(α+β)u=αu+βu\alpha(\mathbf{u}+\mathbf{v})=\alpha\mathbf{u}+\alpha\mathbf{v},\quad (\alpha+\beta)\mathbf{u}=\alpha\mathbf{u}+\beta\mathbf{u}

这两条分配律说的是:把若干向量之和整体缩放,等同于分别缩放每个向量再相加;把两个标量先相加再乘以向量,等同于分别相乘再相加——正是这两条规则,让向量的"线性"组合表现良好,而关于向量空间的每一个定理,归根结底都只是由这些公理搭建起来的。

定义: 基与维数

一组向量 {v1,…,vk}\{v_1,\dots,v_k\} 称为线性独立,如果没有非零组合 c1v1+⋯+ckvkc_1v_1+\cdots+c_kv_k 等于 0\mathbf{0}(等价地说,该组中没有一个向量是其余向量的组合);称它张成 VV,如果 VV 中每个向量都是它们的组合,即 span⁡(v1,…,vk)={∑i=1kcivi:ci∈R}\operatorname{span}(v_1,\dots,v_k)=\Big\{\textstyle\sum_{i=1}^k c_iv_i : c_i\in\mathbb{R}\Big\} 等于整个 VV。VV 的一个基,是既线性独立又张成 VV 的一组向量;维数 dim⁡(V)\dim(V) 是基中向量的个数——之所以能被良定义,恰恰是因为下面的定理将说明,VV 的任意两个基都有相同的大小。

span⁡(v1,…,vk)={∑i=1kcivi:ci∈R}\operatorname{span}(v_1,\dots,v_k)=\Big\{\textstyle\sum_{i=1}^k c_iv_i : c_i\in\mathbb{R}\Big\}

例如,Rn\mathbb{R}^n 的标准基 e1=(1,0,…,0),…,en=(0,…,0,1)e_1=(1,0,\dots,0),\dots,e_n=(0,\dots,0,1) 恰好有 nn 个向量,所以 dim⁡(Rn)=n\dim(\mathbb{R}^n)=n;而 1,x,x2,…,xn1,x,x^2,\dots,x^n 是 PnP_n 的一个含 n+1n+1 个向量的基,所以 dim⁡(Pn)=n+1\dim(P_n)=n+1。

常见向量空间的维数
空间基维数
Rn\mathbb{R}^ne1,…,ene_1,\dots,e_nnn
PnP_n(次数 ≤n\leq n 的多项式)1,x,…,xn1,x,\dots,x^nn+1n+1
Mm×nM_{m\times n}(矩阵)只有一个元素为 11 的矩阵 EijE_{ij}mnmn
C[a,b]C[a,b](连续函数)不存在有限基∞\infty

大学定理:任意两个基的大小相同

若 {v1,…,vm}\{v_1,\dots,v_m\} 张成向量空间 VV,且 {w1,…,wk}⊆V\{w_1,\dots,w_k\}\subseteq V 线性独立,则 k≤mk\leq m:一个独立集永远不可能比一个张成集更大。此外,viv_i 中的 kk 个可以被 w1,…,wkw_1,\dots,w_k 替换,使得替换后的集合仍然张成 VV。

为什么成立?

独立向量的数目不可能超过一个张成集,因为每一个新的独立向量,总能被用来"换走"张成集中的一个向量,而不破坏张成性质——只有当张成集中所有向量都已被换完时,这种交换才会受阻,而此时再想不产生矛盾地添加另一个独立向量已经没有余地了,这正是 k≤mk\leq m 得以确立的原因。

证明

对目前已交换的 ww 的个数 kk 用归纳法论证。当 k=0k=0 时,不等式 0≤m0\leq m 是显然的,也不需要任何交换。归纳假设 w1,…,wk−1w_1,\dots,w_{k-1} 已经换入,替换了原来 viv_i 中的 k−1k-1 个(重新编号使这些恰为 v1,…,vk−1v_1,\dots,v_{k-1}),使得 {w1,…,wk−1,vk,…,vm}\{w_1,\dots,w_{k-1},v_k,\dots,v_m\} 仍然张成 VV。

若 k−1k-1 已经等于 mm,说明所有 viv_i 都已被用完,于是仅 {w1,…,wk−1}\{w_1,\dots,w_{k-1}\} 就张成 VV;但这样一来 wk∈Vw_k\in V 就会是 w1,…,wk−1w_1,\dots,w_{k-1} 的线性组合,这与 {w1,…,wk}\{w_1,\dots,w_k\} 的线性独立性相矛盾。因此,在还需对当前的 kk 证明 k≤mk\leq m 时,这种情形不可能发生——准确地说,这立即表明 k−1<mk-1<m,即 k≤mk\leq m。

否则 k−1<mk-1<m,于是(在 vk,…,vmv_k,\dots,v_m 中)至少还剩一个 vjv_j。因为 {w1,…,wk−1,vk,…,vm}\{w_1,\dots,w_{k-1},v_k,\dots,v_m\} 张成 VV,把 wkw_k 写成组合 wk=λ1w1+⋯+λk−1wk−1+μ1vj1+⋯+μm−k+1vjm−k+1w_k=\lambda_1w_1+\cdots+\lambda_{k-1}w_{k-1}+\mu_1v_{j_1}+\cdots+\mu_{m-k+1}v_{j_{m-k+1}}。若剩余各 vv 上的系数 μ1,…\mu_1,\dots 全部为 00,那么 wkw_k 就只是 w1,…,wk−1w_1,\dots,w_{k-1} 的组合,这又与独立性相矛盾——所以剩余的某个 vjv_j 的系数非零。

把这个方程解出 vjv_j(除以它那个非零系数),将 vjv_j 表示成 w1,…,wkw_1,\dots,w_k 与其余剩余 vv 的组合。把这个表达式代入 vjv_j 出现的每一处,就说明 {w1,…,wk}\{w_1,\dots,w_k\} 与剩余的 vv(去掉 vjv_j)一起仍然张成 VV——又成功地用 wkw_k 换掉了一个 vv,归纳步骤完成,k≤mk\leq m 得到确认。

定理: 维数定理

同一个向量空间 VV 的任意两个有限基,元素个数相同:若 B1B_1 有 mm 个向量,B2B_2 有 kk 个向量,则 dim⁡(V)=m=k\dim(V)=m=k。因此 dim⁡(V)\dim(V) 是 VV 的一个良定义的不变量,而不是由所选基决定的偶然结果。

为什么成立?

一个基同时既是张成集又是独立集,所以把交换引理分别向两个方向各用一次——一次把 B1B_1 当作张成集、B2B_2 当作独立集,另一次反过来——就会把两个大小相互夹逼,直到它们必须相等。

证明

设 B1={v1,…,vm}B_1=\{v_1,\dots,v_m\} 与 B2={w1,…,wk}B_2=\{w_1,\dots,w_k\} 都是 VV 的基。因为 B1B_1 张成 VV(它是基)、B2B_2 线性独立(它是基),把上面证明的交换引理直接应用于此,让 B1B_1 充当张成集、B2B_2 充当独立集,得到 k≤mk\leq m。

对称地,因为 B2B_2 张成 VV、B1B_1 线性独立,把角色互换后再次应用交换引理——B2B_2 充当张成集,B1B_1 充当独立集——得到 m≤km\leq k。

结合两个不等式 k≤mk\leq m 与 m≤km\leq k,就迫使 k=mk=m:两个基恰好有相同数目的向量。

由于这个论证并未对具体选取哪两个有限基 B1,B2B_1,B_2 加以限制,所以 VV 的每一个有限基都拥有这同一个共同的大小。这就证明了把 dim⁡(V)\dim(V) 定义为这个共同大小是合理的——它是空间 VV 本身的一个不变量,绝不依赖于用哪个基来计算它。

大学实际应用与典型例题

向量空间是数字信号压缩(用比"显而易见"的基更巧妙的基来表示信号)背后的共通语言,也是描述物理与工程中振子、电路和结构的线性微分方程解集背后的共通语言——在这两种情形下,把一组对象识别为具有特定有限维数的向量空间,正是让一个看似无限的问题变得能用有限多个数字处理的关键。

例题: 计算机科学:通过换基压缩信号

一段短的数字信号在标准基 {e1,e2}\{e_1,e_2\} 下存储为向量 (3,1)∈R2(3,1)\in\mathbb{R}^2。某种压缩方案改用基 {u1,u2}={(1,1),(1,−1)}\{u_1,u_2\}=\{(1,1),(1,-1)\},结果发现它能把大部分信号能量集中到第一个坐标上。求 (3,1)(3,1) 在新基 {u1,u2}\{u_1,u_2\} 下的表示。

解答

首先检验 {u1,u2}={(1,1),(1,−1)}\{u_1,u_2\}=\{(1,1),(1,-1)\} 确实是 R2\mathbb{R}^2 的一个基:它含有 2=dim⁡(R2)2=\dim(\mathbb{R}^2) 个向量,且它们互不成比例(一个两坐标相等,另一个两坐标相反),所以线性独立——在一个 22 维空间中,两个独立向量自动也张成它。

把 (3,1)=c1u1+c2u2=c1(1,1)+c2(1,−1)(3,1)=c_1u_1+c_2u_2=c_1(1,1)+c_2(1,-1) 写出来,其中 c1,c2c_1,c_2 是未知标量。这给出线性方程组 c1+c2=3c_1+c_2=3(第一个坐标)与 c1−c2=1c_1-c_2=1(第二个坐标)。

把两个方程相加:2c1=42c_1=4,所以 c1=2c_1=2。用第一个方程减去第二个:2c2=22c_2=2,所以 c2=1c_2=1。

所以 (3,1)=2u1+1u2(3,1)=2u_1+1u_2,也就是说信号在新基 {u1,u2}\{u_1,u_2\} 下的坐标是 (2,1)(2,1);压缩方案现在可以比第一个坐标更激进地丢弃或量化较小的第二个坐标,这正是换基对压缩有用的原因。

例题: 物理学:振子方程的解空间

描述简谐振子的微分方程 y′′+y=0y''+y=0 的解集恰好是 {c1cos⁡x+c2sin⁡x:c1,c2∈R}\{c_1\cos x+c_2\sin x : c_1,c_2\in\mathbb{R}\},这是一个以 {cos⁡x,sin⁡x}\{\cos x,\sin x\} 为基的 22 维向量空间。求满足初始条件 y(0)=2y(0)=2、y′(0)=3y'(0)=3 的具体解。

解答

由于解集是以 {cos⁡x,sin⁡x}\{\cos x,\sin x\} 为基的向量空间,每个解都由它在该基下的两个坐标 c1,c2c_1,c_2 唯一确定——求解就归结为求出这两个数,与上面信号压缩的例子完全类似。

通解为 y(x)=c1cos⁡x+c2sin⁡xy(x)=c_1\cos x+c_2\sin x。在 x=0x=0 处求值:y(0)=c1cos⁡0+c2sin⁡0=c1y(0)=c_1\cos 0+c_2\sin 0=c_1。初始条件 y(0)=2y(0)=2 立即给出 c1=2c_1=2。

求导:y′(x)=−c1sin⁡x+c2cos⁡xy'(x)=-c_1\sin x+c_2\cos x。在 x=0x=0 处求值:y′(0)=−c1sin⁡0+c2cos⁡0=c2y'(0)=-c_1\sin 0+c_2\cos 0=c_2。初始条件 y′(0)=3y'(0)=3 立即给出 c2=3c_2=3。

所以具体解为 y(x)=2cos⁡x+3sin⁡xy(x)=2\cos x+3\sin x——这个特解在 22 维解空间的基 {cos⁡x,sin⁡x}\{\cos x,\sin x\} 下的坐标 (c1,c2)=(2,3)(c_1,c_2)=(2,3),完全由这两个初始条件确定,恰好与该空间的维数相匹配。

在通常运算下,下列哪个集合不是向量空间?

P3P_3 是次数不超过 33 的多项式空间,求 dim⁡(P3)\dim(P_3)。

{v1,…,v5}\{v_1,\dots,v_5\} 张成 VV,且 {w1,w2,w3,w4,w5,w6}⊆V\{w_1,w_2,w_3,w_4,w_5,w_6\}\subseteq V。施泰尼茨交换引理告诉我们什么?

某数字音频压缩器用一种特殊的基而不是标准基来表示每个短信号帧。为什么这需要该信号帧所在的向量空间具有一个良定义、不依赖于基的维数?

参考文献

  1. Sheldon Axler (2015). Linear Algebra Done Right
  2. Eric W. Weisstein (MathWorld) (2024). Vector Space