← 返回 资料库 › 拓扑学 › 一般拓扑学 拓扑学
度量空间 度量空间为集合配备满足三条公理的距离函数;完备度量空间上的压缩映射总有唯一不动点(巴拿赫定理),这正是PageRank、迭代求解器和分形图像压缩背后的引擎。
直观 不用尺子测量距离 GPS使用直线距离,出租车司机使用街道网格距离,拼写检查器使用单词间的"编辑距离"。这三者都是合法的距离概念,因为它们遵循相同的三条常识规则:距离永不为负,且仅当两点重合时为零;从 A A A 到 B B B 的距离等于从 B B B 到 A A A 的距离;绕道经过 C C C 永远不会比从 A A A 直接到 B B B 更短。度量空间 正是配备了满足这三条规则的距离函数的集合。
R \mathbb{R} R 上的映射 T ( x ) = 0.5 x + 1 T(x) = 0.5x + 1 T ( x ) = 0.5 x + 1 (取 d ( x , y ) = ∣ x − y ∣ d(x,y)=|x-y| d ( x , y ) = ∣ x − y ∣ )是比率 q = 0.5 q=0.5 q = 0.5 的压缩映射:它总能把任意两点间的距离减半。拖动滑块,观察任何起始点都会迭代收敛到同一个不动点 x ∗ = 2 x^* = 2 x ∗ = 2 。大学 三条公理 定义: 度量空间
集合 X X X 上的度量 是满足以下条件的函数 d : X × X → R d: X \times X \to \mathbb{R} d : X × X → R (对所有 x , y , z ∈ X x,y,z \in X x , y , z ∈ X ):(M1)正定性 d ( x , y ) ≥ 0 , d ( x , y ) = 0 ⟺ x = y d(x,y) \ge 0,\ d(x,y)=0 \iff x=y d ( x , y ) ≥ 0 , d ( x , y ) = 0 ⟺ x = y ;(M2)对称性 d ( x , y ) = d ( y , x ) d(x,y) = d(y,x) d ( x , y ) = d ( y , x ) ;(M3)三角不等式 d ( x , z ) ≤ d ( x , y ) + d ( y , z ) d(x,z) \le d(x,y) + d(y,z) d ( x , z ) ≤ d ( x , y ) + d ( y , z ) 。二元组 ( X , d ) (X,d) ( X , d ) 称为度量空间 。
d ( x , y ) ≥ 0 , d ( x , y ) = 0 ⟺ x = y d ( x , y ) = d ( y , x ) d ( x , z ) ≤ d ( x , y ) + d ( y , z ) d(x,y) \ge 0,\quad d(x,y)=0 \iff x=y \qquad d(x,y)=d(y,x) \qquad d(x,z) \le d(x,y)+d(y,z) d ( x , y ) ≥ 0 , d ( x , y ) = 0 ⟺ x = y d ( x , y ) = d ( y , x ) d ( x , z ) ≤ d ( x , y ) + d ( y , z ) 最重要的两族例子如下。在 R n \mathbb{R}^n R n 上,**ℓ p \ell_p ℓ p 度量**为 p ≥ 1 p \ge 1 p ≥ 1 时的 d p ( x , y ) = ( ∑ i = 1 n ∣ x i − y i ∣ p ) 1 / p d_p(x,y) = \left(\sum_{i=1}^n |x_i - y_i|^p\right)^{1/p} d p ( x , y ) = ( ∑ i = 1 n ∣ x i − y i ∣ p ) 1/ p (p = 2 p=2 p = 2 给出通常的欧氏距离,p = 1 p=1 p = 1 给出"出租车"距离,p → ∞ p\to\infty p → ∞ 给出坐标差的最大值)。在连续函数空间 C ( [ a , b ] ) C([a,b]) C ([ a , b ]) 上,上确界度量 为 d ∞ ( f , g ) = sup t ∈ [ a , b ] ∣ f ( t ) − g ( t ) ∣ d_\infty(f,g) = \sup_{t \in [a,b]} |f(t) - g(t)| d ∞ ( f , g ) = sup t ∈ [ a , b ] ∣ f ( t ) − g ( t ) ∣ :两个函数接近,意味着它们的图像在 [ a , b ] [a,b] [ a , b ] 上任何一点的间隔都不大。
d p ( x , y ) = ( ∑ i = 1 n ∣ x i − y i ∣ p ) 1 / p d ∞ ( f , g ) = sup t ∈ [ a , b ] ∣ f ( t ) − g ( t ) ∣ d_p(x,y) = \left(\sum_{i=1}^n |x_i - y_i|^p\right)^{1/p} \qquad d_\infty(f,g) = \sup_{t \in [a,b]} |f(t) - g(t)| d p ( x , y ) = ( i = 1 ∑ n ∣ x i − y i ∣ p ) 1/ p d ∞ ( f , g ) = t ∈ [ a , b ] sup ∣ f ( t ) − g ( t ) ∣ R n \mathbb{R}^n R n 上度量的比较度量 公式 单位球的形状 典型用途 ℓ 1 \ell_1 ℓ 1 (出租车)∑ ∣ x i − y i ∣ \sum |x_i-y_i| ∑ ∣ x i − y i ∣ 菱形 稀疏恢复、城市街区 ℓ 2 \ell_2 ℓ 2 (欧氏)∑ ( x i − y i ) 2 \sqrt{\sum (x_i-y_i)^2} ∑ ( x i − y i ) 2 圆盘 物理距离、主成分分析 ℓ ∞ \ell_\infty ℓ ∞ (切比雪夫)max i ∣ x i − y i ∣ \max_i |x_i-y_i| max i ∣ x i − y i ∣ 正方形 最坏情况误差界
大学 球、完备性与压缩映射 开球 B ( x 0 , r ) = { x ∈ X : d ( x , x 0 ) < r } B(x_0, r) = \{x \in X : d(x, x_0) < r\} B ( x 0 , r ) = { x ∈ X : d ( x , x 0 ) < r } 是与中心距离小于 r r r 的点的集合。数列 ( x n ) (x_n) ( x n ) 称为柯西列 ,若 ∀ ε > 0 ∃ N ∀ m , n > N : d ( x m , x n ) < ε \forall \varepsilon > 0\ \exists N\ \forall m,n > N:\ d(x_m,x_n) < \varepsilon ∀ ε > 0 ∃ N ∀ m , n > N : d ( x m , x n ) < ε :其项最终会彼此任意接近(未必接近某个固定的极限点)。度量空间称为完备的 ,若每个柯西列都收敛于 X X X 中的一点。带任意 ℓ p \ell_p ℓ p 度量的 R n \mathbb{R}^n R n 是完备的;带 d ( x , y ) = ∣ x − y ∣ d(x,y)=|x-y| d ( x , y ) = ∣ x − y ∣ 的 Q \mathbb{Q} Q 则不是,因为缺少 2 \sqrt{2} 2 这个点。
大学 定理 在度量空间中,对所有 x , y , z x,y,z x , y , z ,有 ∣ d ( x , z ) − d ( y , z ) ∣ ≤ d ( x , y ) |d(x,z) - d(y,z)| \le d(x,y) ∣ d ( x , z ) − d ( y , z ) ∣ ≤ d ( x , y ) 。
为什么成立? 它说明距离函数本身对每个变量都是利普希茨连续的(常数为1),这正是能安全地对距离取极限的原因。
证明 第一步 — 两次应用三角不等式。由(M3),d ( x , z ) ≤ d ( x , y ) + d ( y , z ) d(x,z) \le d(x,y) + d(y,z) d ( x , z ) ≤ d ( x , y ) + d ( y , z ) ,整理得 d ( x , z ) − d ( y , z ) ≤ d ( x , y ) d(x,z) - d(y,z) \le d(x,y) d ( x , z ) − d ( y , z ) ≤ d ( x , y ) 。在同一公理中交换 x x x 与 y y y 的角色,得 d ( y , z ) ≤ d ( y , x ) + d ( x , z ) = d ( x , y ) + d ( x , z ) d(y,z) \le d(y,x) + d(x,z) = d(x,y) + d(x,z) d ( y , z ) ≤ d ( y , x ) + d ( x , z ) = d ( x , y ) + d ( x , z ) (利用对称性 d ( y , x ) = d ( x , y ) d(y,x)=d(x,y) d ( y , x ) = d ( x , y ) ),整理得 d ( y , z ) − d ( x , z ) ≤ d ( x , y ) d(y,z) - d(x,z) \le d(x,y) d ( y , z ) − d ( x , z ) ≤ d ( x , y ) ,即 − ( d ( x , z ) − d ( y , z ) ) ≤ d ( x , y ) -(d(x,z)-d(y,z)) \le d(x,y) − ( d ( x , z ) − d ( y , z )) ≤ d ( x , y ) 。
第二步 — 合并两个界。这两个不等式同时说明 d ( x , z ) − d ( y , z ) ≤ d ( x , y ) d(x,z)-d(y,z) \le d(x,y) d ( x , z ) − d ( y , z ) ≤ d ( x , y ) 与 − ( d ( x , z ) − d ( y , z ) ) ≤ d ( x , y ) -(d(x,z)-d(y,z)) \le d(x,y) − ( d ( x , z ) − d ( y , z )) ≤ d ( x , y ) ,根据绝对值的定义,这恰好就是命题 ∣ d ( x , z ) − d ( y , z ) ∣ ≤ d ( x , y ) |d(x,z)-d(y,z)| \le d(x,y) ∣ d ( x , z ) − d ( y , z ) ∣ ≤ d ( x , y ) :实数 u u u 满足 ∣ u ∣ ≤ c |u| \le c ∣ u ∣ ≤ c 当且仅当 u ≤ c u \le c u ≤ c 与 − u ≤ c -u \le c − u ≤ c 同时成立。
设 ( X , d ) (X,d) ( X , d ) 为完备度量空间,T : X → X T: X \to X T : X → X 为压缩映射 :存在固定的 0 ≤ q < 1 0 \le q < 1 0 ≤ q < 1 ,使对所有 x , y ∈ X x,y \in X x , y ∈ X 有 d ( T ( x ) , T ( y ) ) ≤ q d ( x , y ) d(T(x), T(y)) \le q\, d(x,y) d ( T ( x ) , T ( y )) ≤ q d ( x , y ) 。则 T T T 恰有一个不动点 x ∗ ∈ X x^* \in X x ∗ ∈ X (即 T ( x ∗ ) = x ∗ T(x^*)=x^* T ( x ∗ ) = x ∗ ),且从任意 x 0 ∈ X x_0 \in X x 0 ∈ X 出发,迭代序列 x n + 1 = T ( x n ) x_{n+1}=T(x_n) x n + 1 = T ( x n ) 收敛到 x ∗ x^* x ∗ ,并具有显式误差界 d ( x n , x ∗ ) ≤ q n 1 − q d ( x 1 , x 0 ) d(x_n, x^*) \le \dfrac{q^n}{1-q}\, d(x_1, x_0) d ( x n , x ∗ ) ≤ 1 − q q n d ( x 1 , x 0 ) 。
为什么成立? 它把存在性与唯一性问题(这个方程恰好有一个解吗?)转化为一个保证收敛的机械计算过程,并给出达到任意目标精度所需迭代次数的可预先计算的界。
证明 第一步 — 迭代序列是柯西列。固定 x 0 ∈ X x_0 \in X x 0 ∈ X ,令 x n = T n ( x 0 ) x_n = T^n(x_0) x n = T n ( x 0 ) 。反复应用压缩性质,d ( x n + 1 , x n ) = d ( T ( x n ) , T ( x n − 1 ) ) ≤ q d ( x n , x n − 1 ) ≤ ⋯ ≤ q n d ( x 1 , x 0 ) d(x_{n+1},x_n) = d(T(x_n),T(x_{n-1})) \le q\,d(x_n,x_{n-1}) \le \dots \le q^n\,d(x_1,x_0) d ( x n + 1 , x n ) = d ( T ( x n ) , T ( x n − 1 )) ≤ q d ( x n , x n − 1 ) ≤ ⋯ ≤ q n d ( x 1 , x 0 ) 。对 m > n m > n m > n ,沿路径 x n , x n + 1 , … , x m x_n, x_{n+1}, \dots, x_m x n , x n + 1 , … , x m 应用三角不等式相连:d ( x m , x n ) ≤ ∑ k = n m − 1 d ( x k + 1 , x k ) ≤ ∑ k = n m − 1 q k d ( x 1 , x 0 ) ≤ d ( x 1 , x 0 ) ∑ k = n ∞ q k = d ( x 1 , x 0 ) q n 1 − q d(x_m,x_n) \le \sum_{k=n}^{m-1} d(x_{k+1},x_k) \le \sum_{k=n}^{m-1} q^k\,d(x_1,x_0) \le d(x_1,x_0)\sum_{k=n}^{\infty} q^k = d(x_1,x_0)\,\dfrac{q^n}{1-q} d ( x m , x n ) ≤ ∑ k = n m − 1 d ( x k + 1 , x k ) ≤ ∑ k = n m − 1 q k d ( x 1 , x 0 ) ≤ d ( x 1 , x 0 ) ∑ k = n ∞ q k = d ( x 1 , x 0 ) 1 − q q n ,其中利用了 0 ≤ q < 1 0 \le q < 1 0 ≤ q < 1 时的几何级数公式。当 n → ∞ n \to \infty n → ∞ 时 q n → 0 q^n \to 0 q n → 0 ,故此尾项界趋于0:( x n ) (x_n) ( x n ) 是柯西列。
第二步 — 完备性给出极限,连续性使其成为不动点。由于 X X X 完备,柯西列 ( x n ) (x_n) ( x n ) 收敛于某个 x ∗ ∈ X x^* \in X x ∗ ∈ X 。压缩不等式 d ( T ( x ) , T ( y ) ) ≤ q d ( x , y ) d(T(x),T(y)) \le q\,d(x,y) d ( T ( x ) , T ( y )) ≤ q d ( x , y ) 说明 T T T 是(利普希茨)连续的,因此 T ( x ∗ ) = T ( lim n x n ) = lim n T ( x n ) = lim n x n + 1 = x ∗ T(x^*) = T(\lim_n x_n) = \lim_n T(x_n) = \lim_n x_{n+1} = x^* T ( x ∗ ) = T ( lim n x n ) = lim n T ( x n ) = lim n x n + 1 = x ∗ 。故 x ∗ x^* x ∗ 是不动点。
第三步 — 唯一性。设 x ∗ x^* x ∗ 与 y ∗ y^* y ∗ 都是不动点。则 d ( x ∗ , y ∗ ) = d ( T ( x ∗ ) , T ( y ∗ ) ) ≤ q d ( x ∗ , y ∗ ) d(x^*,y^*) = d(T(x^*),T(y^*)) \le q\,d(x^*,y^*) d ( x ∗ , y ∗ ) = d ( T ( x ∗ ) , T ( y ∗ )) ≤ q d ( x ∗ , y ∗ ) ,故 ( 1 − q ) d ( x ∗ , y ∗ ) ≤ 0 (1-q)\,d(x^*,y^*) \le 0 ( 1 − q ) d ( x ∗ , y ∗ ) ≤ 0 。因 1 − q > 0 1-q>0 1 − q > 0 ,这迫使 d ( x ∗ , y ∗ ) = 0 d(x^*,y^*)=0 d ( x ∗ , y ∗ ) = 0 ,即 x ∗ = y ∗ x^*=y^* x ∗ = y ∗ 。
第四步 — 误差界。在第一步的估计 d ( x m , x n ) ≤ q n 1 − q d ( x 1 , x 0 ) d(x_m,x_n) \le \dfrac{q^n}{1-q}\,d(x_1,x_0) d ( x m , x n ) ≤ 1 − q q n d ( x 1 , x 0 ) 中令 m → ∞ m \to \infty m → ∞ ,并利用 d d d 的连续性,恰好得到 d ( x n , x ∗ ) ≤ q n 1 − q d ( x 1 , x 0 ) d(x_n,x^*) \le \dfrac{q^n}{1-q}\,d(x_1,x_0) d ( x n , x ∗ ) ≤ 1 − q q n d ( x 1 , x 0 ) :第 n n n 步后到真实不动点的距离按几何速度缩小,且该界可以在运行任何一次迭代之前就计算出来。
大学 实际应用与典型例题 Google的PageRank通过反复将一个概率向量作用于网页链接矩阵来计算其主特征向量——这个幂迭代正是概率分布上 ℓ 1 \ell_1 ℓ 1 度量下的压缩映射。迭代线性求解器(雅可比法、高斯–赛德尔法)把 A x = b Ax=b A x = b 改写为不动点映射 x ↦ C x + d x \mapsto Cx+d x ↦ C x + d ,当 A A A 对角占优时它在上确界度量下是压缩映射。分形(IFS)图像压缩把图像表示为配备上确界/豪斯多夫度量的图像空间上某压缩映射的唯一不动点,因此解压缩只需迭代该映射。
例题: 作为概率向量上压缩映射的PageRank
一个2页面的小型网络具有链接矩阵 M = ( 0.1 0.9 0.9 0.1 ) M = \begin{pmatrix} 0.1 & 0.9 \\ 0.9 & 0.1 \end{pmatrix} M = ( 0.1 0.9 0.9 0.1 ) (每列以阻尼系数重新分配排名)。从 r 0 = ( 1 , 0 ) r_0 = (1,0) r 0 = ( 1 , 0 ) 出发,用 ℓ 1 \ell_1 ℓ 1 度量 d ( x , y ) = ∣ x 1 − y 1 ∣ + ∣ x 2 − y 2 ∣ d(x,y)=|x_1-y_1|+|x_2-y_2| d ( x , y ) = ∣ x 1 − y 1 ∣ + ∣ x 2 − y 2 ∣ 计算 r 1 = M r 0 r_1 = Mr_0 r 1 = M r 0 与 r 2 = M r 1 r_2 = Mr_1 r 2 = M r 1 ,并验证当 q = 0.8 q=0.8 q = 0.8 时 d ( r 1 , r 2 ) ≤ q d ( r 0 , r 1 ) d(r_1,r_2) \le q\,d(r_0,r_1) d ( r 1 , r 2 ) ≤ q d ( r 0 , r 1 ) 。
解答 第一步 — 计算 r 1 r_1 r 1 。r 1 = M r 0 = ( 0.1 ⋅ 1 + 0.9 ⋅ 0 , 0.9 ⋅ 1 + 0.1 ⋅ 0 ) = ( 0.1 , 0.9 ) r_1 = M r_0 = (0.1 \cdot 1 + 0.9 \cdot 0,\ 0.9 \cdot 1 + 0.1 \cdot 0) = (0.1, 0.9) r 1 = M r 0 = ( 0.1 ⋅ 1 + 0.9 ⋅ 0 , 0.9 ⋅ 1 + 0.1 ⋅ 0 ) = ( 0.1 , 0.9 ) 。
第二步 — 计算 r 2 r_2 r 2 。r 2 = M r 1 = ( 0.1 ( 0.1 ) + 0.9 ( 0.9 ) , 0.9 ( 0.1 ) + 0.1 ( 0.9 ) ) = ( 0.01 + 0.81 , 0.09 + 0.09 ) = ( 0.82 , 0.18 ) r_2 = M r_1 = (0.1(0.1)+0.9(0.9),\ 0.9(0.1)+0.1(0.9)) = (0.01+0.81,\ 0.09+0.09) = (0.82, 0.18) r 2 = M r 1 = ( 0.1 ( 0.1 ) + 0.9 ( 0.9 ) , 0.9 ( 0.1 ) + 0.1 ( 0.9 )) = ( 0.01 + 0.81 , 0.09 + 0.09 ) = ( 0.82 , 0.18 ) 。
第三步 — 计算距离并验证压缩比。d ( r 0 , r 1 ) = ∣ 1 − 0.1 ∣ + ∣ 0 − 0.9 ∣ = 0.9 + 0.9 = 1.8 d(r_0,r_1) = |1-0.1|+|0-0.9| = 0.9+0.9=1.8 d ( r 0 , r 1 ) = ∣1 − 0.1∣ + ∣0 − 0.9∣ = 0.9 + 0.9 = 1.8 。d ( r 1 , r 2 ) = ∣ 0.1 − 0.82 ∣ + ∣ 0.9 − 0.18 ∣ = 0.72 + 0.72 = 1.44 d(r_1,r_2)=|0.1-0.82|+|0.9-0.18|=0.72+0.72=1.44 d ( r 1 , r 2 ) = ∣0.1 − 0.82∣ + ∣0.9 − 0.18∣ = 0.72 + 0.72 = 1.44 。确实 1.44 = 0.8 × 1.8 1.44 = 0.8 \times 1.8 1.44 = 0.8 × 1.8 ,恰好符合 q = 0.8 q=0.8 q = 0.8 (阻尼系数使 M M M 的行/列和偏移0.5正好产生此比率),证实迭代是压缩的,并将收敛到稳态排名向量 ( 0.5 , 0.5 ) (0.5,0.5) ( 0.5 , 0.5 ) 。
例题: 达到目标压缩精度需要多少次迭代?
某分形图像压缩解码器在图像空间的上确界度量下应用比率 q = 0.6 q=0.6 q = 0.6 的压缩映射 T T T ,前两次迭代满足 d ( x 1 , x 0 ) = 100 d(x_1,x_0)=100 d ( x 1 , x 0 ) = 100 (像素强度单位)。利用误差界 d ( x n , x ∗ ) ≤ q n 1 − q d ( x 1 , x 0 ) d(x_n, x^*) \le \dfrac{q^n}{1-q}\, d(x_1, x_0) d ( x n , x ∗ ) ≤ 1 − q q n d ( x 1 , x 0 ) ,求保证 d ( x n , x ∗ ) < 1 d(x_n,x^*) < 1 d ( x n , x ∗ ) < 1 的最小 n n n 。
解答 第一步 — 列出需要求解的不等式。需要 q n 1 − q d ( x 1 , x 0 ) < 1 \dfrac{q^n}{1-q}\,d(x_1,x_0) < 1 1 − q q n d ( x 1 , x 0 ) < 1 ,即 0.6 n 0.4 × 100 < 1 \dfrac{0.6^n}{0.4} \times 100 < 1 0.4 0. 6 n × 100 < 1 ,即 0.6 n < 0.004 0.6^n < 0.004 0. 6 n < 0.004 。
第二步 — 取对数。n ln ( 0.6 ) < ln ( 0.004 ) n \ln(0.6) < \ln(0.004) n ln ( 0.6 ) < ln ( 0.004 ) 。由于 ln ( 0.6 ) ≈ − 0.5108 \ln(0.6) \approx -0.5108 ln ( 0.6 ) ≈ − 0.5108 为负,两边相除时不等号方向翻转:n > ln ( 0.004 ) ln ( 0.6 ) = − 5.521 − 0.5108 ≈ 10.81 n > \dfrac{\ln(0.004)}{\ln(0.6)} = \dfrac{-5.521}{-0.5108} \approx 10.81 n > ln ( 0.6 ) ln ( 0.004 ) = − 0.5108 − 5.521 ≈ 10.81 。
第三步 — 向上取整到最小整数。n = 11 n = 11 n = 11 次迭代即可保证 d ( x n , x ∗ ) < 1 d(x_n,x^*) < 1 d ( x n , x ∗ ) < 1 个像素强度单位,而这个数字在运行任何迭代之前就已知——这正是图像压缩编解码器中先验误差界的实用价值所在。
常见错误. 仅满足 x ≠ y x \ne y x = y 时 d ( T ( x ) , T ( y ) ) < d ( x , y ) d(T(x),T(y)) < d(x,y) d ( T ( x ) , T ( y )) < d ( x , y ) 的映射("收缩型"映射,不具有一致 比率 q < 1 q<1 q < 1 )未必 有不动点:例如 [ 1 , ∞ ) [1,\infty) [ 1 , ∞ ) 上的 T ( x ) = x + 1 x T(x)=x+\dfrac{1}{x} T ( x ) = x + x 1 使任意两点间距离都缩小,但不存在对所有 x , y x,y x , y 都成立的上界 q < 1 q<1 q < 1 ,事实上 T T T 在此处没有不动点。q q q 在整个空间上的一致性是必要条件,而非可有可无。 历史注记
柯西1821年的《分析教程》形式化了后来以他命名的收敛判据,提炼出数列可以"内部"紧密聚集而无需事先命名极限这一思想。莫里斯·弗雷歇在1906年的博士论文中将其抽象为一般的度量空间概念,把三角不等式从任何特定的周围空间中解放出来。斯特凡·巴拿赫随后于1922年证明了压缩映射定理,把完备性与三角不等式变成了贯穿整个分析学、用于证明解的存在性与唯一性的机器。
奥古斯丁-路易·柯西
研究前沿 截至 2026 年
深度平衡模型(DEQ,2019年起)用作为压缩映射应用的单一 层取代深度神经网络的许多堆叠层,将网络输出计算为恰好由上述迭代求得的不动点 x ∗ = f θ ( x ∗ , u ) x^* = f_\theta(x^*, u) x ∗ = f θ ( x ∗ , u ) ;反向传播随后使用隐函数定理而非存储每一层的激活值,从而降低内存开销。另一个活跃的研究方向是格罗莫夫–豪斯多夫距离,一种整个 度量空间之间的度量(在等距意义下比较形状、点云和神经网络表示),是现代形状匹配与流形学习研究的核心。
R \mathbb{R} R 上 d ( x , y ) = ( x − y ) 2 d(x,y) = (x-y)^2 d ( x , y ) = ( x − y ) 2 哪条性质不成立?
对称性 三角不等式(如 x = 0 , y = 1 , z = 2 x=0,y=1,z=2 x = 0 , y = 1 , z = 2 ) 非负性 仅在对角线上为零 用 ℓ 2 \ell_2 ℓ 2 度量,R 3 \mathbb{R}^3 R 3 中 d ( ( 1 , 2 , 2 ) , ( 4 , 6 , 2 ) ) d((1,2,2),(4,6,2)) d (( 1 , 2 , 2 ) , ( 4 , 6 , 2 )) 等于多少?
同一问题的迭代求解器压缩比为 q = 0.9 q=0.9 q = 0.9 而非 q = 0.1 q=0.1 q = 0.1 ,会发生什么?
仍收敛到同一不动点,但达到同样精度所需迭代次数大得多 不再有不动点 收敛更快 不动点会改变
哪组条件保证巴拿赫不动点定理适用?
X X X 完备且 T T T 是具有固定 q < 1 q<1 q < 1 的压缩映射X X X 有界且 T T T 连续X X X 有限且 T T T 是单射T T T 仅满足对所有 x ≠ y x \ne y x = y 有 d ( T ( x ) , T ( y ) ) < d ( x , y ) d(T(x),T(y)) < d(x,y) d ( T ( x ) , T ( y )) < d ( x , y ) ,无其他条件