矩阵分析与计算学习记录-向量范数与矩阵范数

我们知道距离的定义是一个宽泛的概念，只要满足非负、自反、三角不等式就可以称之为距离。范数是一种强化了的距离概念，它在定义上比距离多了一条数乘的运算法则。有时候为了便于理解，我们可以把范数当作距离来理解。

在数学上，范数包括向量范数和 矩阵范数，向量范数表征向量空间中向量的大小，矩阵范数表征矩阵引起变化的大小。一种非严密的解释就是，对应向量范数，向量空间中的向量都是有大小的，这个大小如何度量，就是用范数来度量的，不同的范数都可以来度量这个大小，就好比米和尺都可以来度量远近一样；对于矩阵范数，学过线性代数，我们知道，通过运算 AX = B，可以将向量 X 变化为 B，矩阵范数就是来度量这个变化大小的。

2. 向量范数 

2.1 向量范数定义

2.1.1  1范数、2范数、和∞范数

以下就是1范数、2范数、和∞范数的定义。 

2.1.2 P范数 

再补充一个2范数的定义 

由2范数推出P范数 

在三维空间中绘制范数图形，如下：

根据上图 p 的取值不同，p-范数图形有着不同的变化，一个经典的有关 p-范数示意图，如下：

上图表示了 p 从无穷到 0 变化时，三维空间中到原点的距离（范数）为 1 的点构成的图形的变化情况。以常见的 2-范数（p = 2）为例，此时的范数也即欧氏距离，空间中到原点的欧氏距离为 1 的点构成了一个球面。一般没加下标的范数，是省略了下标 2，代表的意思为求向量模长。

2.1.3  ∞范数和-∞范数

2.1.4 几种常用范数

 看个例题

 2.1.5 引理-Holder不等式（乘积形式）

  2.1.6 引理-Minkowski不等式（和形式）

2.2 向量范数的性质

2.2.1 向量范数的基本性质

2.2.2 利用已知的向量范数构造新的向量范数

 2.3 向量范数的等价性

利用已知向量范数可以构造新的向量范数。

2.4 向量范数的应用

3. 矩阵范数

3.1 矩阵范数的定义

 3.1.1 Frobenious范数的证明

 3.1.2 Frobenious范数的酉不变性

 3.1.3 矩阵范数的等价性

 3.2 矩阵范数与向量范数的相容性

3.2.1 相容性

 一般结论：

• 向量1范数与矩阵m1范数相容
• 向量2范数与矩阵F范数相容
• 向量1范数、2范数、∞范数均与矩阵m∞范数相容
• 任何向量范数都存在与之相容的矩阵范数（算子范数）

 下面看例题，证明相容性

 3.2.2 算子范数（诱导范数）

 2范数的性质

 下面看例题

 各范数之间的关系（重要）

  3.2.3 由矩阵范数构造与之相容的向量范数

前面是由向量范数诱导出矩阵范数，现在我们来看，如何由矩阵范数构造相容的向量范数

 说明矩阵范数和向量范数之间是可以相互诱导的

4. 矩阵的谱半径及应用

定理一

定理二

定理三

 正规矩阵的谱半径和谱范数完全相同

 下面看例题-怎么求谱半径

 5. 矩阵序列及级数中的应用

5.1 矩阵序列与极限

 必要性证明

充分性证明

 矩阵序列的极限运算的基本性质

 5.2 收敛矩阵和幂序列

• 矩阵序列充要条件的证明 

•  收敛矩阵充要条件的证明

 其他重要定理

看一个例题-证明矩阵是否为收敛矩阵 

5.3 矩阵级数和矩阵幂级数

 5.3.1 矩阵级数

 看个例子

 5.3.2 矩阵幂级数

 矩阵幂级数的收敛性

 收敛半径-Cauchy Hadamard定理（柯西定理）

 初等函数的泰勒展开式

 矩阵幂级数的泰勒展开式

 看例题

 6. 矩阵的条件数及应用

6.1 条件数的定义

 6.2 误差估计中的应用

定理1

 推论1

 定理2

 下面看几个例题