范數(norm)是數學中的一種基本概念。在泛函分析中,它定義在賦范向量空間中,并滿足一定的條件,即①非負性;②齊次性;③三角不等式。它常常被用來度量某個向量空間(或矩陣)中的每個向量的長度或大小。
名詞定義
詞語解釋
范數,是具有“長度”概念的函數。在線性代數、泛函分析及相關的數學領域,范數是一個函數,是矢量空間內的所有矢量賦予非零的正長度或大小。半范數可以為非零的矢量賦予零長度。
定義范數的矢量空間是賦范矢量空間;同樣,定義半范數的矢量空間就是賦半范矢量空間。
注:在二維的歐氏幾何空間 R中定義歐氏范數,在該向量空間中,元素被畫成一個從原點出發的帶有態射的有向線段,每一個矢量的有向線段的長度即為該矢量的歐氏范數。
性質
假設 是域 上的矢量空間,的半范數是一個函數,,滿足:
(非負性)
(正值齊次性)
(三角不等式).
范數=半范數額外性質*
賦范線性空間
(1)正定性: ,且;
(2)正齊次性: ;
那么,稱為 上的一個范數。
如果線性空間上定義了范數,則稱之為賦范線性空間。
當且僅當 是零矢量(正定性)時,是零矢量;若拓撲向量空間的拓撲可以被范數導出,那么這個拓撲矢量空間被稱為賦范矢量空間。
與其它數關系
(1) 范數 度量拓撲: 因此賦范線性空間是度量空間;但是由度量不一定可以得到范數。
(2) 如果賦范線性空間作為(由其范數自然誘導度量 的)度量空間是完備的,即任何奧古斯丁-路易·柯西(Cauchy)序列在其中都收斂,則稱這個賦范線性空間為斯特凡·巴拿赫(Banach)空間。
(3) 點積 范數: ;范數不一定可以推出內積;當范數滿足平行四邊形公式 時,這個范數一定可以誘導內積;完備的內積空間稱為希爾伯特空間。
(4) 如果去掉范數定義中的正定性,那么得到的泛函稱為半范數(seminorm或者叫準范數),相應的向量空間稱為賦準范線性空間。
對于X上的兩種范數,若存在正常數C滿足:那么稱 弱于。如果 弱于,且 弱于,那么稱這兩種范數等價。
可以證明,有限維空間上的范數都等價,無限維空間上至少有阿列夫(實數集的基數)種不等價的范數。
算子
如果 和 是巴拿赫空間,是 的線性算子,那么可以按下述方式定義:
根據定義容易證明:
對于多個空間之間的復合算子,也有, 。
如果一個線性算子的范數滿足那么稱是有界線性算子,否則稱是無界線性算子。
容易證明,有限維空間的所有線性算子都有界。
空間
基本性質
有限維空間上的范數具有良好的性質,主要體現在以下幾個定理:
性質1:
對于有限維賦范向量空間的任何一組基,范數是元素(在這組基下)的坐標的連續函數。
性質2(Minkowski定理):
有限維線性空間的所有范數都等價。
性質3(Cauchy收斂原理):
實數域(或復數域)上的有限維線性空間(按任何范數)必定完備。
性質4:
有限維賦范線性空間中的序列按坐標收斂的充要條件是它按任何范數都收斂。
常用
這里以空間為例,空間類似。
最常用的范數就是范數。若,那么
可以驗證范數確實滿足范數的定義。其中三角不等式的證明不是平凡的,這個結論通常稱為赫爾曼·閔可夫斯基(Minkowski)不等式。
當p取 的時候分別是以下幾種最簡單的情形:
1-范數:
2-范數:
∞-范數:
其中范數就是通常意義下的距離。
對于這些范數有以下不等式:
另外,若和是赫德爾(Hölder)共軛指標,即,那么有赫德爾不等式:
當時就是柯西-許瓦茲(Cauchy-Schwarz)不等式。
矩陣
一般來講矩陣范數除了正定性,齊次性和三角不等式之外,還規定其必須滿足相容性: 所以矩陣范數通常也稱為相容范數。
如果║·║α是相容范數,且任何滿足║·║β≤║·║α的范數║·║β都不是相容范數,那么║·║α稱為極小范數。對于n階實方陣(或復方陣)全體上的任何一個范數,總存在唯一的實數k>0,使得是極小范數。
注:如果不考慮相容性,那么矩陣范數和向量范數就沒有區別,因為mxn矩陣全體和mn維向量空間同構。引入相容性主要是為了保持矩陣作為線性映射的特征,這一點和算子范數的相容性一致,并且可以得到Mincowski定理以外的信息。
誘導
把矩陣看作線性算子,那么可以由向量范數誘導出矩陣范數
它自動滿足對向量范數的相容性
并且可以由此證明:
注:
⒈ 上述定義中可以用max代替sup是因為有限維空間的單位閉球是緊的(有限開覆蓋定理),從而上面的連續函數可以取到最值。
常用的三種p-范數推導出的矩陣范數:
1-范數:
(列和范數,A每一列元素絕對值之和的最大值)(其中∑|ai1|第一列元素絕對值的和其余類似);
2-范數:
的最大奇異值 (譜范數,即A^H*A特征值λi中最大者λ1的平方根,其中A為A的轉置共軛矩陣);
∞-范數:
(行和范數,A每一行元素絕對值之和的最大值)(其中為第一行元素絕對值的和,其余類似);
其它的p-范數則沒有很簡單的表達式。
對于p-范數而言,可以證明,其中p和q是共軛指標。
簡單的情形可以直接驗證:,一般情形則需要利用。
非誘導
有些矩陣范數不可以由向量范數來誘導,比如常用的Frobenius范數(也叫Euclid范數,簡稱F-范數或者E-范數):
(A全部元素平方和的平方根)。
容易驗證F-范數是相容的,但當時F-范數不能由向量范數誘導。
可以證明任一種矩陣范數總有與之相容的向量范數。
例:
定義是由作為列的矩陣。由于向量的F-范數就是2-范數,所以F-范數和向量的2-范數相容。
另外還有以下結論:
矩陣譜半徑
定義:
A是n階方陣,是其特征值,。則稱特征值得絕對值得最大值為A的譜半徑,即為。
注:注意要將譜半徑與譜范數(2-范數)區別開來,譜范數是指A的最大奇異值,即最大特征值的算術平方根。
譜半徑是矩陣的函數,但不是矩陣范數。譜半徑和范數的關系是以下幾個結論:
定理1:
譜半徑不大于矩陣范數,即。
因為任一特征對,,可得。兩邊取范數并利用相容性即得結果。
定理2:
對于任何方陣A以及任意正數,存在一種矩陣范數使得。
定理3(Gelfand定理):
。
推論:
推論1:矩陣序列收斂于零的充要條件是。
推論2:級數 收斂到的充要條件是。
酉不變
定義:
如果范數║·║滿足║A║=║UAV║對任何矩陣A以及酉矩陣U,V成立,那么這個范數稱為酉不變范數。容易驗證,2-范數和F-范數是酉不變范數。因為酉變換不改變矩陣的奇異值,所以由奇異值得到的范數是酉不變的,比如2-范數是最大奇異值,F-范數是所有奇異值組成的向量的2-范數。反之可證明,所有的酉不變范數都和奇異值有密切聯系,任何酉不變范數事實上就是所有奇異值的一個對稱度規函數。
參考資料 >