不變子空間亦稱穩定子空間，又稱平凡子空間，與線性變換有關的一種子空間。設σ是數域P上線性空間V的線性變換，W是V的子空間，若對W中的任意一個向量α，σ(α)也屬于W，則稱W是σ的不變子空間或稱σ子空間。σ的值域與核以及σ的特征子空間等都是σ的不變子空間，有限維的復線性空間的所有的線性變換都有一維不變子空間，有限維實線性空間的線性變換都有一維或二維不變子空間，特別地，奇數維的實線性空間的每一個線性變換都有一維的不變子空間。
定義
設 是數域P上線性空間V的線性變換，W是V的子空間，若W中的向量在 下的象仍在W中，即，均有，則稱W為 的不變子空間，也可簡稱 -子空間。
設 是線性空間V的線性變換，W是 的不變子空間，可把 看成是W的一個線性變換，稱為 在不變子空間W上引起的變換，用符號 表示。
設， ，W是 的不變子空間，取W的基，將其擴充為V的一組基，則 在此基下的矩陣為，且左上角的k階塊 就是 在W的基 下的矩陣；反之，若 在基 下的矩陣為，則 是 的不變子空間。
V能分解成若干個 一子空間的直和 的充分必要條件是V中存在一組基，其中 為 的一組基，使得 在此基下的矩陣為準對角矩陣，其中 是 在基 下的矩陣。
定理
設線性變換 的特征多項式，則V可分解成不變子空間的直和
證明思路：令 記。
1)證明；
2)證明；
3)證明 是直和，從而 也是直和；
4)證明。
例題
例1設， ，在基 下的矩陣為
求 的含 的最小不變子空間W，并寫出 在W的相應基下的矩陣。
證明 由于，那么
因W是含 的 一子空間， ，那么，因此, ，從而有，所以
另外，由 知， ，
因此 也是 一子空間，所以，
由 也可知，在W的基 下的矩陣為
例2設V是復數域上的n維線性空間， ， ， 。證明：
1)若 是 的一特征值，則特征子空間 是 -子空間；
2) ，至少有一個公共的特征向量。
證明 1) ，任給，那么
因此，所以 是 -子空間。
2)由1)知 是 -子空間，則 是 的一個線性變換，其特征多項式必有復根 (即 的特 征值)，設相應的特征向量為 ，那么
所以 就是 的公共特征向量。
參考資料 >