不變子空間問題

不變子空間問題是線性算子理論中的一個著名問題。40多年來，人們一直在努力追求其答案，做了大量工作，取得不少成果，但離問題的解決，看來還相當遠。

設T是復巴拿赫空間Χ上有界線性算子，M是Χ的閉線性子空間(見巴拿赫空間)，如果T(M)包含於M，稱M是T的不變（閉線性）子空間。當M僅含零元素 {0}或者是全空間Χ時，M不僅是Χ的閉線性子空間，而且是一切有界線性算子T的不變子空間。稱{0}和X是平凡不變子空間。所謂不變子空間問題是:對任何維數不小於2的復巴拿赫空間上的有界線性算子，是否必存在非平凡的不變子空間。

當Χ是有限維空間時，任何線性算子T都有一個若爾當標準型，它不僅表明T有非平凡的不變子空間，而且還完全刻畫了算子的內部結構。當Χ是不可分空間時，易知任何有界線性算子必有非平凡不變子空間。因此，不變子空間問題實質上只限於可分的無限維空間上。

如果不變子空間問題的回答是肯定的，則由佐恩引理易知，對任意有界線性算子，存在一個極大的不變子空間鏈。這將把有限維空間上的線性算子的若爾當標準型推廣到巴拿赫空間上去的工作推進了一步。因此，不變子空間問題是在算子理論中佔有重要地位的一個基本問題。下面是有關不變子空間問題的主要結果。

與緊性相聯繫的算子與有限維空間上算子相接近的一類算子是緊算子。J.馮·諾伊曼在1930年證明：對於希爾伯特空間上任意有界緊算子，存在非平凡不變子空間。這項工作當時沒有發表。1954年，N.阿龍扎揚和K.T.史密斯用有限秩算子逼近的方法證明了：對於巴拿赫空間上任何有界緊算子,存在非平凡不變子空間。1973年，Β.И.羅蒙諾索夫利用紹德爾不動點原理證明了，如果A是巴拿赫空間上與某非零緊算子可交換的算子，則存在A的非平凡的不變子空間。有趣的是，與緊性相聯繫的這些結果，證明都不很難。1977年，有人不用紹德爾不動點原理，以很簡單的、初等的方法，再次證明了上述結論。後來，人們又進一步證明了，如果B是巴拿赫空間上的非零緊算子,則一切使AB-BA為一秩算子的算子A,有非平凡的不變子空間；從而推廣了羅蒙諾索夫的結果。

與正常算子相聯繫的算子基於對正常算子的瞭解，人們考察了與正常算子相近的算子的不變子空間問題。30多年來，這方面的研究取得了重大進展，其中的方法，對研究希爾伯特空間上有界線性算子有很重要的意義。1949年，A.博靈深入地研究了單位圓周上的哈代空間H（見Hp 空間）上的乘法算子U+：U+ƒ(z)=zƒ(z)。關於U+的不變子空間問題，有稱為博靈定理的如下結果：算子U+沒有非平凡的約化子空間，M是U+的不變子空間的充要條件是M=φH，這裏φ是H中幾乎處處等於 1的函數。

1978年W.S.布朗藉助於函數演算的方法證明：次正常算子(即正常算子在不變子空間上的限制)皆有非平凡的不變子空間。他的證明方法很快被人們用來證明各種類型的不變子空間存在定理。上面的結果可以推廣到希爾伯特空間上有界線性算子A。如果對一切極點在算子A的譜σ(A)外的有理函數ƒ，成立‖ƒ(A)‖≤max{|ƒ(z)||z∈σ(A)}，那末A有非平凡的不變子空間。近年來有人較大地簡化了布朗結果的證明。

數學領域泛函分析中，最著名的懸而未決的問題之一就是不變子空間問題，有時被樂觀地稱為不變子空間猜想。這個問題就是如下命題是否成立： ^[2] 

給定一個復希爾伯特空間H，其維度>1，以及一個有界線性算子T:H→H，則H有一個非平凡閉T-不變子空間，也即存在一個H的閉線性子空間W，而且它不同於{0}和H，且使得T(W) ⊆W。

該命題對於所有2維以上有限維復向量空間是成立的：一個線性算子（矩陣）的特徵值是其特徵多項式的零點；根據代數基本定理，這個多項式存在零點；一個對應的特徵向量可以張成一個不變子空間。該命題也很容易成立如果W不必是閉的：取任意H中非零向量x並考慮H的由{T(x):n≥ 0}線性張成的子空間W。

雖然該猜想的一般情況未獲證明，但已經可以列出命題成立的一些特殊情況：

近年來，有些數學家試圖採用隨機矩陣理論來構造該猜想的反例。

如果考慮巴拿赫空間而不是希爾伯特空間，則該猜想不成立；P. Enflo於1975年給出了沒有非平凡不變子空間的有界算子的顯式例子，Charles Read於1984年也給出一個反例。但是，該命題對於算子的特定類別是成立的。

1964年，Louis de Branges發表了不變子空間猜想的可能證明，但後來被發現是錯誤的。他最近在他的網站上發表了一個新的可能證明；但他的證明還未經過同行評審。