完整定義
特徵值(Eigenvalue)是線性代數中的一個重要概念。對於給定的線性變換,特徵值代表了該變換作用於某個非零向量(特徵向量)後,向量長度縮放的比例。換句話說,特徵值描述了線性變換在特定方向上的變形程度。特徵值可以是實數或複數。
白話說明
你有沒有看過一個向量經過矩陣變換後,只是被拉長或縮短,方向卻沒變?
你可以把它想成,矩陣對某些特殊方向有固定的縮放倍數,而這個倍數就是特徵值。
特徵值常拿來看系統會不會越跑越大、PCA 裡哪個方向最重要,或一個線性變換到底在「放大」什麼。
記住這句
特徵向量定方向,特徵值定倍率。
比喻:特徵值 就像一個魔法師對特定方向的物件施展「變大縮小咒」時,這個咒語讓物件變大或縮小的「倍率」-- 它告訴你物件在這個方向上會被拉長還是縮短。
容易混淆
特徵值 vs 特徵向量
特徵向量是那個特殊方向的向量。
特徵值是沿著這個方向被放大或縮小的倍數。
最關鍵的區別:一個是方向,一個是倍率。
特徵值 vs 奇異值
特徵值來自方陣的線性變換性質。
奇異值分解可以處理更廣的矩陣,不一定要方陣。
最關鍵的區別:適用的矩陣類型不同。
特徵值 vs 一般縮放因子
一般縮放因子會對所有方向做同樣處理。
特徵值只描述特定特徵方向上的倍率。
最關鍵的區別:是不是只對某個方向成立。
實際案例
PCA 做降維時
資料投影到主成分方向後,特徵值越大,代表那個方向保留的資訊越多。
Before:只看原始欄位。After:先看特徵值大小,挑最有資訊的方向。
分析系統穩定性時
如果某個特徵值的絕對值很大,系統在那個方向上可能會快速放大。
Before:只看輸入輸出。After:看矩陣的特徵值,判斷是不是會發散。
演算法與應用
求特徵值通常是解 det(A - λI) = 0,這會得到可能的 λ。
對稱矩陣的特徵值一定是實數,一般矩陣則可能出現複數。
在機器學習裡,它常出現在 PCA、矩陣分析、動態系統與圖論。
情境判斷
Q1(直覺題): 如果一個矩陣作用在某個向量上,向量方向完全不變,只是長度變了,這代表什麼?
那個向量就是特徵向量,變長或變短的倍率就是特徵值。
Q2(判斷題): 一個一般矩陣的特徵值一定是實數嗎?
看情況。對稱矩陣通常是實數,但一般矩陣可能出現複數特徵值,所以不能直接假設。
常見問題
不一定。對稱矩陣通常是實數,但一般矩陣可能出現複數特徵值。
先建立特徵方程 det(A - λI) = 0,再解出 λ;大矩陣通常會用數值方法。
它常用來看哪個方向資訊最多、模型是否穩定,或降維時該保留哪些主成分。
特徵值分解是把可對角化的方陣寫成 A = QΛQ⁻¹,Λ 是對角線放特徵值的矩陣,Q 的每一欄是對應的特徵向量。實對稱矩陣一定可以這樣分解,而且 Q 可取正交矩陣,寫成 A = QΛQᵀ。不能對角化的方陣就要改用其他分解。
有兩個常用的檢查:所有特徵值相加等於矩陣的跡(對角線元素和),所有特徵值相乘等於行列式。2×2 矩陣可以直接解 λ² − (跡)λ + 行列式 = 0。這些規則適合驗算,大矩陣還是交給 numpy.linalg.eig 這類數值工具。
出現在這些考古題
官方公告試題的逐題解析裡,這 2 題把特徵值列為延伸術語。
相關術語
- 特徵向量Eigenvector兩者是配套概念,少了它,特徵值的倍率意義就不完整。
- 主成分分析Principal Component AnalysisPCA 讀懂之後,特徵值的角色會很清楚。
- 奇異值分解Singular Value Decomposition它是更一般的分解工具,和特徵值很常一起比較。
- 降維處理Dimensionality Reduction如果你在做特徵選擇或壓縮資料,這個詞很重要。
- 矩陣分解Matrix Factorization特徵值是矩陣分解最常見的入口之一。
- 共變異矩陣Covariance Matrix
- 解釋方差比Explained Variance Ratio
- 條件數Condition Number
來源
參考來源:en.wikipedia.org
其他格式:Markdown 版本