QR分解

✍ dations ◷ 2025-08-14 14:21:57 #QR分解

向量 · 向量空间  · 行列式  · 矩阵

标量 · 向量 · 向量空间 · 向量投影 · 外积(向量积) · 内积(数量积)

矩阵 · 行列式 · 线性方程组 · 秩 · 核 · 迹 · 单位矩阵 · 初等矩阵 · 方块矩阵 · 分块矩阵 · 三角矩阵 · 非奇异方阵 · 转置矩阵 · 逆矩阵 · 对角矩阵 · 可对角化矩阵 · 对称矩阵 · 反对称矩阵 · 正交矩阵 · 幺正矩阵 · 埃尔米特矩阵 · 反埃尔米特矩阵 · 正规矩阵 · 伴随矩阵 · 余因子矩阵 · 共轭转置 · 正定矩阵 · 幂零矩阵 · 矩阵分解 (LU分解 · 奇异值分解 · QR分解 · 极分解 · 特征分解) · 子式和余子式 · 拉普拉斯展开 · 克罗内克积

线性空间 · 线性变换 · 线性子空间 · 线性生成空间 · 基 · 线性映射 · 线性投影 · 线性无关 · 线性组合 · 线性泛函 · 行空间与列空间 · 对偶空间 · 正交 · 特征向量 · 最小二乘法 · 格拉姆-施密特正交化

QR分解法是三种将矩阵分解的方式之一。这种方式,把矩阵分解成一个正交矩阵与一个上三角矩阵的积。QR分解经常用来解线性最小二乘法问题。QR分解也是特定特征值算法即QR算法的基础。

实数矩阵的QR分解是把分解为

这里的是正交矩阵(意味着T = )而是上三角矩阵。类似的,我们可以定义A的QL, RQ和LQ分解。

更一般的说,我们可以因数分解复数 m {displaystyle m} ≥ )为 m {displaystyle m} ∗ = 的意义上,不需要是方阵)和 n {displaystyle n} m {displaystyle m} 是非奇异的,且限定 的对角线元素为正,则这个因数分解是唯一的。

QR分解的实际计算有很多方法,例如Givens旋转、Householder变换,以及Gram-Schmidt正交化等等。每一种方法都有其优点和不足。

Householder变换将一个向量关于某个平面或者超平面进行反射。我们可以利用这个操作对 m × n ( m n ) {displaystyle mtimes n(mgeqq n)} 维实列向量,且有 x = | α | {displaystyle |mathbf {x} |=|alpha |} = cos() 和 = sin() 出现在第 行和第 行与第 列和第 列的交叉点上。就是说,吉文斯旋转矩阵的所有非零元定义如下::

乘积 (, , )x 表示向量 x 在 (,)平面中的逆时针旋转 θ 弧度。

对于一个向量

如果, r = a 2 + b 2 {displaystyle r={sqrt {a^{2}+b^{2}}}} , c = a r {displaystyle c={frac {a}{r}}} , s = b r {displaystyle s=-{frac {b}{r}}} , 那么,就存在旋转矩阵G,使 A {displaystyle A} 底部转成0。

每一次的旋转,吉文斯旋转都可以将一个元素化成0,直到将原始矩阵转成一个上三角矩阵,则完成分解。

对于: A 2 {displaystyle A_{2}} 子矩阵 : A 2 _ S u b {displaystyle A_{2_Sub}}

格拉姆-施密特正交化的基本想法,是利用投影原理在已有正交基的基础上构造一个新的正交基。

v V n {displaystyle {boldsymbol {v}}in {boldsymbol {V^{n}}}} V k {displaystyle {boldsymbol {V}}^{k}} V n {displaystyle {boldsymbol {V}}^{n}} 上的 k {displaystyle k} 维子空间,其标准正交基为 { η 1 , , η k } {displaystyle {{boldsymbol {eta }}_{1},ldots ,{boldsymbol {eta }}_{k}}} ,且 v {displaystyle {boldsymbol {v}}} 不在 V k {displaystyle {boldsymbol {V}}^{k}} 上。由投影原理知, v {displaystyle {boldsymbol {v}}} 与其在 V k {displaystyle {boldsymbol {V}}^{k}} 上的投影 p r o j V k v {displaystyle mathrm {proj} _{boldsymbol {V^{k}}}{boldsymbol {v}}} 之差


是正交于子空间 V k {displaystyle {boldsymbol {V}}^{k}} 的,亦即 β {displaystyle {boldsymbol {beta }}} 正交于 V k {displaystyle {boldsymbol {V}}^{k}} 的正交基 η i {displaystyle {boldsymbol {eta }}_{i}} 。因此只要将 β {displaystyle {boldsymbol {beta }}} 单位化,即

那么 { η 1 , , η k , η k + 1 } {displaystyle {{boldsymbol {eta }}_{1},ldots ,{boldsymbol {eta }}_{k},{boldsymbol {eta }}_{k+1}}} 就是 V k {displaystyle {boldsymbol {V}}^{k}} v {displaystyle {boldsymbol {v}}} 上扩展的子空间 s p a n { v , η 1 , . . . , η k } {displaystyle mathrm {span} {{boldsymbol {v}},{boldsymbol {eta }}_{1},...,{boldsymbol {eta }}_{k}}} 的标准正交基。

根据上述分析,对于向量组 { v 1 , , v m } {displaystyle {{boldsymbol {v}}_{1},ldots ,{boldsymbol {v}}_{m}}} 张成的空间 V m {displaystyle {boldsymbol {V}}^{m}} ( m < n {displaystyle m<n} ),只要从其中一个向量(不妨设为 v 1 {displaystyle {boldsymbol {v}}_{1}} )所张成的一维子空间 s p a n { v 1 } {displaystyle mathrm {span} {{boldsymbol {v}}_{1}}} 开始(注意到 v 1 {displaystyle {boldsymbol {v}}_{1}} 就是 s p a n { v 1 } {displaystyle mathrm {span} {{boldsymbol {v}}_{1}}} 的正交基),重复上述扩展构造正交基的过程,就能够得到 V n {displaystyle {boldsymbol {V}}^{n}} 的一组正交基。这就是格拉姆-施密特正交化。

首先需要确定已有基底向量的顺序,不妨设为 { v 1 , , v n } {displaystyle {{boldsymbol {v}}_{1},ldots ,{boldsymbol {v}}_{n}}} 。Gram-Schmidt正交化的过程如下:

这样就得到 s p a n { v 1 , , v n } {displaystyle mathrm {span} {{boldsymbol {v}}_{1},ldots ,{boldsymbol {v}}_{n}}} 上的一组正交基 { β 1 , , β n } {displaystyle {{boldsymbol {beta }}_{1},ldots ,{boldsymbol {beta }}_{n}}} ,以及相应的标准正交基 { η 1 , , η n } {displaystyle {{boldsymbol {eta }}_{1},ldots ,{boldsymbol {eta }}_{n}}}

现在要用格拉姆-施密特变换求解矩阵 A {displaystyle A} Q R {displaystyle QR} 分解。

令, a = {displaystyle a=}

那么可知,

A = Q R {displaystyle A=QR} ,可知,

MATLAB以qr函数来执行QR分解法,其语法为

此外,原矩阵A不必为正方矩阵;如果矩阵A大小为 m × n {displaystyle mtimes n} ,则矩阵Q大小为 m × m {displaystyle mtimes m} ,矩阵R大小为 m × n {displaystyle mtimes n}

对于直接求解线性方程组的逆,用QR分解的方法求解会更具有数据的稳定性。对于求解一个线性系统 A x = b {displaystyle Ax=b} , 这里 A {displaystyle A} 的维度是 m × n {displaystyle mtimes n}

如果 m n {displaystyle mleq n} , 那么 A T = Q R {displaystyle A^{T}=QR} ,这里 Q T = Q 1 {displaystyle Q^{T}=Q^{-1}} )。

R {displaystyle R} 的形式是 R = {displaystyle R={begin{bmatrix}R_{1}\0end{bmatrix}}} R 1 {displaystyle R_{1}} R {displaystyle R} 上不为0的部分。那么对于

如果 m > n {displaystyle m>n} , 那么 A = Q R {displaystyle A=QR} ,这里 Q T = Q 1 {displaystyle Q^{T}=Q^{-1}} )。本质是最小化 | | A x ^ b | | {displaystyle ||A{hat {x}}-b||}

相关

  • 欧洲复兴开发银行欧洲复兴开发银行(European Bank for Reconstruction and Development,EBRD)是一个1991年建立的银行。它的任务在于在1989年东方集团崩溃后在其经济从计划经济转化为市场经济的
  • 美在中美在中(Frank E.Meigs,1851年-1915年),字兰陵,是19世纪末、20世纪初美国基督会(Disciples of Christ)的在华传教士。1851年,美在中生于美国纽约。1887年1月12日,受美国基督会差遣,美在
  • 德拜-沃勒因子德拜-沃勒因子(Debye–Waller factor,DWF),得名于彼得·德拜和伊瓦尔·沃勒(英语:Ivar Waller),在凝聚态物理学中描述的是X射线衍射中由热运动引起的衰减(英语:Attenuation);又被称作B因
  • 奥维克·阿布拉米扬奥维克·阿卡米·阿布拉米扬(亚美尼亚语:Հովիկ Արգամի Աբրահամյան;1958年1月24日-),是亚美尼亚的政治家,自2014年4月13日起接替季格兰·萨尔基相成为亚美尼亚
  • 巴尔多梅罗·埃斯帕特罗华金·巴尔多梅罗·费尔南德斯-埃斯帕特罗·阿尔瓦雷斯·德托罗 GR KOGF OCIII OIC RMOSH RCSF KOTS(西班牙语:Joaquín Baldomero Fernández-Espartero y Álvarez de Toro,1
  • 比基比基(Bhikhi),是印度旁遮普邦Mansa县的一个城镇。总人口15078(2001年)。该地2001年总人口15078人,其中男性7983人,女性7095人;0—6岁人口2170人,其中男1244人,女926人;识字率53.15%,其中
  • 奇庚河奇庚河,又称小清水河,位于中国广西壮族自治区中部,是西江红水河段左岸支流,发源于宜州市福龙瑶族乡落春村西南,东北流至石别镇三寨村转南流,经福龙乡驻地后进入忻城县,过忻城县城关
  • 由布岳由布岳(ゆふだけ)是位在大分县由布市的活火山。标高1,583米。新日本百名山、日本二百名山之一。由东峰和最高峰的西峰所构成,呈现圆锥形,所以也称作丰后富士。古来作为信仰对象
  • 陈巴尔虎旗陈巴尔虎旗(蒙古语:ᠬᠠᠭᠤᠴᠢᠨ ᠪᠠᠷᠭᠤ ᠬᠣᠰᠢᠭᠤ,西里尔字母:Хуучин Барга хошуу)为内蒙古自治区呼伦贝尔市市下所辖一个旗,总面积为22,222平方公里,人口56,000人,旗政府驻巴彦库仁镇,邮政编码021500。全陈巴尔虎旗位于内蒙古自治区东北部,西邻俄罗斯。总面积21192平方千米,总人口6万人(2004年)。旗土地总面积21192平方公里,行政区内辖8个苏木2个镇,包括一个民族苏木。由以蒙古族为主体汉族居多的十多个民族组成。陈巴尔虎旗地跨森林草原与干旱草原两个地带,属中
  • 亨利·雪隆亨利·弗雷德里克·雪隆(法语:Henry Frédéric Chéron,1871年2月7日-1960年5月23日),是一位法国律师、政治家。他在年轻时就活跃于诺曼底卡尔瓦多斯省的地方事务。他于1913年至1934年期间当选为众议院与参议院议员,并担任各种内阁部长级职位。他通常持保守主义的观点,致力于平衡政府的财政支出和预算,他相信农业是法国经济繁荣的基础。