矩阵微积分

✍ dations ◷ 2025-07-11 17:31:26 #矩阵论,线性代数,多变量微积分

在数学中, 矩阵微积分是多元微积分的一种特殊表达,尤其是在矩阵空间上进行讨论的时候。它把单个函数对多个变量或者多元函数对单个变量的偏导数写成向量和矩阵的形式,使其可以被当成一个整体被处理。这使得要在多元函数寻找最大或最小值,又或是要为微分方程系统寻解的过程大幅简化。这里我们主要使用统计学和工程学中的惯用记法,而张量下标记法更常用于物理学中。

在本小节中,我们在表示向量和矩阵时,通过用单个变量来表示许多变量的方式,把矩阵记法的效用发挥到最大。接下来我们用不同字体来区分标量、向量和矩阵。我们使用(,)来表示包含行列的实矩阵的空间。该空间中的一般矩阵用粗体大写字母表示,例如A,X,Y等。而若该矩阵属于(,1),即列向量,则用粗体小写字母表示,如a,x,y等。特别地,(1,1)中的元素为标量,用小写斜体字母表示,如,,等。XT 表示矩阵转置,tr(X)表示矩阵的迹,而 det(X)或|X|表示行列式。除非专门注明,所有函数都默认属于光滑函数1。 通常字母表前半部分的字母(a, b, c, …)用于表示常量,而后半部分的字母(t, x, y, …)用于表示变量。

由于向量可看成仅有一列的矩阵,最简单的矩阵求导为向量求导。

这里的标记方法可以通过如下方式表达大部分向量微积分:把维向量构成的空间(,1)等同为欧氏空间 R, 标量(1,1)等同于R。对应的向量微积分的概念在每小节末尾列出。

向量 y = T {\displaystyle \mathbf {y} ={\begin{bmatrix}y_{1}&y_{2}&\cdots &y_{m}\end{bmatrix}}^{\mathsf {T}}} 的导数可以(用分子记法)写成

在向量微积分中,向量y关于标量的导数也被称为向量y的切向量, y x {\displaystyle {\frac {\partial \mathbf {y} }{\partial x}}}

例子 简单的样例包括欧式空间中的速度向量,它是位移向量(看作关于时间的函数)的切向量。更进一步而言, 加速度是速度的切向量。

标量对向量 x = T {\displaystyle \mathbf {x} ={\begin{bmatrix}x_{1}&x_{2}&\cdots &x_{n}\end{bmatrix}}^{\mathsf {T}}} 在的空间R(其独立坐标是x的分量)中的梯度是标量对向量x的导数的转置。在物理学中,电场是电势的负梯度向量。

标量函数(x)对空间向量x在单位向量u(在这里表示为列向量)方向上的方向导数可以用梯度定义:

使用刚才定义的标量对向量的导数的记法,我们可以把方向导数写作 u f = ( f x ) u . {\displaystyle \nabla _{\mathbf {u} }f=\left({\frac {\partial f}{\partial \mathbf {x} }}\right)^{\top }\mathbf {u} .} 空间中向量v的前推为 d f ( v ) = f v d v . {\displaystyle d\,\mathbf {f} (\mathbf {v} )={\frac {\partial \mathbf {f} }{\partial \mathbf {v} }}d\,\mathbf {v} .} 的导数被称为切矩阵,(用分子记法)可写成:

定义在元素是独立变量的×矩阵X上的标量函数对X的导数可以(用分子记法)写作

定义矩阵上的重要的标量函数包括矩阵的迹和行列式。

类比于向量微积分,这个导数常被写成如下形式:

类似地,标量函数(X)关于矩阵X在方向Y的方向导数可写成

梯度矩阵经常被应用在估计理论的最小化问题中,比如卡尔曼滤波算法的推导,因此在这些领域中有着重要的地位。

相关

  • 氢离子泵阻断剂质子泵抑制剂(英语:Proton-pump inhibitor、缩写为PPI)或称氢离子帮浦阻断剂,是一种抑制氢离子泵的药物,这种药物对于减少胃酸分泌的作用是显著也长效的,可以说是现今减少胃酸分泌
  • 性偏好性嗜好,或称性偏好、性癖好,是指个人对性对象、性行为的偏好。它是个体化的,以各人的内心喜好为标准 ,其因人而异且千差万别。特定的对象对个体产生强烈的性吸引,个体对特定的性
  • 莫菲威廉·莫菲(William Parry Murphy,1892年2月6日-1987年10月9日)是一位美国医学家,出生于威斯康辛州。由于关于贫血治疗的研究,而在1934年与乔治·迈诺特(George Richards Minot)及乔
  • F检验F检验(F-test),最常用的别名叫做联合假设检验(英语:joint hypotheses test),此外也称方差比率检验、方差齐性检验。它是一种在零假设(null hypothesis, H0)之下,统计值服从F-分布的检
  • 斯坦福山坐标:51°34′14″N 0°04′22″W / 51.5705°N 0.0727°W / 51.5705; -0.0727史丹佛山(Stamford Hill)是伦敦北部的一个地区,大部分地区属于哈克尼伦敦自治市,小部分地区属于哈
  • 孙羽孙羽(1934年-2014年2月19日),原名孙洪纺,吉林扶余人,中华人民共和国导演、演员。早年进入东北电影制片厂当演员,出演《钢铁战士》、《翠岗红旗》、《猛河的黎明》、《暴风雨中的雄
  • 北葱北葱(学名:),又称细香葱、虾夷葱,是葱属植物的一员。其细长管状叶常同葱一样用为调味料,为常用辛香料,也可用作草药。北葱和洋葱或大蒜相比气味较淡。其英文名称亦称为“chives”,而
  • 命运之爱命运之爱(Amor fati)源自拉丁语,指一种人生态度:不管是痛苦和损失还是快乐与收获,人生中发生的一切事情都是好的。怀有命运之爱的人无条件地接受人生中的一切事件和处境。命运之
  • .hack (游戏).hack(又称游戏版.hack、.hack//Games),由CyberConnect2所制作、BANDAI(现:BANDAI Namco 万代南梦宫娱乐)发售的电子游戏。.hack计划(Project .hack)的起点。现时,.hack的游戏可分为
  • 北雷丁顿海滩 (佛罗里达州)北雷丁顿海滩(英语:North Redington Beach),是美国佛罗里达州下属的一座城镇。建立于1953年。面积约 为2.7平方公里(约合1平方英里)。根据2010年美国人口普查,该市有人口1,474人。