舒尔正交关系(Schur orthogonality relations)描述了有限群表示中的核心事实。它可以推广到一般的紧群,特别是紧李群,比如旋转群 (3)。此关系可借由舒尔引理证明。
令 | 阶(即 有 || 个元素)有限群 的所有元素。如果两个矩阵是在同一个不可约表示 = 2)。在 情形,通常将这个不可约表示利用杨氏表(杨氏矩阵)记作 而在 情形通常写成 。在两种情形不可约表示都由如下六个实矩阵组成,每个代表一个群元素
元素 (1,1) 的正规化为:
同样可以证明其它矩阵元素 (2,2)、(1,2) 与 (2,1) 的正规化。元素 (1,1) 与 (2,2) 的正交性:
类似的关系对元素 (1,1) 与 (1,2) 的正交性成立,如是等等。容易验证此例中所有对应矩阵元素之和为零,因为给定表示与恒等表示的正交性。
矩阵的迹是对角矩阵元素之和,
所有迹的集合 是一个表示的特征标。通常将一个不可约表示中矩阵的迹写成
利用这种记号我们可写出多个特征标公式:
这可以用来检验一个表示是否是可约的(这些公式说明在任意特征标表中一行是正交向量)。以及
这帮助我们确认不可约表示 在具有特征标 的可约表示 中包含的次数。
例如,如果
这个群的阶是
则 在给定“可约”表示 中包含的次数是
关于群特征表参见特征标理论。
有限群的正交关系推广为紧群(包含紧李群,比如 SO(3))本质上是简单的:只要将在群上的求和换成在群上的积分。
每个紧群 有惟一一个双不变哈尔测度,使得群的体积是 1。将这个测度记成 。设 是 的不可约表示的一个完备集合,设 是表示 的矩阵系数。正交关系可以叙述为两部分1) 如果 则:
2)如果 是表示空间 的一个正交规范基,则:
这里 是 的维数。这些正交关系以及所有表示的维数有限是彼得-外尔定理的推论。
一个三参数群的例子是矩阵群 SO(3),有所有 3×3 正交矩阵组成。这个群的一个可能的参数化是利用欧拉角: 。界限是 以及 。
体积元素 的计算不仅取决于参数的选取,也取决于最终结果,即加权函数(测度) 的解析形式。
例如,SO(3) 的欧拉角参数化给出权重 ,而 n, ψ 参数化给出权重t ,其中 。
可以证明一个紧李群的不可约表示是有限维的并可选成酉的:
简记成
正交关系具有形式
群的体积是
我们注意到 SO(3) 的不可约表示是维格纳D-矩阵(Wigner D-matrix),它们的维数是 。故
它们满足
任何以物理或化学为目的的群表示论书籍中都会提到正交关系。下面更高等的书籍给出了证明: