舒尔正交关系(Schur orthogonality relations)描述了有限群表示中的核心事实。它可以推广到一般的紧群,特别是紧李群,比如旋转群 (3)。此关系可借由舒尔引理证明。
令 | 阶(即 有 || 个元素)有限群 的所有元素。如果两个矩阵是在同一个不可约表示 = 2)。在
情形,通常将这个不可约表示利用杨氏表(杨氏矩阵)记作
而在
情形通常写成
。在两种情形不可约表示都由如下六个实矩阵组成,每个代表一个群元素
元素 (1,1) 的正规化为:
同样可以证明其它矩阵元素 (2,2)、(1,2) 与 (2,1) 的正规化。元素 (1,1) 与 (2,2) 的正交性:
类似的关系对元素 (1,1) 与 (1,2) 的正交性成立,如是等等。容易验证此例中所有对应矩阵元素之和为零,因为给定表示与恒等表示的正交性。
矩阵的迹是对角矩阵元素之和,
所有迹的集合
是一个表示的特征标。通常将一个不可约表示中矩阵的迹写成 
利用这种记号我们可写出多个特征标公式:
这可以用来检验一个表示是否是可约的(这些公式说明在任意特征标表中一行是正交向量)。以及
这帮助我们确认不可约表示
在具有特征标
的可约表示
中包含的次数。
例如,如果
这个群的阶是
则
在给定“可约”表示
中包含的次数是
关于群特征表参见特征标理论。
有限群的正交关系推广为紧群(包含紧李群,比如 SO(3))本质上是简单的:只要将在群上的求和换成在群上的积分。
每个紧群
有惟一一个双不变哈尔测度,使得群的体积是 1。将这个测度记成
。设
是
的不可约表示的一个完备集合,设
是表示
的矩阵系数。正交关系可以叙述为两部分1) 如果
则:
2)如果
是表示空间
的一个正交规范基,则:
这里
是
的维数。这些正交关系以及所有表示的维数有限是彼得-外尔定理的推论。
一个三参数群的例子是矩阵群 SO(3),有所有 3×3 正交矩阵组成。这个群的一个可能的参数化是利用欧拉角:
。界限是
以及
。
体积元素
的计算不仅取决于参数的选取,也取决于最终结果,即加权函数(测度)
的解析形式。
例如,SO(3) 的欧拉角参数化给出权重
,而 n, ψ 参数化给出权重t
,其中
。
可以证明一个紧李群的不可约表示是有限维的并可选成酉的:
简记成
正交关系具有形式
群的体积是
我们注意到 SO(3) 的不可约表示是维格纳D-矩阵(Wigner D-matrix)
,它们的维数是
。故
它们满足
任何以物理或化学为目的的群表示论书籍中都会提到正交关系。下面更高等的书籍给出了证明: