数学上,广义正交群或称伪正交群、不定正交群O(,)是所有保持n=p+q维实向量空间上的符号为 (p,q)的非退化对称双线性形式的线性变换组成的李群。这个群的维数是n(n−1)/2。
广义特殊正交群SO(,)是O(,)中所有行列式为1的元素构成的子群。
度量的符号(、分别为正负特征值的个数)在同构的意义下决定该群;交换和相当于度量改变惯性指数,所以给出同样的群。如果或等于0,那么同构于普通正交群O()。我们假设下文中和均是正整数。
群O(,)定义在实向量空间上。对于复空间,所有群O(,; C)都同构于通常正交群O( + ; C),因为复共轭变换)一样,O(,)能表示为矩阵群。R,上由对角矩阵给出标准内积:
作为二次型,,)是由×矩阵(这里 = +)使得表示矩阵的转秩。容易验证所有这样的矩阵构成一个群。的逆满足
我们得到一个同构群。事实上将η换成任意个正特征值个负特征值的对称矩阵(这样的矩阵必是非奇异的),等价的,任何符号为 (,)的二次型。对角化这个矩阵给出此群共轭于标准群O(,)。
O(,)和SO(,)都不是连通的,分别有4个和2个分支。维正定或维负定子空间的定向。特殊正交群有分支,)的单位分支常记作SO+(,),能和SO(,)中同时保持两个定向的元素的集合等价起来。
群O(,)也不是紧,但包含紧子群O()和O(),分别作用在两个确定子空间上。事实上,O()×O()是O(,)的极大紧子群。而,)的极大紧子群。同样,SO()×SO()是SO+(, )的极大紧子群。从而在同论的意义上来说,这些群是(特殊)正交群的积,这样代数拓扑不变量都可以计算出来。
特别的,SO+(, )的基本群是分支基本群的乘积,
,由下表给出: