归一化常数的概念主要来自于数学上的几率论及其他分支。
根据几率论中的描述及定义，一个归一化常数是对于任何非负函数的任意区间所含有之常数使得该函数对于一特定区间之积分恰好等于1。通常加入该常数之目的为将该函数转变为一几率密度函数或几率质量函数。
举个例子，如果假定
可以推得
如果我们假定函数 在统计力学中有非常重要的地位。在统计力学中，这个常数被称为配分函数。
贝氏定理说明一个随机事件的后验几率正比于先验几率与相似度的乘积。前言所述之“正比于”表示该定理或方程式亦须一归一化常数以便进行几率运算。以另一简单离散的事件为范例：
其中 P(H0) 即是假设 H0 为真之几率；(D|H0)则是在数据样本下假设为真时的条件几率，然而该数据样本已知为原假设的似然函数。P(H0|D)是假设为真下的后验几率。P(D)应是产生数据样本的几率，但是其本身有计算上的困难，故我们常用另外一种描述来取代原本的方程式：
因为P(H|D)是一个几率，它的所有假设为真几率总和应为1。此可推导出一个结论：
因此，
即是。这可以被推导至非常多的假设领域并将原本不可计算之几率成另一种以 &Sigma表现之形式。
