生殖隔离,又称生殖屏障,在生物学上通常指由于生殖方面的原因,即使地缘关系相近,但物种不同的类群之间不能互相交配,或不易交配成功的隔离机制。一般来讲生殖隔离用以定义物种,不具有生殖隔离的两个个体则以最多以亚种加以区分,生殖隔离的演化即是物种形成。
生殖隔离可以依其机制发生的时间点在交配之前或之后,或形成配子之前或之后,分为交配前隔离、交配后隔离,或合子前隔离、合子后隔离。Coyne和Orr的研究指出,合子前隔离可以在两个族群差异不大时就演化出来,合子后隔离则随基因差异增加而增加;除此之外,交配前隔离在同域种化时较快演化出来。
如果两个族群因解剖构造无法交配,或在行为上不互相交配,是为交配前隔离。例如螺的左右旋可以由简单的基因差异产生,而不同方向的螺往往无法交配,而形成种化。另一个例子是17年蝉的部分族群演化成13年蝉,因为活动时间的不同而失去交配的机会,成为两个不同的物种。
其中可以再细分成四种体机制包括: 栖地隔离(Habitat isolation)、时间隔离(Temporal isolation)、行为隔离(Behavioral isolation)、器官隔离(Mechanical isolation)等等。
再加强(reinforcement)是形成交配前隔离的一个重要的机制。当两个族群的杂交后代因为外在的分裂选择或内部的配子后隔离而缺乏存活率或生育力时,相较于继续跨族群杂交并生育这些混种后代,在族群内选型交配生育纯种后代是比较有利的行为。因此两个族群会各自演化出只和自己族群交配的行为,形成交配前生殖隔离。选型交配也会造成性择,进而造成性征的快速分化。
即配子隔离(Gametic isolation),如果交配后无法形成受精卵,即为交配后合子前隔离。
不同族群间的杂交后代如果无法存活或不孕,称为合子后隔离。可以分为两大类:内在隔离和外在隔离。
内在隔离指来自不同族群的基因在杂交个体会透过上位作用(Epistasis)互相干扰,造成个体无法生常发育。多布然斯基-马勒基因不相容模型显示,两个族群间至少需要有两个基因座被置换成不同的等位基因,才能在杂交时让彼此未曾接触过的基因首次相遇,而发生合子后生殖隔离。霍尔登氏法则指出杂交后代如果主要只有一个性别死亡或不孕时,这个性别是异配性别(性染色体是XY、ZW或X0)。造成此现象的可能原因包括性染色体上的隐性基因在异型配子上会显现、或雄性(常常是异配性别)因为性择的影响演化比较快。
若后代可正常发育,但不适应环境,即为外在隔离。例如在只有黑色和白色的环境中,如果黑蛾和白蛾的后代是灰色,这些杂种灰蛾会特别容易被天敌发现。外在隔离常常是因分裂选择造成。