Этологический критерий.
Для некоторых видов животных механизмом, препятствующим скрещиванию и нивелированию различий между ними, являются особенности их поведения, особенно в брачный период. Узнавание партнера своего вида и отвергание попыток ухаживания самцов другого вида основаны на специфических раздражителях – зрительных, звуковых, химических, тактильных, механических и др. В широко распространенном роде пеночки разные виды очень похожи друг на друга морфологически, в природе их не различить ни по окраске, ни по размерам. Зато все они очень хорошо различаются по песне и по повадкам. Песня пеночки веснички сложная, похожа на песнь зяблика, только без его завершающего колена, а песня теньковки — простенькие монотонные посвисты. Зеленая пеночка – морзянка. Многочисленные виды-двойники американских светлячков из рода Photinus; были впервые опознаны лишь по различиям в их световых сигналах. Самцы светлячков в полете производят вспышки света, частота, продолжительность и чередуемость которых специфичны для каждого вида (в книге Д. Дьюсбери «Поведение животных», выпущенной издательством «Мир» в 1981 г., приводится рисунок со схемами полета и свечения девяти видов светлячков). Хорошо известно, что ряд видов прямокрылых и равнокрылых, обитающих в пределах одного биотопа и размножающихся синхронно, различаются лишь по характеру их призывных сигналов. Такие виды-двойники с акустической репродуктивной изоляцией обнаружены, н-р, у сверчков, кобылок-коньков, цикад и других насекомых. Два близких вида американских жаб (В. Americanus, В. Fowleri) не скрещиваются также из-за различий в зове самцов.
Решающую роль в репродуктивной изоляции часто играют различия в демонстративном поведении. Н-р, близкие виды мух дрозофил различаются спецификой ритуала ухаживания (по характеру вибрации крыльев, дрожания лапок, кружения, тактильных контактов). Два близких вида — серебристая чайка и клуша имеют различия в степени выраженности демонстративных поз, а семь видов ящериц рода Sceloporus различаются степенью поднятия головы при ухаживании половых партнеров.
Экологический критерий.
Особенности поведения подчас тесно связаны с экологической спецификой вида, н-р с особенностями устройства гнезда. Три вида наших обычных синиц гнездятся в дуплах лиственных деревьев, преимущественно берез. Большая синица на Урале выбирает обычно глубокое дупло в нижней части ствола березы или ольхи, образовавшееся в результате выгнивания сучка и смежной с ним древесины. Это дупло недоступно ни дятлам, ни воронам, ни хищным млекопитающим. Синица московка заселяет морозобойные трещины в стволах березы и ольхи. Гаичка же предпочитает строить дупло сама, выщипывая полости в трухлявых или старых стволах березы и ольхи, и без этой трудоемкой процедуры она не отложит яиц.
Особенности образа жизни, присущие каждому виду, определяют его положение его роль в биогеоценозе, т.е. его экологическую нишу. Даже самые близкие виды, как правило, занимают разные экониши, т.е. различаются хотя бы по одному-двум экологическим признакам. Так, экониши всех наших видов дятлов различаются по характеру питания. Большой пестрый дятел зимой питается семенами лиственницы и сосны, раздалбливая шишки в своих «кузницах», Черный дятел желна добывает личинок усачей и златок из-под коры и из древесины елей, а малый пестрый дятел долбит мягкую древесину ольхи либо добывает насекомых из стеблей травянистых растений. Каждый из 14 видов дарвиновых вьюрков (названных так в честь Ч. Дарвина, впервые обратившего на них внимание), обитающих на Галапагосских островах, имеет свою специфическую эконишу, отличающуюся от других, прежде всего характером корма и путями его добывания.
Ни экологический, ни рассмотренный выше этологический критерий не являются универсальными. Очень часто особи одного вида, но разных популяций отличаются целым рядом особенностей образа жизни или поведения. И напротив, разные виды, даже очень далекие, в систематическом отношении, могут иметь сходные этологические признаки или играть одинаковую роль в сообществе (н-р, роли травоядных млекопитающих и насекомых, скажем, таких, как саранча, вполне сопоставимы).