Qu'est-ce qu'une espèce ?

Depuis que l'humain existe, il voit des chiens faire des chiens et des chats faire des chats. Ses sens lui enseignent que le monde vivant est ordonné et que l’ordre engendre l’ordre. Le besoin immédiat de repères, pour des raisons pratiques comme pour des raisons métaphysiques, lui fait donner sa préférence à la perception d’un ordre apparent plutôt qu’au désordre pourtant perceptible. La principale contrainte pratique est qu’il lui faut bien parler de ce qu’il trouve dans la nature : il ne peut pas donner un prénom à chaque fleur, chaque mouche qu’il rencontre. Il lui faut bien inventer des catégories pour parler avec quelque degré de généralité de ce qui existe. La catégorisation est nécessaire à l’élaboration du langage.

En sciences naturelles, l’emboîtement des catégories réalise des classifications. Les catégories de niveau spécifique — l’espèce — y furent longtemps problématiques, parce qu’Aristote, Karl Linné ou Ernst Mayr considéraient les espèces comme réelles.

Charles Darwin, au contraire, ne figeait pas les êtres dans les boîtes dont nous avons besoin pour parler. Il appréhendait l’ampleur de la variation au sein des espèces. Il finit par se demander pourquoi, malgré toute cette variation, on ne trouve pas des êtres à mi-chemin entre les chats et les chiens (ou entre les éléphants et les rhinocéros, si l’on préfère des espèces sauvages). Qu’est-ce qui sépare les communautés de reproduction, ensembles d’individus qui peuvent se reproduire entre eux ? Il trouvera la réponse dans la sélection naturelle.

Si le milieu est stable, la sélection naturelle resserre à chaque génération la moyenne des individus autour du thème « éléphant » d’un côté, et autour du thème « rhinocéros » de l’autre. Autrement dit, les ressources étant limitées, une infinie variété de formes ne peut exister entre les deux. La sélection naturelle explique donc la ressemblance au sein du lignage (sur le court terme et en milieu stable), et la dissemblance entre lignages. Cette dissemblance entre lignages, une fois amorcée, s’amplifie. Le grand flux généalogique des individus peut se diviser longitudinalement en raison d’événements variés, engendrant des rameaux frères, dont chacun est constitué de populations d’individus se croisant entre eux.

S’ils sont maintenus séparés suffisamment longtemps, ces rameaux finissent par ne plus pouvoir se reproduire entre eux à nouveau. La raison en est que les changements subis par les individus de part et d’autre de l’obstacle ne sont pas les mêmes. En somme, dès qu’on cesse d’échanger, on diverge. Cela est vrai pour les populations, mais c’est vrai également de tout système complexe subissant des contingences historiques. Ce schéma général est valable quelle que soit la nature de l’obstacle empêchant les membres de chacun des deux rameaux de se croiser : il peut être géographique, mais aussi concerner des préférences écologiques, des variations saisonnières en un même site, ou des différences comportementales.

Dans ce cadre, qu'en est-il de l'espèce ? Dans L’Origine des espèces, en 1859, Darwin lui reconnaît son statut de catégorie conventionnelle :

Je regarde le terme espèce comme un terme que l’on emploie arbitrairement, par souci de commodité, pour désigner un ensemble d’individus se ressemblant étroitement entre eux, et qui ne diffère pas essentiellement du terme de variété, par lequel on désigne des formes moins distinctes et plus fluctuantes.

L’Origine des espèces de Charles Darwin, 1859

En acceptant de reconnaître la variation et de mesurer l’étendue de son ampleur, Darwin fait des espèces un effet poussé de la variété. En fait, dans la nature, il n’y a pas d’espèces, mais seulement des barrières à la reproduction, dont on se sert conventionnellement pour constituer des espèces dans nos têtes pour les besoins de notre langage. Regardons donc les choses en face : les espèces sont des catégories créées par nous ; et si la barrière reproductive est réelle, le contenant langagier, lui, est conventionnel.

Sur le plan théorique, une espèce est définie aujourd’hui comme un contenant, constitué d’un ensemble d’individus interféconds compris entre un point de rupture longitudinale de la généalogie et le point de rupture suivant. En d’autres termes, c’est un inter-nœud, un segment non divisé de l’arbre généalogique théorique de la vie, séparé des autres par interstérilité. Cette enveloppe est un cadre conventionnellement posé sur un flux de générations continu dans le temps.

Cette définition théorique, en vigueur depuis un quart de siècle, a l’avantage de prendre en compte l’épaisseur du temps. Au milieu du XX^e siècle, Ernst Mayr privilégiait une perception de l’espèce ici et maintenant, posture qui nourrissait l’illusion que les espèces sont réelles : en effet, ici et maintenant, les éléphants ne se croisent pas avec les rhinocéros. Mais si l’on considère aujourd’hui l’espèce comme étant un segment de généalogie, cela nous force à être lucides sur nos décisions nomenclaturales : sur le plan théorique, depuis les ancêtres communs aux rhinocéros et aux éléphants, il y a bien une généalogie continue au cours de laquelle il va falloir convenir d’une limite dans les appellations.

Sur le plan empirique cette fois-ci, il se pose à nous la question de savoir si, oui ou non, un individu concret est assignable à l’un de ces inter-nœuds, c’est-à-dire à une communauté de reproduction déjà identifiée. On utilise pour cela des critères de reconnaissance, autrement dit des critères pratiques d’assignation, par exemple l’interfécondité ou la ressemblance. On tend aujourd’hui à ne plus confondre ces critères avec la définition théorique de l’espèce, ce qu’on a trop longtemps fait, y compris à l’école.

Une systématique moderne cessera donc de confondre les contenant et les contenus. Dans la nature, il n’apparaît spontanément que des barrières à la reproduction, pas des espèces en tant que contenants. Ceux qui prétendent qu’on n’a jamais vu une espèce apparaître dans la nature assènent donc à la fois une vérité — les espèces n’apparaissent pas dans la nature puisque c’est nous qui les faisons — et une contre-vérité : on voit apparaître dans la nature des barrières à la reproduction, ce qui nous permet d’assigner des individus à ce que nous appelons une nouvelle espèce.

Extrait de l'ouvrage L'évolution, question d'actualité ? de Guillaume Lecointre, Éditions Quae, 2023