Ab 1940 etabliert sich neben der Anthropologie die Genetik als Wissenschaft. Die Populationsgenetik kann Evolutionsprozesse von Völkern mathematisch beschreiben. In der Biologie entsteht daraufhin eine Debatte um die richtigen Definitionen von Rasse und Population.

Der traditionelle, typologische Rassenbegriff beschreibt Rassen als Menschengruppen, die sich durch sichtbare vererbte Merkmale wie Haarfarbe oder Schädelgröße auszeichnen. Gegen diesen brachten Anhänger der sogenannten „neuen Systematik“ den populationsgenetischen Rassenbegriff ins Spiel. Populationen sind demnach Unterabteilungen einer Art. Sie sind definiert als geographisch isolierte Gruppen, die jeweils einen gemeinsamen Genbestand aufweisen. Anstatt einen generalisierten Typ zu beschreiben, berücksichtigt die Populationsgenetik auch die Unterschiede innerhalb einer Population und Ähnlichkeiten zwischen den Populationen.

Die Vertreter der neuen Systematik waren ähnlich wie Boas ideologisch motiviert. Sie gingen von einer abstrakten, geographisch isolierten Population aus, in welcher sich alle Menschen zufällig miteinander fortpflanzen. Das ist unrealistisch. Fragen nach Rassenunterschieden sollten fortan aufgrund der gesellschaftlichen Brisanz besser unerforscht bleiben. Die Unterscheidung nach sichtbaren Phänotypen bilde bereits die Grundlage für Rassismus. In Folge konzentrierte sich die populationsgenetische Forschung auf nicht sichtbare Merkmale wie Blutgruppen. Solche Merkmale werden nur durch ein Gen bestimmt. Deshalb ist es leichter, ihre Vererbung mathematisch nachzuvollziehen. Sichtbare morphologische Merkmale liegen auf mehreren Genen.

Die biologische Realität von Rassen liegt in der Verbindung aus dem typologischen und dem populationsgenetischen Ansatz. Rassen sind Bevölkerungsgruppen, die sich durch erbliche Merkmale von anderen Gruppen unterscheiden. Innerhalb der Rassen kommt es zu Variationen und Abweichungen vom Phänotyp. Konstituierend für eine Rasse sind nicht einzelne Merkmale, sondern deren relative Häufung und charakteristische Kombination.

In der Nachkriegszeit wurde Rasse zu einem Tabuthema. Obwohl viele Anthropologen zumindest den populationsgenetischen Rassenbegriff beibehalten wollen, versuchten ideologisch motivierte Wissenschaftler, die Nichtexistenz von Rassen zu beweisen. Anfang 1960 behaupteten schließlich zahlreiche Veröffentlichungen, es gäbe gar keine Rassen. Merkmale würden nur an unterschiedlichen Orten verschieden häufig auftreten. Da es nicht immer abrupte Grenzen zwischen den Merkmalsverteilungen gibt, sei der Rassebegriff vollständig zu verwerfen. Linke Medien popularisieren in der Folge diese Forderung.

Eine wichtige Rolle bei der Rassenleugnung spielte der Biologe Richard Lewontin. 1962 versuchte er, den Anteil von Rassenunterschieden an den gesamten Merkmalsunterschieden der Menschheit zu berechnen. Er kam zu dem Ergebnis, dass innerhalb einer Population eine größere Variationsbreite bestehe als beim Vergleich der Unterschiede zweier Populationen. Demnach sei es möglich, dass sich zwei Menschen unterschiedlicher Rassen ähnlicher sind als zwei Individuen derselben Rasse.

Lewontins Methode war fehlerhaft. Als Berechnungsgrundlage diente ihm nur die Wahrscheinlichkeit des Auftretens einzelner Genabschnitte. Entscheidend für die Bestimmung von Rassen sind aber nicht alleinstehende Merkmale. Berücksichtigt man bereits die Kombination aus zwei Merkmalen, unterscheiden sich Individuen zweier Rassen deutlich stärker voneinander.

In der Biologie spricht man bei Tieren von Rassen, wenn man mindestens 75 % der Tiere einer Population aufgrund äußerlicher Merkmale dieser korrekt zuordnen kann. Diese Regel wird vom Menschen erfüllt. Selbst bei nur wenigen bekannten morphologischen Merkmalskombinationen kann man die ethnische Herkunft eines Menschen mit bloßem Auge erkennen. Moderne DNS-Analysen können die genetische Zugehörigkeit genauestens bestimmen.

Eine neuere statistische Methode der Populationsgenetik ist der Fixationsindex, kurz FST-Wert. Er gilt als Standardverfahren zur Bestimmung von Unterabteilungen einer Tierart. Er untersucht die Wahrscheinlichkeit der Vererbung bestimmter Genabschnitte und zieht als Berechnungsgrundlage die gesamte Art heran. Je höher der FST-Wert einer Art ausfällt, umso unterschiedlicher sind die Rassen dieser Art. Man geht davon aus, dass man ab einem Wert von 25 % von Rassen sprechen kann. Dadurch lassen sich Tierarten auch untereinander vergleichen.

1999 verglich ein Genetiker den FST-Wert des Menschen mit dem von verschiedenen Tierarten. In der Studie haben die meisten Säugetiere deutlich höhere Werte als der Mensch. Dieser bleibt unterhalb der 25 %-Grenze. Das Ergebnis ist aber irreführend. Die Studie vergleicht normale, körpereigene DNS vom Menschen mit der mitochondrialen DNS von Tieren. Die normale, auf den Chromosomen liegende DNS unterliegt weniger stark zufälligen Effekten wie Gendrift. Die FST-Werte des Menschen fallen deshalb automatisch niedriger aus. Zieht man beim Menschen ebenfalls die mitochondriale DNS als Berechnungsgrundlage heran, so wird die Grenze, ab welcher man von Rassen sprechen kann, weit überschritten.

Die niedrigen Werte für Populationsunterschiede liegen in der Mathematik und falschen Hypothesen des Fixationsindex begründet. In einer neueren Studie hat der Fixationsindex darin versagt, die Gene von Menschen und Schimpansen ihrer jeweiligen Spezies korrekt zuzuordnen. Der Fixationsindex und die Methode von Lewontin unterschlagen die Bedeutung der Merkmalskombination. Berücksichtigt man bereits zwei genetische Polymorphismen statt einem, so steigt die Wahrscheinlichkeit an, ein Individuum korrekt seiner Rasse zuzuordnen. Obwohl die Kritik mittlerweile von vielen führenden Biologen geteilt wird, gilt der FST-Wert noch immer als Beweis für die Nichtexistenz menschlicher Rassen.

In den letzten Jahrzehnten kam es zu wissenschaftlichen Durchbrüchen in der Genforschung. Mittlerweile ist es möglich, hunderttausende von einzelnen DNS-Polymorphismen gleichzeitig im Genom zu bestimmen. Je mehr Genmaterial untersucht wird, desto mehr bestätigt sich die Rassentypologie, die nur nach sichtbaren Merkmalen unterscheidet. Die genetische Gliederung der Menschheit entspricht zu großen Teilen der klassischen Unterscheidung in Großrassen. Schon ab etwa 100 berücksichtigten Genvarianten kann man ein Individuum einer der Großrassen aus Europiden, Negriden oder Mongoloiden zuordnen.

Die Ansicht, ein Mensch könne einem Angehörigen einer anderen Rasse ähnlicher sein als jemandem der eigenen Rasse, ist durch die moderne Genforschung widerlegt. Wird genug Genmaterial verglichen, kommt das nicht vor. 2002 konnten in einer Studie sechs genetische Cluster identifiziert werden, die weitestgehend der Verteilung der Hauptrassen entsprechen. Die Clustergliederung verweist auf graduelle Verteilungsmuster, die nicht immer geographisch abrupt begrenzt sind. Dennoch wird deutlich, dass traditionelle Rassenvorstellungen eine biologische Grundlage haben.

Die vielen verschiedenen Genvariationen innerhalb einer Rasse lassen sich dadurch erklären, dass die Forschung fast ausschließlich uncodierte Gene berücksichtigt. Uncodierte Gene unterliegen nicht der Selektion. Deshalb häufen sich im Laufe der Zeit hier immer mehr Mutationen an. Sichtbare Rassemerkmale wie Haut- oder Haarfarbe beruhen aber auf codierten Genen. Diese unterliegen der Selektion durch die Anpassung an den jeweiligen Lebensraum einer Population.

Rassen sind für unverbildete Menschen real und nicht fiktiv konstruiert. Forschung mit Kleinkindern zeigte, dass diese schon im Alter von drei Jahren Menschen aufgrund ihres äußeren Erscheinungsbildes zuordnen können. Auch der Blick auf alte Kulturen beweist, dass zum Beispiel schon die alten Ägypter einen Rassenbegriff kannten. Er ist keine neuzeitliche Erfindung von Europäern.