Desde la independencia, la población ha sido casi enteramente árabe. Sin embargo, existen concentraciones afroárabes en los lugares costeros occidentales, asiáticos del sur en las regiones del sur y pequeñas comunidades europeas en las principales áreas metropolitanas. Muchos etnólogos sostienen que la población «árabe» más pura se encuentra en Yemen. Clasificados como semitas joktánicos, los yemeníes afirman ser descendientes de Himyar, bisnieto de Joktan, quien, según el libro del Génesis, era descendiente de Shem, el hijo de Noah. Los yemeníes eran prominentes en los primeros ejércitos del Islam y, por lo tanto, ayudaron a arabizar gran parte del Medio Oriente. La historia de los judíos yemenitas precede por siglos a la Hijra islámica (622 a. C.), no se ha determinado cómo llegaron a establecerse en la región.