Ang Yemen ay ang pinagmulang lupain ng lahat ng mga Arabo na nasa Gitnang Silangan. Noong sinaunang panahon, ang Yemen ay isang mahalagang sentro ng kalakalan at kapangyarihan. Maraming mga kahariang makapangyarihan ang dating nasa Yemen, kabilang na ang mga Sabaean. Mahalaga rin ang Yemen sa pangangalakal ng mga pampalasa. Nakikilala ang Yemen ng sinaunang mga Romano bilang Arabia Felix ("Masayang Arabia") sa Latin dahil ang pook ay maganda at makapangyarihan.
Noong ika-8 dantaon, ang mga Yemeni ay kabilang sa mga unang sumali sa bagong relihiyong Islam. Magmula noon, ang mga Yemeni ay naging matibay na mga Muslim na naging nasa harapan ng lahat ng mga pananakop na isinagawa para sa Islam, at ang mga taga-Yemen ay dating naging mga pinuno ng Espanyang Islamiko sa loob ng mahigit sa 800 mga taon.
Sa kasalukuyan, ang Yemen ay mayroong 20 milyong katao. Karamihan sa kanila ay nagsasalita ng wikang Arabe.