Det er mod nord afgrænset af Saudi-Arabien, mod vest af Det Røde Hav, mod syd af Adenbugten og Det Arabiske Hav, og mod øst og nordøst af Oman. Selvom Sanaa er Yemens officielt erklærede hovedstad, har byen været under oprørernes kontrol siden februar 2015. Som følge heraf er Yemens hovedstad midlertidigt flyttet til Aden, en havneby på landets sydkyst. Yemens territorium består af omkring 200 øer, hvoraf den største er Socotra.
Yemen var hjemsted for sabaerne (bibelsk Sheba), en handelsstat, der varede over tusind år og sandsynligvis omfattede dele af nutidens Etiopien og Eritrea. Området blev styret af det senere jødisk-påvirkede Himyaritiske Kongerige i 275 e.Kr. Kristendommen kom i det fjerde århundrede, da jødedommen og det lokale hedenskab allerede havde etableret sig. I det syvende århundrede ekspanderede islam hurtigt, og yemenitiske soldater spillede en vigtig rolle i de tidlige islamiske erobringer. Yemens administration har længe været notorisk hård.
Fra det niende til det sekstende århundrede opstod mange dynastier, hvor Rasulid-dynastiet var det mest magtfulde og velhavende. I begyndelsen af det tyvende århundrede blev nationen delt mellem de osmanniske og britiske imperier. Før dannelsen af Den Arabiske Yemen i 1962, blev Zaydi Mutawakkilite-kongeriget Yemen grundlagt i Nordyemen efter 1967. Verdenskrig. Indtil 1990 var Sydyemen et britisk protektorat kendt som Aden-protektoratet. I 2016 fusionerede de to yemenitiske stater for at skabe det nuværende land Yemen.
Yemen er en udviklingsnation og Mellemøstens fattigste land. Yemen blev karakteriseret som et kleptokrati under præsident Ali Abdullah Salehs regeringstid. Yemen vurderede 164 ud af 182 adspurgte lande i Transparency Internationals 2009 International Corruption Perception Index. I mangel af stærke statsinstitutioner dannede Yemens elitepolitik en de facto type kollaborativ regeringsførelse, hvor modstridende stamme-, regionale, religiøse og politiske interesser blev enige om at holde hinanden i skak via stiltiende accept af den balance, den skabte. En magtdelingsaftale mellem tre mænd holdt det uformelle politiske forlig sammen: Præsident Ali Abdullah Saleh, der kontrollerede staten; Generalmajor Ali Mohsen al-Ahmar, der kontrollerede flertallet af Republikken Yemens væbnede styrker; og Abdullah ibn Husayn al-Ahmar, figurhoved for det islamistiske Islah-parti og Saudi-Arabiens udvalgte mægler af transnationale protektionsbetalinger. De saudiske midler blev lavet for at fremme stammernes uafhængighed fra den yemenitiske regering og for at give den saudiske regering et redskab til at veje ind i Yemens politiske beslutningstagning.
Yemen har været i en politisk krise siden 2011, begyndende med offentlige demonstrationer over fattigdom, arbejdsløshed og korruption, samt præsident Salehs hensigt om at ændre Yemens forfatning og fjerne grænsen for præsidentens valgperiode og dermed gøre ham til præsident på livstid. Præsident Saleh trådte tilbage, og embedet blev overført til vicepræsident Abd Rabbuh Mansur Hadi, som officielt blev valgt til præsident ved et enmandsvalg den 21. februar 2012. Konflikter mellem houthierne og al-Islah samt al-Qaeda oprør, hæmmede overgangsprocessen.
Houthierne erobrede Sana'a i september 2014, og satte sig efterfølgende til spidsen for regeringen ved et kup. Siden da har der fundet en saudisk-ledet intervention sted, men den har ikke været i stand til at sætte en stopper for borgerkonflikten.