Het wordt in het noorden begrensd door Saoedi-Arabië, in het westen door de Rode Zee, in het zuiden door de Golf van Aden en de Arabische Zee, en in het oosten en noordoosten door Oman. Hoewel Sana'a de officieel uitgeroepen hoofdstad van Jemen is, staat de stad sinds februari 2015 onder rebellencontrole. Als gevolg daarvan is de hoofdstad van Jemen tijdelijk verplaatst naar Aden, een havenstad aan de zuidkust van het land. Het grondgebied van Jemen bestaat uit ongeveer 200 eilanden, waarvan Socotra de grootste is.
Jemen was de thuisbasis van de Sabaeërs (bijbelse Sheba), een handelsstaat die meer dan duizend jaar duurde en waarschijnlijk delen van het huidige Ethiopië en Eritrea omvatte. Het gebied werd in 275 na Christus geregeerd door het latere, door joden beïnvloede Himyaritische koninkrijk. Het christendom kwam in de vierde eeuw, toen het jodendom en het lokale heidendom zich al hadden gevestigd. In de zevende eeuw breidde de islam zich snel uit en Jemenitische soldaten speelden een belangrijke rol in de vroege islamitische veroveringen. De regering van Jemen is lange tijd notoir hard geweest.
Van de negende tot de zestiende eeuw ontstonden er vele dynastieën, waarvan de Rasulid-dynastie de machtigste en rijkste was. In het begin van de twintigste eeuw werd de natie verdeeld tussen het Ottomaanse en Britse rijk. Vóór de vorming van de Jemenitische Arabische Republiek in 1962, werd het Zaydi Mutawakkilite Koninkrijk Jemen gesticht in Noord-Jemen na de Eerste Wereldoorlog. Tot 1967 was Zuid-Jemen een Brits protectoraat dat bekend staat als het Aden-protectoraat. In 1990 fuseerden de twee Jemenitische staten tot het huidige land Jemen.
Jemen is een ontwikkelingsland en het armste land van het Midden-Oosten. Jemen werd gekenmerkt als een kleptocratie onder het bewind van president Ali Abdullah Saleh. Jemen beoordeelde 164 van de 182 landen die werden ondervraagd in de 2009 International Corruption Perception Index van Transparency International. Bij gebrek aan sterke staatsinstellingen vormde de elitepolitiek van Jemen een de facto soort samenwerkend bestuur, waarin tegenstrijdige tribale, regionale, religieuze en politieke belangen overeenkwamen elkaar in toom te houden door stilzwijgende aanvaarding van het evenwicht dat het genereerde. Een overeenkomst voor het delen van de macht tussen drie mannen hield de informele politieke regeling bij elkaar: president Ali Abdullah Saleh, die de staat controleerde; Generaal-majoor Ali Mohsen al-Ahmar, die de meerderheid van de strijdkrachten van de Republiek Jemen controleerde; en Abdullah ibn Husayn al-Ahmar, boegbeeld van de islamistische Islah-partij en de uitverkoren bemiddelaar van transnationale patronagebetalingen in Saoedi-Arabië. De Saoedische fondsen werden gemaakt om de onafhankelijkheid van de stammen van de Jemenitische regering te bevorderen en om de Saoedische regering een vehikel te geven om invloed uit te oefenen op de politieke besluitvorming van Jemen.
Jemen verkeert sinds 2011 in een politieke crisis, te beginnen met openbare demonstraties over armoede, werkloosheid en corruptie, evenals het voornemen van president Saleh om de grondwet van Jemen te wijzigen en de presidentiële termijnlimiet af te schaffen, waardoor hij president voor het leven wordt. President Saleh trad af en het ambt werd overgedragen aan vice-president Abd Rabbuh Mansur Hadi, die op 21 februari 2012 officieel tot president werd gekozen in een eenmansverkiezing. Conflicten tussen de Houthi's en al-Islah, evenals de al-Qaeda opstand, belemmerde het overgangsproces.
De Houthi's namen Sana'a in september 2014 in beslag en gaven zichzelf vervolgens de leiding over de regering in een staatsgreep. Sindsdien heeft een door Saudi-Arabië geleide interventie plaatsgevonden, maar deze heeft geen einde kunnen maken aan het burgerconflict.