Регионът около Джибути е бил населен още от неолита. Лингвистите смятат, че около този период от време първите хора, говорещи афроазиатски език, са мигрирали в района от предполагаемия urheimat („първоначална родина“) на семейството в долината на Нил или Близкия изток. Други смятат, че афроазиатското езиково семейство е възникнало in situ в Рога, като хората се разпространяват оттам.
В Аса Кома, вътрешен езерен регион в равнината Гобаад, е открита керамика, датираща от средата на второто хилядолетие. Керамиката от обекта включва точковидни и врязани геометрични модели, които са сравними с керамиката от фаза 1 на културата Сабир от Малайба в Южна Арабия. Кости от крава с дълги рога без гърбици също са открити в Аса Кома, което показва, че домашният добитък е съществувал преди около 3,500 години. В Дора и Балхо има допълнително скално изкуство, изобразяващо антилопи и жираф.
Редица антропоморфни и фалически стели могат да бъдат открити между град Джибути и Лояда. Конструкциите са свързани с правоъгълни гробници, оградени с вертикални плочи, които също са открити в централна Етиопия. Стелите в Джибути-Лояда са с неизвестна древност, а някои от тях имат Т-образен знак.
Смята се, че Джибути е най-вероятното място в региона, известен на древните египтяни като Пунт (или Ta Netjeru, което означава „Божията земя“), заедно със Северна Сомалия, Еритрея и Суданското крайбрежие на Червено море. Земята Пунт първоначално се споменава през 25 век пр.н.е. Пунтите бяха народ, който имаше силни връзки с Древен Египет при царуването на фараона Сахуре от Петата династия и кралица Хатшепсут от Осемнадесета династия. Според храмовите рисунки в Дейр ел-Бахари крал Параху и кралица Ати са управлявали страната Пунт през този период.
Сомалийските и афарските етнически групи в района са сред първите хора на континента, приели исляма, след като са търгували със съседния Арабски полуостров повече от 1,000 години.
В Африканския рог Султанатът Ифат е средновековна страна. Династията Валашма го основава през 1285 г. и е със седалище в Зейла. Ифат започва операции в Джибути и Северна Сомалия, след което се премества на юг към планините Ахмар. През 1285 г. неговият султан Умар Валашма (или, според друго сведение, синът му Али) превзема султаната Шева. Военната експедиция на султан Умар, според Тадес Тамрат, е опит за обединяване на мюсюлманските владения в Рога, подобно на стремежа на император Йекуно Амлак да обедини християнските кралства във високопланинските райони по същото време. Тези две държави в крайна сметка се сблъскаха за Шева и други южни региони. Избухна дълга битка, въпреки че мюсюлманските султанати от този период не бяха добре координирани. През 1332 г. императорът Амда Сейон I от Етиопия унищожава Ифат и той се оттегля от Шева.
Районът на север от залива Таджура е известен като Обок от 1862 до 1894 г. и се управлява от сомалийски и афарски султани, местни владетели, с които Франция договори няколко договора между 1883 и 1887 г. за установяване на присъствие в региона. Леонс Лагард създава постоянно френско правителство в Джибути през 1894 г., преименувайки територията на Френски Сомалиленд. Продължава от 1896 до 1967 г., когато е създадена Territoire Français des Afars et des Issas (TFAI) („Френска територия на афарите и исите“).
Джибути проведе референдум през 1958 г., в навечерието на независимостта на съседна Сомалия през 1960 г., за да определи дали да се присъедини към републиката Сомалия или да остане с Франция. Референдумът доведе до гласуване "за" от голямата етническа общност на афарите, както и от местните европейци, което показва, че отношенията на страната с Франция трябва да се запазят. Бяха направени и твърдения за масови манипулации на вота. По-голямата част от тези, които гласуваха против, бяха сомалийци, които подкрепиха Махмуд Харби, вицепрезидент на правителствения съвет, в предложението му за обединена Сомалия. Харби загина две години по-късно при самолетна катастрофа.
През 1967 г. е проведен втори референдум, за да се реши бъдещето на района. Предварителните констатации показват, че връзката с Франция трябва да се запази, макар и с по-хлабава хватка. Гласуването също беше разделено по етнически признак, като мнозинството от местните сомалийци гласуваха за независимост с цел окончателно обединение със Сомалия, докато афарите избраха да останат с Франция. Референдумът отново беше поразен от обвинения за манипулиране на вота от френското правителство. Бившият Côte française des Somalis (френски Сомалиленд) беше преименуван на Territoire français des Afars et des Issas малко след гласуването.
Трети референдум се провежда през 1977 г. Отделянето от Франция е одобрено от категорично 98.8% от избирателите, което официално отбелязва независимостта на Джибути. Хасан Гулед Аптидон, сомалийски политик, който се застъпи за гласуване "за" на референдума през 1958 г., стана първият президент на страната (1977-1999).
Джибути се присъедини към Организацията на африканското единство (сега Африканския съюз), Арабската лига и Организацията на обединените нации през първата си година. Новата страна беше и член-основател на Междуправителствения орган за развитие, организация за регионално развитие, през 1986 г.
Напрежението около правителственото представителство между управляващия в Джибути Народен митинг за прогрес (PRP) и опозиционния Фронт за възстановяване на единството и демокрацията (FRUD) доведе до насилствена война в началото на 1990-те години. През 2000 г. патовата ситуация беше прекъсната от споразумение за споделяне на властта.