La regione intorno a Gibuti è stata popolata sin dal periodo neolitico. I linguisti ritengono che in questo periodo le prime persone di lingua afroasiatica siano emigrate nell'area dalla presunta famiglia urheimat ("patria originaria") nella Valle del Nilo o nel Vicino Oriente. Altri credono che la famiglia linguistica afroasiatica sia nata in situ nel Corno, con persone che si sono diffuse da lì.
Ad Asa Koma, una regione lacustre interna della pianura di Gobaad, sono state scoperte ceramiche risalenti alla metà del secondo millennio. La ceramica del sito presenta motivi geometrici punteggiati e incisi che sono paragonabili alle ceramiche di fase 1 della cultura Sabir di Ma'layba nell'Arabia meridionale. Ad Asa Koma sono state trovate anche ossa di vacca senza gobba dalle lunghe corna, indicando che il bestiame domestico esisteva circa 3,500 anni fa. A Dorra e Balho, c'è un'ulteriore arte rupestre raffigurante antilopi e una giraffa.
Un certo numero di stele antropomorfe e falliche si possono trovare anche tra la città di Gibuti e Loyada. Le costruzioni sono legate a tombe rettangolari delimitate da lastroni verticali, scoperte anche nell'Etiopia centrale. Le stele di Gibuti-Loyada sono di antichità sconosciuta e alcune di esse hanno un segno a forma di T.
Si pensa che Gibuti sia il sito più probabile della regione conosciuta dagli antichi egizi come Punt (o Ta Netjeru, che significa "Terra di Dio"), insieme alla Somalia settentrionale, all'Eritrea e alla costa del Mar Rosso del Sudan. La Terra di Punt è stata originariamente menzionata nel 25° secolo aC. I Puntiti erano un popolo che aveva forti legami con l'antico Egitto sotto i regni del faraone Sahure della quinta dinastia e della regina Hatshepsut della diciottesima dinastia. Il re Parahu e la regina Ati governarono la Terra di Punt durante il periodo, secondo i dipinti del tempio di Deir el-Bahari.
I gruppi etnici somali e afar nell'area furono tra le prime persone nel continente ad adottare l'Islam dopo aver commerciato con la vicina penisola arabica per più di 1,000 anni.
Nel Corno d'Africa, il Sultanato di Ifat era un paese medievale. La dinastia Walashma la fondò nel 1285 e aveva sede a Zeila. Ifat iniziò le operazioni a Gibuti e nella Somalia settentrionale, quindi si spostò a sud sui monti Ahmar. Nel 1285, il suo sultano Umar Walashma (o, secondo un altro racconto, suo figlio Ali) catturò il Sultanato di Shewa. La spedizione militare del sultano Umar, secondo Taddesse Tamrat, fu un tentativo di unificare i possedimenti musulmani nel Corno, simile allo sforzo dell'imperatore Yekuno Amlak di unire i regni cristiani negli altopiani allo stesso tempo. Questi due stati alla fine si scontrarono su Shewa e altre regioni meridionali. Scoppiò una lunga battaglia, sebbene i sultanati musulmani dell'epoca non fossero ben coordinati. Nel 1332, l'imperatore Amda Seyon I d'Etiopia distrusse Ifat e si ritirò da Shewa.
L'area a nord del Golfo di Tadjoura era conosciuta come Obock dal 1862 al 1894 ed era governata dai sultani somali e afar, governanti locali con i quali la Francia negoziò diversi trattati tra il 1883 e il 1887 per stabilire una presenza nella regione. Léonce Lagarde stabilì un governo francese permanente a Gibuti nel 1894, ribattezzando il territorio Somaliland francese. Durò dal 1896 fino al 1967, quando fu istituito il Territoire Français des Afars et des Issas (TFAI) ("Territorio francese degli Afar e degli Issas").
Gibuti ha condotto un referendum nel 1958, alla vigilia dell'indipendenza della vicina Somalia nel 1960, per determinare se aderire alla Repubblica somala o rimanere con la Francia. Il referendum ha avuto come risultato un sì da parte della vasta comunità etnica Afar e degli europei residenti, indicando che le relazioni del Paese con la Francia dovrebbero essere mantenute. Sono state anche avanzate accuse di massiccia manipolazione del voto. La maggior parte di coloro che hanno votato no erano somali che hanno sostenuto Mahmoud Harbi, il vicepresidente del Consiglio di governo, nella sua proposta per una Somalia unificata. Harbi morì due anni dopo in un incidente aereo.
Un secondo referendum fu condotto nel 1967 per decidere il futuro dell'area. I risultati preliminari indicavano che il collegamento con la Francia doveva essere mantenuto, anche se con una presa più ampia. Il voto è stato diviso anche su basi etniche, con la maggioranza dei somali residenti che ha votato per l'indipendenza con l'obiettivo della definitiva unificazione con la Somalia, mentre gli Afar hanno scelto di rimanere con la Francia. Il referendum è stato ancora una volta afflitto da accuse di manipolazione del voto da parte del governo francese. L'ex Côte française des Somalis (Somaliland francese) è stata ribattezzata Territoire français des Afars et des Issas poco dopo il voto.
Un terzo referendum si è tenuto nel 1977. Il disimpegno dalla Francia è stato approvato da una valanga di voti del 98.8% degli elettori, segnando formalmente l'indipendenza di Gibuti. Hassan Gouled Aptidon, un politico somalo che sostenne un sì nel referendum del 1958, divenne il primo presidente del paese (1977–1999).
Gibuti è entrato a far parte dell'Organizzazione per l'Unità Africana (ora Unione Africana), della Lega Araba e delle Nazioni Unite nel suo primo anno. Il paese nascente è stato anche membro fondatore dell'Autorità intergovernativa per lo sviluppo, un'organizzazione di sviluppo regionale, nel 1986.
Le tensioni sulla rappresentanza del governo tra il People's Rally for Progress (PRP) al governo di Gibuti e il Fronte di opposizione per il ripristino dell'unità e della democrazia (FRUD) hanno portato a una guerra violenta all'inizio degli anni '1990. Nel 2000, la situazione di stallo è stata rotta da un accordo di condivisione del potere.