Η περιοχή γύρω από το Τζιμπουτί κατοικείται από τη νεολιθική περίοδο. Οι γλωσσολόγοι πιστεύουν ότι περίπου αυτή τη χρονική περίοδο, οι πρώτοι αφροασιάτικοι άνθρωποι μετανάστευσαν στην περιοχή από το υποτιθέμενο urheimat («αρχική πατρίδα») της οικογένειας στην κοιλάδα του Νείλου ή στην Εγγύς Ανατολή. Άλλοι πιστεύουν ότι η οικογένεια των Αφροασιατικών γλωσσών προέκυψε in situ στο Κέρας, με τους ανθρώπους να εξαπλώνονται από εκεί.
Στο Asa Koma, μια περιοχή λιμνών στην ενδοχώρα στην πεδιάδα Gobaad, ανακαλύφθηκε κεραμική που χρονολογείται από τα μέσα της δεύτερης χιλιετίας. Η κεραμική από την τοποθεσία διαθέτει γεωμετρικά μοτίβα με στίγματα και τομές που είναι συγκρίσιμα με τα κεραμικά της φάσης 1 της καλλιέργειας Sabir από τη Ma'layba στη Νότια Αραβία. Στο Asa Koma βρέθηκαν επίσης οστά αγελάδας με μακροκέρατα, κάτι που δείχνει ότι τα εξημερωμένα βοοειδή υπήρχαν πριν από περίπου 3,500 χρόνια. Στο Dorra και στο Balho, υπάρχει επιπλέον τέχνη βράχου που απεικονίζει αντιλόπες και μια καμηλοπάρδαλη.
Ένας αριθμός ανθρωπόμορφων και φαλλικών στήλες μπορεί επίσης να βρεθεί μεταξύ της πόλης του Τζιμπουτί και της Λογιάντα. Οι κατασκευές συνδέονται με ορθογώνιους τάφους που οριοθετούνται από κάθετες πλάκες, οι οποίοι έχουν επίσης ανακαλυφθεί στην κεντρική Αιθιοπία. Οι στήλες στο Τζιμπουτί-Λογιάντα είναι άγνωστης αρχαιότητας και μερικές από αυτές έχουν σημάδι σε σχήμα Τ.
Το Τζιμπουτί πιστεύεται ότι είναι η πιο πιθανή τοποθεσία της περιοχής που ήταν γνωστή στους Αρχαίους Αιγύπτιους ως Punt (ή Ta Netjeru, που σημαίνει «Γη του Θεού»), μαζί με τη βόρεια Σομαλία, την Ερυθραία και την ακτή της Ερυθράς Θάλασσας του Σουδάν. Η Γη του Πουντ αναφέρθηκε αρχικά τον 25ο αιώνα π.Χ. Οι Πουντίτες ήταν ένας λαός που είχε ισχυρούς δεσμούς με την Αρχαία Αίγυπτο υπό τη βασιλεία του Φαραώ Σαχούρε της Πέμπτης Δυναστείας και της Βασίλισσας Χατσεψούτ της Δέκατης όγδοης Δυναστείας. Ο βασιλιάς Parahu και η βασίλισσα Ati κυβερνούσαν τη Γη του Punt κατά τη διάρκεια της περιόδου, σύμφωνα με τις ζωγραφιές του ναού στο Deir el-Bahari.
Οι εθνοτικές ομάδες των Σομαλών και των Αφάρ στην περιοχή ήταν από τους πρώτους ανθρώπους στην ήπειρο που υιοθέτησαν το Ισλάμ μετά από εμπορικές συναλλαγές με τη γειτονική Αραβική Χερσόνησο για περισσότερα από 1,000 χρόνια.
Στο Κέρας της Αφρικής, το Σουλτανάτο Ιφάτ ήταν μια μεσαιωνική χώρα. Η δυναστεία Walashma το ίδρυσε το 1285 και είχε την έδρα της στη Zeila. Το Ifat ξεκίνησε τις επιχειρήσεις στο Τζιμπουτί και τη βόρεια Σομαλία και στη συνέχεια μετακινήθηκε νότια στα βουνά Αχμάρ. Το 1285, ο σουλτάνος της Umar Walashma (ή, σύμφωνα με μια άλλη αφήγηση, ο γιος του Ali) κατέλαβε το σουλτανάτο της Shewa. Η στρατιωτική αποστολή του σουλτάνου Ούμαρ, σύμφωνα με τον Taddesse Tamrat, ήταν μια προσπάθεια ενοποίησης των μουσουλμανικών εκμεταλλεύσεων στο Κέρας, παρόμοια με την προσπάθεια του αυτοκράτορα Yekuno Amlak να ενώσει τα χριστιανικά βασίλεια στα υψίπεδα ταυτόχρονα. Αυτές οι δύο πολιτείες συγκρούστηκαν τελικά για τη Shewa και άλλες νότιες περιοχές. Μια μακρά μάχη ξέσπασε, αν και τα μουσουλμανικά σουλτανάτα της περιόδου δεν ήταν καλά συντονισμένα. Το 1332, ο αυτοκράτορας Amda Seyon I της Αιθιοπίας κατέστρεψε το Ifat και υποχώρησε από τη Shewa.
Η περιοχή βόρεια του κόλπου της Tadjoura ήταν γνωστή ως Obock από το 1862 έως το 1894 και διοικούνταν από Σομαλούς και Σουλτάνους Αφάρ, τοπικούς ηγεμόνες με τους οποίους η Γαλλία διαπραγματεύτηκε διάφορες συνθήκες μεταξύ 1883 και 1887 για να εδραιώσει την παρουσία της στην περιοχή. Ο Λεονσέ Λαγκάρντ ίδρυσε μια μόνιμη γαλλική κυβέρνηση στο Τζιμπουτί το 1894, μετονομάζοντας την περιοχή Γαλλική Σομαλιλάνδη. Διήρκεσε από το 1896 έως το 1967, όταν ιδρύθηκε το Territoire Français des Afars et des Issas (TFAI) («Γαλλική Επικράτεια των Αφάρ και των Ισσών»).
Το Τζιμπουτί διεξήγαγε δημοψήφισμα το 1958, την παραμονή της ανεξαρτησίας της γειτονικής Σομαλίας το 1960, για να αποφασίσει αν θα ενταχθεί στη Δημοκρατία της Σομαλίας ή θα παραμείνει στη Γαλλία. Το δημοψήφισμα κατέληξε σε ψήφο υπέρ της μεγάλης εθνικής κοινότητας των Αφάρ καθώς και των κατοίκων της Ευρώπης, υποδεικνύοντας ότι η σχέση της χώρας με τη Γαλλία πρέπει να διατηρηθεί. Διατυπώθηκαν επίσης ισχυρισμοί για μαζική χειραγώγηση της ψήφου. Το μεγαλύτερο μέρος όσων ψήφισαν όχι ήταν Σομαλοί που υποστήριξαν τον Μαχμούντ Χαρμπί, Αντιπρόεδρο του Κυβερνητικού Συμβουλίου, στην πρότασή του για μια ενωμένη Σομαλία. Ο Χαρμπί πέθανε δύο χρόνια αργότερα σε αεροπορικό δυστύχημα.
Ένα δεύτερο δημοψήφισμα διεξήχθη το 1967 για να αποφασιστεί το μέλλον της περιοχής. Τα προκαταρκτικά ευρήματα έδειξαν ότι η σύνδεση με τη Γαλλία θα πρέπει να διατηρηθεί, αν και με πιο χαλαρή πρόσφυση. Η ψηφοφορία χωρίστηκε επίσης σε εθνοτικές γραμμές, με την πλειοψηφία των κατοίκων της Σομαλίας να ψηφίζουν υπέρ της ανεξαρτησίας με στόχο την τελική ενοποίηση με τη Σομαλία, ενώ οι Αφάρ επέλεξαν να παραμείνουν με τη Γαλλία. Το δημοψήφισμα μαστίστηκε για άλλη μια φορά από καταγγελίες για χειραγώγηση ψήφων από τη γαλλική κυβέρνηση. Η πρώην Côte française des Somalis (Γαλλική Somaliland) μετονομάστηκε σε Territoire français des Afars et des Issas λίγο μετά την ψηφοφορία.
Ένα τρίτο δημοψήφισμα διεξήχθη το 1977. Η αποδέσμευση από τη Γαλλία εγκρίθηκε από το συντριπτικό 98.8% των ψηφοφόρων, σηματοδοτώντας επίσημα την ανεξαρτησία του Τζιμπουτί. Ο Hassan Gouled Aptidon, ένας Σομαλός πολιτικός που υποστήριξε το ναι στο δημοψήφισμα του 1958, έγινε ο πρώτος πρόεδρος της χώρας (1977–1999).
Το Τζιμπουτί εντάχθηκε στον Οργανισμό Αφρικανικής Ενότητας (τώρα Αφρικανική Ένωση), στον Αραβικό Σύνδεσμο και στα Ηνωμένα Έθνη τον πρώτο χρόνο λειτουργίας του. Η νεοσύστατη χώρα ήταν επίσης ιδρυτικό μέλος της Διακυβερνητικής Αρχής για την Ανάπτυξη, ενός οργανισμού περιφερειακής ανάπτυξης, το 1986.
Οι εντάσεις σχετικά με την εκπροσώπηση της κυβέρνησης μεταξύ του κυβερνώντος Λαϊκού Συσπείρωσης για την Πρόοδο (PRP) του Τζιμπουτί και του αντιπολιτευόμενου Μετώπου για την Αποκατάσταση της Ενότητας και της Δημοκρατίας (FRUD) οδήγησαν σε βίαιο πόλεμο στις αρχές της δεκαετίας του 1990. Το 2000, το αδιέξοδο έσπασε με μια συμφωνία κατανομής της εξουσίας.