Kr. e. 3. évezredben a mai Berlin helyén már földműveléssel és állattenyésztéssel foglalkoztak. Kr. e. 6. században érkeztek a vidékre a germánok. A 4. és 5. században a germánok a Felső-Rajnához vándoroltak, amelyet később Svábföldnek neveztek el. A 6. században érkeztek erre a helyre a szlávok. A szláv időszaknak 1157-ben vége lett, mikor megalapították Brandenburgot, az első falut a Teltow területen építették fel.
Berlin a 13. század elején kereskedővárosként jött létre, több fontos kereskedelmi út haladt át rajta. Berlin neve 1244-ben fordul elő legelőször oklevelekben, a Spree szomszédos szigetére épült másik telep neve (Colonia) már 1238-ban. 1225 és 1233 között mindkét település megkapta a brandenburgi jogot. Berlinben épült fel a két település közös városháza 1307-ben és ekkor egyesült a két település. Berlin név a szláv berl (mocsár, láp) szóból származik.
1448-ban fellázadtak a berliniek, de II. Frigyes fejedelem több szabadságot biztosított a városnak, így a polgárok letették a fegyvert. 1451-ben a város ismét főváros lett, azonban le kellett mondania a szabad hanzavárosi címéről.
1544-ben a város pénzzel váltotta vissza II. Frigyestől a korábban elvett bíráskodási jogot. 1613-ban János Zsigmond református hitre tért, ez fellázadásra adott okot. A harmincéves háborúban a gyenge falakkal körülvett városnak pénzen kellett magát a svédek támadásaitól megváltania. Lakossága akkor 10 000 főre növekedett. Frigyes Vilmos fejedelem Berlin felvirágzása idején komoly elismeréseket szerzett. Csökkentette az adót, megerősítette, átalakította a Friedrichswerder és Dorothea-városrészeket, és menedékhelyet nyitott a szárnyai alá menekülő waldenseknek, hugenottáknak és németalföldi reformátusoknak. 1671-ben 50 ausztriai zsidó családnak engedélyezte a letelepedést. 1685-ben kb. 6000 hugenotta telepedett le a városban. 1700-ra a város mintegy 20%-a francia volt.
1701-től, a Porosz Királyság megalakulásától Poroszország fővárosa lett Berlin. A harmincéves háborúban majd a hétéves háborúban megszállták az orosz, illetve az osztrák csapatok, 1807-ben pedig Bonaparte Napóleon francia katonái. A bajor, de különösen a luxemburgi házból való fejedelmek alatt a város fejlődése lendületet kapott. I. Frigyes alapította a Friedrich-városrészt, a Zeughaust és számos tudóst, művészt hívott meg udvarába, valószinüleg ettől lett Berlin a tudomány és művészet központja. 1699-ben és 1700-ban elindította a szépművészetek és tudományok akadémiájának építését. I. Frigyes Vilmos leromboltatta a várfalakat, az őrséget ellenben 14 265 főre emelte, míg a lakosság fennmaradó része 58 800 fő volt. II. Frigyes számos külföldi iparost telepített Berlinbe, az akkori állatkertet gyönyörű parkká alakította át. A hétéves háború elején, 1757-ben Hadik András által vezérelt hadjárat alatt magyarok támadták a várost, 1760-ban pedig az oroszok. Míg 1707-ben csak 55 000 lakosa volt a városnak, 1800-ban azok száma már 172 132-re emelkedett. 1806 októberében a franciák szállták meg Berlint.
A napóleoni háborúk után Berlin a haladni kezdett építkezések és életképesség megteremtésigel egyaránt. III. Frigyes Vilmos megalapította az egyetemet (1809), amelyhez elsőrangú tudósokat nevezett ki és az ő parancsára építette Schinkel a régi múzeumot.  1838-ban építtette meg az első Berlini vasutat. 1934-ben a nemzetiszocialisták átalakították a közigazgatást, ekkor megszűnt Poroszország, és létrejött Berlin körzet. A háború előtt és alatt Adolf Hitler és építésze, Albert Speer elkészítették a Berlin helyén felépülő új főváros, Germania terveit.
A második világháború alatt összesen kb. 450.000 tonna bombát dobtak a városra, melyek súlyos károkat okozotak. A 1945-ben Zsukov és Konyev marsall csapatai  bekerítő hadművelettel körülzárták a várost – döntően azért, hogy a szövetségesek ne férhessenek hozzá, majd több hetes ostrom után május 2-án elfoglalták. A harcok alatt a város nagy része megsemmisült, közel 1,5 millió lakos vált hajléktalanná. 1945 júniusától kezdve a város négyhatalmi megszállás alatt állt. A Német Szövetségi Köztársaság megalakulása (1949) után az amerikai, brit és francia szektorokból alakult meg Nyugat-Berlin. Míg az újonnan alakult Német Szövetségi Köztársaság az ideiglenességet hangsúlyozandó nem egy nagyvárost, hanem egy kis fürdővárost, Bonnt tette fővárosává, a szovjet megszállási szektor a Német Demokratikus Köztársaság fővárosa lett. A rossz ellátás, a nehezedő munkakörülmények eredményeként a város keleti részében, a szovjet megszállási övezetben, a Karl-Marx-Alleet építő munkások indították útnak a keleti blokk első nagyobb szovjetellenes, illetve antikommunista felkelése 1953. június 17-én. A megmozdulásra válaszul a szovjetek harckocsikat vezényeltek Kelet-Berlin utcáira, majd géppuskákkal lőttek a tömegbe. Az NDK által 1961. augusztus 13-ától létesített Berlini Fal illetve elválasztó zóna a hidegháború egyik szimbólumává vált. Az NDK szigorú határellenőrzést tartott fenn. A Kelet-Berlinből a nyugati városrészbe való átszökési kísérletek megakadályozása számos halálos áldozatot követelt, a határőröknek az NDK törvényei értelmében tűzparancsuk volt. Az 1970-es évek elején terroristák fenyegették a város nyugati részét. 1974. november 10-én a Törvényszék vezetőjét, Günter von Drenkmann-t megölték és 1975-ben a berlini CDU elnökét, Peter Lorenz-t elrabolták. A 70-es évek végén megnövekedett Nyugat-Berlinben az illegális házfoglalások száma. 1981 júliusában érte el a tetőpontját. 1984 novemberéig a legtöbben megvették, bérelték a lakásokat, így legálissá vált tartózkodásuk. 1980 decemberében azonban néhány házfoglalóhoz rendőröket hívtak.
A két német állam egyesítésével a megosztottság megszűnt. 1990. december 2-án szabad választásokat tartottak. Berlin 1991 óta Németország fővárosa.