Khazad-dúmot Durin alapította, amikor "a világ még fiatal volt, s zöldek a hegyek". Ez volt a legnagyobb a törpök ősi csarnokai közül. Ezer évig volt az északi világ legnagyobb csodája. Durin népe az Első- és Másodkor során a déli Ködhegység három csúcsát vette birtokba, hogy alattuk lakjon, bányásszon és építkezzen: Barazinbart (Caradhras, más néven Vörösfok), Zirak-zigilt (Celebdil, vagy Ezüstfok), és Bundushathurt (Fanuidhol, vagy Felhősfő). Csarnokaik a Feketepatak völgyétől, az eredeti településtől a Ködhegység keleti oldalán a hegyek alatt átnyúlva egészen Eregion határáig húzódtak. Ennek eredményeképpen egy hatalmas föld alatti város alakult ki, mely 40 mérföld széles, és több mint 70 mérföld hosszú volt, és sok-sok emelet mély, ahol az utcákat folyosók, a házakat és szobákat kamrák, és a parkokat barlangok helyettesítették.
Bár a tündék Móriának, "Fekete Gödörnek" nevezték el Khazad-dúmot, valójában megtöltötte a törp lámpások fénye és a dolgos törpök munkájának zaja. Csodái közé tartozott Durin Hídja - egy keskeny palló, mely a Keleti Kapu közvetlen közelében vezetett át egy irdatlan szakadékon -, és a Végtelen Lépcső, amely a legmélyebb tömlöctől a Zirak-zigil üreges csúcsában, Durin Tornyában levő kilátóig kanyargott fel.
S természetesen se szeri, se száma nem volt a lakótermeknek, műhelyeknek, raktáraknak, kovácsműhelyeknek, kiállítótermeknek, könyvtáraknak, irattáraknak, emlékműveknek, királyi síroknak, állami csarnokoknak, kincstáraknak, tárnáknak, őrszobáknak, kutaknak és lépcsőknek.
Khazad-dúmot 5000 évig töretlenül lakták, s a csarnokok még a régi világ felfordulását is átvészelték az ELsőkor végén, és a Sötét Éveket is, amikor Szauron gyakorlatilag Középfölde egész nyugati hányadát lerohanta a Másodkor folyamán. Khazad-dúm végül belűlről pusztúlt el, amikor a törpök túl mélyre túrtak a mithril-érc, hatalmuk és gazdagságuk gyökere után.
Elszabadították Morgoth egy balrogját, aki ura eleste után ide menekült és bújt. A balrog egy éven belül megölte VI. Durint, majd utódját, I. Náint is, és olyan pusztítást okozott, amiből a törpök soha nem tértek magukhoz. A kétségbeesett túlélők kénytelenek voltak elhagyni otthonukat, őseik sírjait és elmenekültek. Khazad-dúm orkok, trollok és más gonosz teremtmények lakhelye lett.
A Harmadkor második felében Durin népe két ízben is megpróbálkozott a visszatéréssel Móriába. Az első, reménytelen próbát Thrór, a Vén vezette, akit Azog, az ork törzsfőnök megölt, kirobbantva ezzel a törpök és orkok háborúját. Másodízben Fundin fia Balin telepedett meg Kelet-Móriában, de öt éven belül a népével együtt lemészárolták az orkok és egyéb rémségek.