大明王朝的皇陵，其实早在明太祖朱元璋扫平群雄、驱逐元帝，建立大明之前，就已经开始建造了——元至正二十六年（1366年），尚未称帝、还只是“吴王”的朱元璋，为了体现自己“天命所归、皇权正统”的至高地位，于是在自己的故乡濠州（安徽凤阳）为已经离世二十余年的父母、兄嫂、侄子等亲人修建陵寝，向天下显示朱氏家族将要应天命承受江山社稷的合法性和正统性。
到太祖登基称帝、建立大明王朝后的洪武二年（1369年），濠州朱氏家族陵寝的地宫部分大体完工；这一年，太祖举行隆重的仪式，将父亲仁祖淳皇帝、母亲淳皇后，三位早逝的兄长南昌王（朱兴隆）、盱眙王（朱兴盛）、临淮王（朱兴祖）并盱眙王、临淮王王妃（南昌王王妃尚在），早逝诸侄——的梓宫（或衣冠）都葬入其中，光宗耀祖，以告慰先人。最开始时，太祖赐陵名为“英陵”，后来又改为更具直抒意思的“皇陵”。
洪武十二年（1379年），皇陵的地面建筑全部完工；太祖在世时，曾先后三次亲自前往谒陵，祭拜父母、兄嫂；皇太子朱标及诸王在青少年时期，也曾多次奉命前往中都凤阳祭陵。“皇陵”，是大明王朝第一座“皇家陵寝”。
此后，太祖在洪武十九年（1386年），为追尊为帝的三代祖先——高祖父（德祖玄皇帝）、曾祖父（懿祖恒皇帝）、祖父（熙祖裕皇帝）及其皇后修建陵寝。当时，德祖、懿祖的葬地因为年代太过久远，已经无迹可寻，而熙祖的实际葬地倒是还能找到——就在中都凤阳府泗州（江苏盱眙）城北的杨家墩；
但熙祖夫妇的遗体实际安葬处地势狭小，无法修建大型陵寝，而太祖也不敢轻易移动祖父祖母的遗体，怕因此挑断风水龙脉；权衡之下，太祖命皇太子朱标率工部官员及民夫、工匠等，赶赶赴泗州，在杨家墩下宽阔处为德祖、懿祖、熙祖建造衣冠陵寝，以示追崇。
太祖和建文帝在位时，泗州陵寝地面建筑一直未能完工，只先修建了地宫和享殿，将熙祖、德祖、懿祖及其皇后的衣冠葬入其内；直到永乐十一年（1413年），靖难成功的太宗（成祖）朱棣为祖陵增加了棂星门及围墙等建筑，大明的第二座皇帝陵寝才最终落成，成祖为其赐名为：“祖陵”。
洪武十四年（1381年），太祖已年过半百，需要考虑身后事了。当年，他授命中军都督府佥事李新主持为自己及皇后修造身后的陵寝。李新经多方寻找，在京师（南京）东面的紫金山南独龙阜玩珠峰下，找到了一块风水宝地，经太祖钦定同意后，在此开建陵寝。
洪武十五年（1382年），马皇后去世，此时，紫金山的帝陵地宫已完工，太祖便将马皇后先期葬入地宫，等自己将来百年后与皇后合葬。
马皇后的谥号为“孝慈皇后”（当时太祖尚未驾崩，所以马皇后谥号中还没系帝谥“高”），因此这座陵寝就被太祖赐名为“孝陵”；洪武三十一年（1398年），太祖驾崩，皇太孙朱允炆继位，即建文帝；建文帝将皇祖与祖母合葬在孝陵地宫中，这也是大明王朝的第三座皇帝陵寝。
此后，太宗（成祖）朱棣在靖难成功之后，于永乐十一年（1413年）给孝陵加建了“神功圣德碑”，孝陵地面建筑至此才全部建成。因为后世清世祖福临在清东陵中的陵寝也叫“孝陵”，所以太祖的陵寝名号前被加了个“明”字，称“明孝陵”，以示区别。
太祖驾崩四年后，建文四年（1402年）六月，燕王朱棣在历时三年之久的“靖难之役”中获得最终胜利，从皇侄建文帝手里夺得了大明江山，在京师（南京）登基称帝，即大明第三代皇帝——明太宗（成祖）。
因为成祖起家的大本营是在北平顺天府（北京），他的权力基础也在北方，因此，成祖称帝后，就有心将国都从京师（南京）迁往北平，以利于稳固统治、加强北方防线（防备鞑靼、瓦剌等塞外部族）。
永乐五年（1407年），仁孝徐皇后薨逝；工部官员在奏请成祖为皇后挑选陵寝地址时，成祖一反常态地否决了工部在紫金山太祖孝陵附近卜选吉壤的提议，而是按照亲信的江西术士廖均卿的建议，委派其北上，在北平附近为皇后选择合适陵址。
按大明制度，皇后先去世的话，帝后必然要合葬；成祖不在京师（南京）为皇后挑选陵寝地址，而是不远千里北上顺天府去寻找陵址，已经很明显地向朝野暗示——自己驾崩后，将安葬于北方，且大概率会在驾崩前迁都北平。
经过一番仔细地勘探挑选后，廖均卿给成祖奉上奏疏，汇报说已经在顺天府昌平县的黄土山附近找到了一块“上佳吉壤”，其风水地势无与伦比。
在亲自查看了廖均卿随奏疏一并提交的黄土山风水图和地势走向图后，成祖很是满意，于是一锤定音，决定就在此地为皇后建造陵寝，赐黄土山名为“天寿山”。
永乐七年（1409年），陵寝正式开建，经过五年的不间断建造，至永乐十一年（1413年），天寿山皇陵地宫全部建成，成祖将仁孝皇后的梓宫先期葬入地宫中，并不关闭宫门，以待自己将来驾鹤后，和皇后合葬于此。
早在永乐四年（1406年）时，成祖就下诏在北平兴建皇城、宫苑，并改北平府为顺天府，作为大明的陪都，称为“行在”（即皇帝离开国都后的暂时驻跸之地）；永乐七年（1409年），徐皇后的陵寝开建同时，成祖也以顺天府为大本营，开始了第一次北征的军事行动。
刚开始时，除了靖难功臣之外，其他朝臣们（也就是归附成祖的那部分建文旧臣）对皇帝想要迁都之事都持反对态度（这些官员的家都在京师，要远迁北方，生活上很是不便）。但永乐十四年（1416年），成祖不顾反对，决意迁都顺天府，同时将对此事提出异议的臣子一一革职或降级；从此，再没人敢反对迁都。
第二年，成祖命靖难功臣泰宁侯陈珪为总监督，以京师（南京）皇宫为模板，开始了大规模建造顺天皇宫以及朝廷各官衙、附属配套设施的进程。
永乐十八年（1420年），顺天府新皇宫和城垣全部建成，成祖据此下诏正式迁都，改京师应天府为南京，升顺天府为京师，同时顺天府不再使用“行在”称号；朝廷六部、五军都督府，及都察院、大理寺、通政司、翰林院、太常寺、光禄寺、国子监、鸿胪寺等一应官署，都迁往顺天府。
成祖在永乐十九年（1421年）正月正式迁都后，为了保持国家稳定、不使朝廷因国都变更之事出现混乱，所以在应天府依旧保留了一整套的官衙机构，委派大批官员留守南京，正常处理政务；留守的各官署名称前，均加“南京”二字（如南京礼部、南京国子监、南京大理寺，等等）。
但成祖迁都还不到半年，京师皇宫三大殿（奉天殿、谨身殿、华盖殿）就于永乐十九年（1421年）五月遭遇雷击而损毁；有官员认为这是迁都后弃绝了皇脉与太祖孝陵，有违天意，请成祖顺从天意，还都南京。成祖闻报后大怒，立即处死上疏官员，以皇权压制朝中非议，坚决不返回南京。
永乐二十二年（1424年）七月，成祖在第五次北征鞑靼的回师途中驾崩于榆木川，皇太子朱高炽奉遗诏登基，即明仁宗。仁宗随后主持仪式，将成祖安葬于先期修造好的天寿山皇陵内，和母亲合葬，并御赐陵名为“长陵”。
仁宗当年虽然是出生于北平（即京师顺天府）、且在此生活了二十余年，但自从靖难成功后，仁宗被成祖立为皇太子后，便长期居住于京师（南京），时常以“监国”的名义主持朝政（成祖本人经常率军北征，不出征的时候也大多住在顺天府，不经常住在京师）。因此，仁宗对南京的感情很深，心中对成祖迁都顺天府的做法颇不以为然。
永乐二十二年（1424年）八月，仁宗顺利登基后，一来是看见前朝那残破的三大殿遗址（被雷火焚毁），心里就很膈应、反感；二来自己的支持者大多是朝廷文臣（即归附成祖的建文旧臣），他们的利益大都在南方，不愿意长期留在京师（北京）；因此，仁宗决心改变成祖的国策，将大明国都再次迁回应天府。
再者，仁宗的弟弟、成祖次子汉王朱高煦，在成祖生前就有夺嫡之意；成祖驾崩后，汉王更是加紧了争位的行动。而汉王半生从军，其支持者大多是靖难武臣，这些人的根基都在顺天府左右；为了削弱汉王的势力，仁宗也想要还都应天府，将朝廷迁离武臣们的大本营，维护皇权稳定，击碎汉王的野心。
永乐二十二年（1424年）九月，仁宗刚刚登基才两个月，就急不可耐地下诏，要求南京工部及南京五军都督府动工修葺应天府皇宫、各官衙，以备朝廷随时南返。同时，仁宗还将京师顺天府中的六部印信收回，重新铸造新的印信，各衙印信前加铸“行在”二字，而应天府诸官衙印信上的“南京”两字则被全部去除。
仁宗此举，实际上废除了顺天府作为大明京师的正统地位，也向朝野表明了他将要把国都迁回应天府的决心。
但仁宗在位只有十个月，还没来得及实施南迁的计划，就于洪熙元年（1425年）五月突然驾崩于京师（北京）；皇太子朱瞻基当时正在凤阳、南京等地祭拜祖陵、皇陵、孝陵，得到急报后，千里疾驰，返回了京师（北京），顺利继位，即明宣宗（当时，还有传言汉王曾经在半路上截杀皇太子，但是没能成功）。
宣宗登基后，立即中止了父亲的南迁计划，并在天寿山皇陵区内，祖父成祖皇帝的长陵旁，为父亲仁宗皇帝挑选陵寝地址，而不是将仁宗的梓宫送回南京，在曾祖太祖皇帝的孝陵附近选址安葬，这显示宣宗将继续以顺天府为大明京师。
但宣宗没有改变仁宗确定的顺天府诸官署印信上加铸“行在”二字的做法，应天府诸留守官署印信上也没加“南京”两字；在很长时间内，大明的国都究竟在哪里，没有一个明确的答案。
洪熙元年（1425年）七月，宣宗亲自前往天寿山，在祖父成祖皇帝长陵左侧约一里处的一块吉壤中，为父亲仁宗选定了陵址，然后命成山侯王通、行在（北京）工部尚书黄福总管修陵事宜。
当年八月，只用了不到两个月时间，仁宗陵寝的玄宫就全部落成，宣宗将仁宗的梓宫、以及其他陪葬嫔妃的棺木葬入地宫，为陵寝赐名“献陵”。
此后，又用了三个月的时间，献陵的地面建筑如门楼、享殿、左右配殿、神厨等，也陆续营建完成；而此时，长陵的地面建筑还没有全部完工。直到宣德二年（1427年），在宣宗的督促下，长陵的地面宫殿建筑才最终落成。
长陵，是昌平天寿山皇陵区，修造完工的第一座大明帝陵（此时献陵的最后工程——明楼，还在修造之中）。
在此之前，宣德元年（1426年）八月，汉王朱高煦在封地山东乐安州起兵作乱，号称“定难”，意欲重演当年成祖的“靖难”之事。但宣宗远非建文帝可以相比，得到汉王谋反的急报后，立即率军亲征，十二天就抵达了乐安，随即四面包围，以神机营火器攻城。乐安城中的叛军大哗，想擒朱高煦父子献于宣宗，以赎从乱之罪。
朱高煦内外交困之下，无计可施，再无斗志，只得主动投降。半个月内，宣宗兵不血刃，就消灭叔父的叛乱。叛乱同党被诛杀四百六十余人，削官流配一千五百余人，驱往塞外七百二十七人，野心勃勃的武臣集团对朝廷的威胁被一扫而空。
朱高煦投降后，与后妃子女被押赴京师，废除王爵，称“汉庶人”，软禁于皇宫西安门。宣德三年（1428年），汉庶人及其全家被诛杀于行在（北京）禁所内；宣宗再也没有了后顾之忧，朝廷也不必还都南京，以避跋扈宗王和不轨武臣们的觊觎、威胁。
宣德十年（1435年）正月初三，宣宗突然患病，随即驾崩，皇太子朱祁镇奉诏继位，即明英宗。英宗谨遵太皇太后（即仁宗张皇后、宣宗生母）的懿旨，派专人赴天寿山陵区，为父亲宣宗皇帝卜选吉地，在长陵右侧约一里处的天寿山主峰东侧黑山下，选定了陵址，随即开工建陵。
宣德十年（1435年）正月十一，宣宗的陵寝营建工程正式动工，以太监沐敬、丰城侯李贤、行在（北京）工部尚书吴中、侍郎蔡信督工建造。六月二十一，地宫落成，葬宣宗及陪葬嫔妃梓宫入内，英宗赐陵名为“景陵”。
正统七年（1442年）十二月，献陵的明楼完工，第二年三月，献陵的外围宫墙建筑全部完工，这是天寿山皇陵区第二座落成的帝陵。
献陵完工前的三年，正统五年（1440年）秋，英宗下诏重修三大殿，经过一年的修造，正统六年（1441年）年底，奉天、谨身、华盖三殿全部重修完工，完整的大明皇宫，再一次展现在世人眼前。
借着皇宫三大殿重修完工的契机，英宗在正统六年（1441年）冬至大祭典礼中，正式宣布恢复行在（北京）的京师地位，此后以顺天府为京师，在京诸部、司、衙、寺的印信，皆去“行在”二字，而应天府留守各衙署，其印信上恢复“南京”二字，以后成为定制。
就这样，前前后后反复了数十年之久的大明国都之争，在明英宗的手中彻底划上了句号；此后二百年间，大明京师都是顺天府（北京），应天府（南京）只得到了陪都的名号。
天顺七年（1463年）三月十九，历经二十八年断断续续地修造，天寿山皇陵区内第三座帝陵——景陵的地面建筑工程最终完工，这个时候，距离天寿山下第一座帝陵——长陵的开工时间，已经过去了五十四年。
