當時可以有兩套方案，一種是在原來金都所在舊址上重建，另一種是重新選址進行重建。在忽必烈的敦促下，劉秉忠仔細對金都的舊址進行了勘查，最後，他是決定在金中都故城的東北方，以金代行宮大寧宮為中心（今北海公園），營建一座新都城。其原因是金中都城已於1215年被成吉思汗的大軍摧毀，無法利用。
同時，大寧宮未遭破壞，忽必烈數次前來燕京時，都曾在瓊華島上的廣寒殿暫住；另外，金中都故城缺少充足的水源，當年金中都的蓮花池和蓮花河水系即不敷使用，而新城址可以利用玉泉山和高梁河的水系，並且當時著名的水利專家郭守敬已在1262年著手規劃此事；並且另建新城，可以不受舊城束縛，能按理想放手去規劃。
元大都建設的思想理念，劉秉忠參用了儒家經典《周禮·考工記》中“匠人營國，方九里，旁三門（每邊開三門），國中九經九緯（城中幹道九縱九橫），經塗九軌（縱向的幹道可並行九輛馬車），左祖右社，面朝後市”的理想描述。這就像現在要舉辦或者策劃一個活動一樣都得有一個理念及主題。那時的城市設計就已經把這個概念貫穿到整個城市建設中去了。
公元1267年元大都的建設開始動工，歷時20餘年，完成宮城、宮殿、皇城、都城、王府等工程的建造，形成新一代帝都。但是，由於至元二十二年（1285年）詔令規定，遷入大都新城必須以富有者和任官職者為先，結果大量平民百姓只得依舊留在中都舊城。在當時人的心目中舊城仍是重要的，通常把新、舊城並稱為“南北二城”。
就建築學成就而言，元大都堪稱享譽中、外的建築學藝術瑰寶。元大都城在技術方面的主持設計與參與建設者，是來華穆斯林建築學家亦黑迭兒丁。難以想像，這位建築學家竟能夠運用中國傳統的建築學特色，結合世界上先進的建築學風格，設計出格局宏大、規劃嚴整，與自然和諧相融的元大都。參與元大都設計、建設的，還有一大批專家、學者、能工巧匠。
大都新城的平面呈長方形，周長28.6公里，面積約50平方公里，相當於唐長安城面積的五分之三，接近宋東京的面積。元大都道路規劃整齊、經緯分明。考古發掘證實，大都中軸線上的大街寬度為28米，其他主要街道寬度為25米，小街寬度為大街的一半，火巷（胡同）寬度大致是小街的一半。由於城市輪廓方整，街道筆直而規則，使城市格局顯得格外壯觀。
元大都建成後，成為當時世界上最為宏偉繁榮的城市，根據文獻記載，僅賦役人口就有約40萬。推測當時大都城市人口近百萬人。元大都從城市建築規模之雄偉恢宏、建築工藝之精美壯麗、商業貿易之繁華發達以及東西文化交流之豐富多彩，都是當時世界上其他城市所難以相比的，是13世紀世界上最大的城市。