忽必烈统一了全国后，就着手确立中央集权政治，恢复正常的统治秩序，采取有利于农业和手工业生产的措施，使得社会经济逐步恢复和发展，最终走向繁荣强盛。可以说，在征服土地之后，他也完成了对人们头脑的征服，也许他想获得的最伟大的名声不是“世界上第一位征服全中国的人”，而是“第一位治理中国的人”。
打江山难，守江山更难。早在漠北和林时，汉僧刘秉忠就提出了“以马上得到天下，不可以马上治天下”的大问题，并将历代封建统治的经验，灌输给忽必烈。
自然，忽必烈也是一位很有作为的蒙古族政治家，他懂得只有保持中原地区的政治经济制度，才能成为统治全中国的皇帝。于是在他即位后不久就采取一系列的措施，推进社会政治、经济的发展。后世史书称其为“创一代之制，立不世之功”，对于中国封建社会后期的发展进程影响更为巨大，明朝的政治制度基本上承袭了元朝。比如说，元朝的专制皇权已经较前代少有约束，皇帝的尊严愈增，专制主义皇权也进一步膨胀，这对明初极端专制主义皇权制度的形成无疑是有影响的。
创世之举——行省制度的实行
１２６０年５月，忽必烈设立中书省一个月后，随即设置了十路宣抚司，“以总天下之政”。这十路分别是：燕京路、益都济南等路、河南路、北京等路、平阳太原路、真定路、东平路、大明彰德等路、西京路、陕西四川等路。每司分领一路或数路，派藩府旧臣出任宣抚使、副，作为朝廷的特命使臣，监督和处理地方政务。使宣抚司无处置军务的权力，使、副又多数没有宰臣职衔，如果发生叛乱或社会治安等方面的特殊情况就不足以应付了。于是忽必烈把一些地区改置行中书省。１２６１年１１月，忽必烈撤销了十路宣抚司。在第二年的１２月，重新设立了宣抚司，但将它作为中书省的派出机构。
对于元朝廷实施的行省制度，钱穆先生在《中国历代政治得失》中评论说：说到行省制度的滥觞其实是元代中央集权高层统治之计，“行省”其实是“行动的中书省”，行省长官是中央政府（中书省）的代表，是由上而下的权力授予，完全没有中央政府与地方政府平起平坐的意思，没有地方自治的概念，没有权力分让的安排。钱穆说到如此的概念有如帝国与殖民地，地方绝无权力介入政治决策，地方政府只是听命中央命令的执行机关。
忽必烈在外路设立的第一个行中书省是陕西四川行省（京兆行省）。陕西四川行省设立在阿里不哥叛乱时期。１２６０年，京兆宣抚使廉希宪到任时，为防止阿里不哥已派来的亲信大臣刘太平联络六盘山及四川蒙古军帅，占据京兆地区。廉希宪果断地捕杀了刘太平等人，征调秦、巩等处诸军进入六盘，发仓库金银充军赏，同时遣使入奏，自劾越权的罪过。忽必烈并没有责怪他，因为这是他建立的制度存在缺陷而造成的。相反，在这件事后，他大加赞赏廉希宪善于行权应变。这一年的８月，忽必烈将京兆宣抚司改制为行省，既陕西四川行省，以廉希宪为中书右丞，行行省事。这以后，忽必烈又在其他地区先后设立了行省。由于种种原因，几经置废分合，最后稳定为十个行中书省，分统除中书省直辖诸路以外的各大地区，形成了“都省握天下之机，十省分天下之治”的行政区格局。吐蕃地区直属中央机构宣政院统辖，所以不置行省机构，但也被视为一个行省。这样，元朝全境共划分十二个一级政区，即中书省直辖、十行省及吐蕃。在１２８６年以前，行省仍属于中书省的临时派出机构。直到１２９０年，忽必烈在晚年再次调整了行政建制。他将山东、山西、河北等地直接划归中书省管辖，称为“腹里”。腹里以外的地区则分置岭北、辽阳、河南、陕西、四川、甘肃、大理、浙江、江西、湖广十个行省。自该年始，行省各长官不再是中书省衔，这样，行省就成为最高地方行政机关。不过吐蕃和畏兀儿地区另立管辖机构，不在这一范围之内。