在彻底坐稳了皇位之后，忽必烈便开始着手进行改革，早在他于开平即位的诏书里，就曾提出过“祖述变通”这一建政纲领。
但改革谈何容易，作为一个以少数征服多数，以落后征服先进的民族，如果想要保证绝对的统治，那么最重要的一点就是要保证本民族的阶级特权，而且在保证特权的同时，还要利用民族与民族之间的差异与隔阂来平衡统治阶级下各民族的关系，这之间的度不是谁都能把握好的。
忽必烈非常想推行汉法，但他也知道，汉法是把双刃剑，施行汉法固然可以让国家实力更上一层楼，但过度的‘汉化’也会使自己的统治地位受到严重威胁。
因此，既要保护蒙古贵族的实际利益，又要行汉法的同时还得防止汉化，是摆在忽必烈面前的一个大问题。
经过了一番冥思苦想，再加上借鉴了金朝时的一些做法，忽必烈最终推出了三条全新的制度：
第一是保留了蒙古旧制中的斡尔朵制度、怯薛制度等，以此来保证了蒙古贵族的特权利益。
第二是在某些领域或者地区，实行蒙古制与汉制并行的策略，比如说宫廷的礼仪、婚丧嫁娶的礼制、百姓穿着的服饰样式以及颜色等等。
第三则是完全效仿中原王朝的制度所建立的机构与法令，比如设置中书省、枢密院，或者是前文中的诸路盐课税使等等，但在这些官员的任命上，却依然以蒙古人或色目人为正职，汉人大多担任副职。
公元1264年12月18日，忽必烈将国号由“大蒙古国”改为“大元”，正式迈出了施行汉法的第一步。
早在更改国号前一年，忽必烈便将开平升为上都，作为驻夏的纳钵（行营的意思）。
1264年八月，忽必烈下诏将燕京恢复金朝时中都之名，准备开始在此建都。
为了快速恢复因连年征战而衰弱的国力，忽必烈也做出了很多应对的举措，首先他下令禁止军人及权阀贵胄人家侵害桑稼；不许各路军马、使臣入州城、村居、镇市，防止他们扰及良民；对于已经被军队抢占为牧场的民田，他责令这些人限期退牧还耕，还让兀良合台之子阿术担任蒙古军的惩戒官，专门负责监督各路军马是否有夺取民田为牧场的事情。
除此之外，忽必烈又重新制定了地方官员的晋升机制，规定县官“以五事考较而为升殿：户口增、田野辟、词讼简、盗贼息、赋役平”，其中五事都达标者优先提拔，完成其中三项的为中选，五件事都没完成的直接罢黜。
除此之外，忽必烈还下令在全国实行屯田制度，用来充实国库，为以后的大战积累军粮，而且这次屯田不仅针对在四川、江淮等前线以及京畿地区的汉军，漠北与中亚等地的蒙古军同样也要屯田。
但正所谓有人的地方就有江湖，忽必烈为了巩固自己的统治，极力加强了民族特权，使得蒙古贵族在朝堂之中占据了几乎全部的正职，但因为他大力推行汉法的缘故，行政实权却基本都掌握在以汉人为主的官僚集团之中。
但汉人之中也并不是铁板一块，因为学派观点与政治观念的不同，他们之间的矛盾也非常深，甚至凌驾于民族矛盾之上。
在忽必烈于开平即位之时，对他起到最重要作用的其实并不是刘秉忠与姚枢这些老臣，而是王文统，也就是李璮的岳父。
此人能够发迹，说起来还跟贾似道有点关系，在忽必烈当年围攻鄂州时，曾经面对着他的栅栏战术发出过“吾安得如似道者用之”的感叹，刘秉忠、张易和廉希宪等人趁势便向忽必烈推荐了王文统，说此人才智堪用，后来在忽必烈北归开平之后，立即便召其前来，二人经过一番面谈，大有相见恨晚之感，于是忽必烈便十分重视他，在初建中书省时，第一个便将他提拔为平章政事，由此可见对他的宠信。
而王文统此人也确实有真本事，忽必烈登基之后发出的一系列指令，如成立十路宣抚司，颁布诸多政律条款，于颍州、涟水等地设立互市等措施，皆是出自他手，史称“元之立国，其规模法度，世谓出文统之功为多”。
但王文统此人也有一个缺点，就是专权。
专权到什么程度呢？在中书省刚成立时，张文谦担任左丞，此人素来以安国利民为己任，所以在很多观点上都与王文统不合，王文统便总是找机会在忽必烈面前说他的坏话，最终在他的撺掇之下，张文谦以左丞之职行大名等路宣抚司事，就此离开了中书省。
值得一提的是，张文谦也是被刘秉忠推荐给忽必烈的，所以在派系上来看，他们其实相当于是盟友。
对盟友尚且如此，对其他人可想而知。
可他的所作所为就使得信奉“程朱理学”的姚枢、窦默以及许衡等一众大儒十分不满，他们认为圣人所训应当是崇尚义理而鄙薄功利，王文统如此功利自任，与圣人所言相去甚远。
其中反应最激烈的便是窦默，他曾对忽必烈上疏道：“平治天下，必用正人端士。唇吻小人一时功利之说，必不能定立国家基本，为子孙久远之计。其卖利献勤、乞怜取宠者，使不得行其志，斯可矣。若夫钩距揣摩，以利害惊动人主之意者，无他，意在摈斥诸贤，独执政柄耳！此苏、张之流也，惟陛下察之。伏望别选公明有道之士，授以重任，则天下幸甚。”
此番话不可谓不毒，虽然没有提王文统的名字，但明眼人都知道他奏折中所提到的小人是谁，简直是将王文统贬损的体无完肤，但忽必烈对于这种臣子之间的争斗十分满意，这也是他所希望看到的情景，对于窦默的奏折置之不理，反而继续重用王文统。
见忽必烈不搭理自己，在一次与忽必烈面谈朝政之时，当着姚枢、王鹗等重臣的面，窦默再一次弹劾起了王文统，这次甚至点名道姓地说道：“王文统此人学术不正，久居相位，必祸天下。”
忽必烈反问道：“那你认为谁可以担任他的职位呢？”
窦默回答道：“臣认为许衡可以。”
很多人都不知道，窦默不仅是一个着名的理学家、教育家，他还是一个相当牛掰的针灸名家，他的“流注八穴”、“补泄在于手指”、“莫如用针”、“气至沉紧”等针灸学说，对于后世的针灸学发展颇有影响，其所着的《针经指南》甚至被收录在《针灸四书》中，作为后世中医针灸学生必读的书籍之一。
但正所谓渡人难度己，医者难自医，窦默肯定没给自己扎过针灸，或者说最起码没给自己的脑袋扎几针，因为他但凡给自己扎上几针疏通一下，也不能说出这么缺心眼的话来。
许衡，是窦默和姚枢的弟子，是“程朱理学”学派的重要代表人物，与刘因、吴澄在后世被并称为“元朝三大理学家”。
主动推荐许衡代替王文统，窦默也是真可谓是举贤不避亲了。
但忽必烈是何等人物，作为一个成熟的政治家，儒家学说只是他用来统治天下的一个手段而已，在快速充盈国库方面，他更看重王文统之流的任术之士，所以对于窦默的建议，忽必烈再次将其束之高阁，没过多理会。
只是窦默几人的所作所为却彻底激怒了王文统，为了将他们逐出权力核心，他主动上疏，提议将姚枢任命为太子太师，窦默为太子太傅，许衡为太子太保，以示尊崇。
不得不说，王文统的政治水平明显比窦默、许衡这几个老学究强得多，他名义上将三人举荐到从一品的“东宫三师”之位上，实际却打的是个“明升暗降”的算盘，让他们彻底远离忽必烈，从而淡化他们的政治影响。
在这三人中，姚枢无疑是最聪明的那一个，他知道自己已经被王文统嫉恨上了，即便不去东宫就职，以后肯定还会有其他的理由攻击自己，于是便主动找到窦默，做通了他的思想工作，两人准备一同去赴职。
但许衡却不这么认为，他对二人说道：“根据礼仪，师傅与太子的座位东西相对，师傅坐，太子才能坐。但以蒙古帝国如今的习俗，你们认为太子能做到这一点么？如果做不到的话，那么师道则是自我们三人起而形同虚设，这是万万不行的！”
这一番话，可谓是准确地命中了二人的命门，他们可以接受自己被逐出权力核心，但却不能允许乱了礼法，于是三人一同去面见忽必烈请辞“东宫三师”之位，忽必烈也认为以三人的智商，留在朝堂之中也能更好的辅佐自己，于是将姚枢改任为大司农，窦默为翰林侍讲学士，许衡为国子祭酒。
这番任命忽必烈也用了很多心思在里面，他清楚地认识到，这些汉人大儒实在是不适合风波诡谲的朝堂，所以除了能力最强的姚枢掌管财政外，窦默、许衡二人都成为了专门负责教育的官员，也算是物尽其用。
但因为李璮叛变，王文统受到牵连而死，忽必烈感觉自己的心灵受到了极大的伤害，于是便开始追究王文统的来路。
刘秉忠、张易、廉希宪等举荐他的人自然都受到了怀疑，甚至连夸奖过他的商挺与赵良弼等人也被暗中调查是否与王文统有所勾结。
除此之外，汉军世侯中与王文统关系密切者亦有不少，这一切都使忽必烈对于汉人的戒备之心越来越重。
恰巧此时，在朝中一直被汉人强压一头的色目人觉得自己的机会来了，他们趁机上书挑唆道：“回回虽时盗国钱物，未若秀才敢为反逆。”
这句话算是‘神补刀’，让忽必烈就此开始疏远麾下的汉人臣子，甚至连金莲川幕府时期就跟随他的刘秉忠、姚枢等人都不能幸免。
“色目”一词，始见于《唐律疏议》，表面意思为“异色眼睛的人”，后来代指西域诸民族的统称，包括中亚、西亚乃至欧洲人都被称为色目人。
但色目人一词正式在元代作为专名出现实际是在至元二十三年，也就是公元1287年，是在忽必烈灭亡南宋之后确立四等人种时才确立下来的，这个我们后文会讲，此时的色目人被称为回回人，主要指的就是信奉伊斯兰教的中亚诸民族，但也有一些信奉基督教的阿速人也被称为“绿睛回回”。
为了淡化汉人在朝中的影响力，色目人自然是不错的选择，而且为了更好地利用民族矛盾，将色目人正式推到了与汉人进行政治斗争的第一线上来无疑是最好的选择，毕竟蒙古人实在是太少，而且还要在朝中保持着超然的地位，实在是不便直接下场与汉人官僚集团进行肉搏。
在这些色目人中，阿合马是最受忽必烈宠信的。
阿合马，回回人，本来是忽必烈之妻察必皇后之父按陈那颜的陪嫁奴隶，但他本人有着超乎常人的经商头脑，为察必皇后经商赚了许多钱，并由此得到了忽必烈的赏识。
公元1261年，阿合马被任命为开平同知兼太仓使，忽必烈派他去庆典燕京府库中的货物钱财，他提议在开平建立和籴所（和籴，是政府强制收购民间粮食的官买制度，可以理解为政府强买百姓的粮食，籴读作di，音同‘敌’），用来增加库府的粮食储备。中书省则根据他的提议，任命曹州人李亨去干这件事，并更名为规措所。
因为他在财政方面的卓越能力，1262年十月，朝廷成立中书左右部，忽必烈便将阿合马升为领部，并兼领诸路都转运使，专门让他负责财政赋税这一方面的政务。
公元1264年十一月，中书左右部并入中书省，阿合马便水涨船高，成为了中书平章政事，正式进入了大元朝廷的核心层，开始了他长达18年的攫权之旅。