在掌管北方事务的时候，忽必烈结识了许多知识渊博的汉族学士，并培养了一些亲信和谋士。
为了巩固自己的基础，忽必烈找到了一个风水优良的地方，在那里建造了宫殿和住宅，建造了一个叫开平的新城，并在这里安置了他的谋士。
忽必烈用“汉法”治理汉地，损害了蒙古贵族的利益和蒙哥的汗位。
于是蒙哥夺去了忽必烈的兵权，并派阿兰答儿、刘太平去调查他。
忽必烈听从姚枢等人的建议，把妻子、女儿送到蒙哥那里做人质，并亲自去拜见蒙哥，说明自己没有野心。
见他一副真诚的样子，蒙哥这才相信了他。
1258年，蒙哥发动三路大军，进犯南宋。
蒙哥带领主力攻打四川，让忽必烈攻打鄂州(今湖北省武汉市)，让元良哈台从云南攻打潭州(今湖南省长沙市)。
就在忽必烈攻打鄂州的时候，蒙哥去世的消息突然传来。
有人说他在指挥攻城的时候，被飞石砸成重伤而亡；也有人说他是被流失射中，回到军营后死去；还有人说他是染病而死。
不管怎样，蒙哥是死了。
蒙哥去世时，忽必烈正在向鄂州进军，还没过江就收到了蒙哥的死讯。
他手下的将领提醒说：“恐怕会有人争夺汗位，您应该尽快回去继位。”
忽必烈说：“我奉命攻打南宋，怎么能无功而返呢？”
他想抓紧时间攻下鄂州，然后再回北方夺取汗位。
可是没想到，南宋的援军已到，鄂州一时半会儿攻不下来。
恰好这时，阿里不哥想继承汗位的消息传来。
阿里不哥是拖雷的小儿子。
按照蒙古人“幼小守产”的习惯，蒙古打仗的时候，他就得留在蒙古的都城和林(位于今蒙古境内，前杭爱省西北)。
阿里不哥的身边有一派蒙古贵族，他们反对用“汉法”统治，主张用蒙古的旧法来统治蒙古。
因此，他们反对忽必烈，支持阿里不哥。
听到蒙哥去世的消息后，阿里不哥立即任命支持他的人担任各级官员，并派出脱里赤和阿兰答儿占领燕京、陕西一带，准备阻止忽必烈北上。
当时，忽必烈的妻子察必正在开平。
她得知消息后，立即派人向忽必烈报告说：“小弟弟阿里不哥准备继承汗位啦吧！”
忽必烈立即召集诸王、部将和谋士，商量该怎么办。
谋士郝经说：“阿里不哥已经开始行动，大王虽然有重兵，但如果他声称有蒙哥大汗的遗诏，我们还能回去吗？”
他给了忽必烈一条妙计，说：“您可以先派人去迎接蒙哥的灵柩，趁机夺取大汗的宝玺。”
“同时，赶紧派使者与贾如道秘密签订和议，并派骑兵前往燕京，以防止阿里不哥的势力南下，然后带领人马迅速北上。”
1259年，忽必烈抵达燕京，遣散了脱里赤招收的人马。
1260年3月，忽必烈到达开平。
他的部将廉希宪与尚挺，私下对他说：“先下手为强，后下手遭殃。
“机不可失，失不再来，大王您赶紧动手吧！”
于是，忽必烈在开平召开了忽邻勒塔，即是召开部落重大会议。
在塔察儿、也先哥、合丹、米哥等诸王支持下，忽必烈登上了大汗的宝座。
本来阿里不哥设计好了一切，以为自己可以顺利继承汗位，没想到的是，忽必烈比他的动作还快。
同年4月，他只好匆匆忙忙在和林召开大会，宣布自己才是“大汗”。
就这样，庞大的蒙古帝国出现了两位大汗，谁也不服谁。
俗话说：“天无二日，国无二主。”
蒙古只有一个国家，出了两大汗，那怎么可能呢？
似乎只有通过战争才能决定问题了。
那时候，东部地区的诸王，均支持忽必烈。
西方的诸王当中，有的支持阿里不哥，有的支持忽必烈。
而且忽必烈还统治着中原，所以忽必烈的势力比阿里不哥强大。
由于阿里不哥的势力在西边，因此忽必烈先派廉希宪向陕西一带进军。
阿里不哥在陕西的大将是浑都海，他手下一个姓刘，一个姓霍的将领，驻扎在六盘山。
廉希宪一到，双方就打了起来。
廉希宪的老将刘黑马一马领先，一场恶战，活捉了刘、霍二人，并将浑都海打败。
廉希宪又从霍鲁怀口那里了解到，驻扎在成都的密里霍者、与驻扎在青州的乞台不花，都要起兵反叛忽必烈。
情况非常紧急，来不及禀报忽必烈，廉希宪就假传圣旨，派刘黑马到成都杀死了密里霍者，并派汪惟正赶到青州杀死乞台不花。
不久，八春、合丹等人与廉希宪见合，他们再次打败了浑都海，杀死了阿兰答儿和浑都海。
就这样，阿里不哥在西边的势力，均被打败。
与此同时，忽必烈亲自率领大军，直攻阿里不哥的老巢和林。
阿里不哥不敌，赶紧逃到谦州(今唐努山以北，苏联叶尼塞河上游)
他害怕忽必烈继续追击，就用了一条缓兵之计，派人向忽必烈请罪，说自己愿意投降。
他派人给忽必烈发信说：“我尊哥哥出为大汗，本应该亲自拜见，哎！奈何马匹非常瘦弱，走不了那么远，等马儿强壮之时，我一定前来朝拜。”
忽必烈认为阿里不哥所做的一切，都是他的谋土指使，所以他对使者说：“你回去告诉我弟弟，说我相信他的话，原谅了他，让他尽快来见我。”
后来忽必烈等不及了，就派也孙哥驻守和林，自己先回开平去了。
1261年秋天，阿里不哥养肥了他的战马，招集了一批人马，又发兵南下。
他先派人到也孙哥那里，假装来投降，也孙哥信以为真，毫无准备。
结果，阿里不哥发动突然袭击，夺回了和林。
忽必烈知道后，立即带兵北上，双方大军在昔木土脑儿(今内蒙古东乌珠穆沁旗西北)相遇，阿里不哥再次被打败，逃回和林。
但就在此时，原本支持阿里不哥的阿鲁忽王，也开始起兵反对他。
阿里不哥被迫逃往新疆。
后来阿里不哥多次吃了败仗，蒙古高原又发生饥荒。
使得原本支持阿里不哥的诸王，纷纷跑到忽必烈那里。
1264年，阿里不哥只好向忽必烈投降。
忽必烈问他：“我们兄弟俩，按道来理说，到底谁该当大汗呢？”
阿里不哥垂头丧气地说：“以前是我，现在大汗是您！”
阿里不哥很硬气，只是承认失败，但不承认大汗之位合不合理。
后来，忽必烈下诏：“阿里不哥等王，均不问罪责，但他的谋臣，全部处死。”
阿里不哥战败后，被忽必烈囚禁，几年后病逝。
接下来，忽必烈巩固了自己的汗位，最终成为了蒙古帝国唯一的大汗。
