奥斯曼帝国的民族解放战争胜利之后，摆在凯末尔及其拥护者面前有几种选择。他们可以趁着胜利长驱直入叙利亚和伊拉克，重新占领奥斯曼帝国失去的亚洲领土，恢复昔日奥斯曼帝国的辉煌。凯末尔还可以登上素丹和哈里发的宝座，继续维持封建神权专制的国家形式。但是，凯末尔是一位头脑清醒的资产阶级民族革命家和政治家，他认为这种扩张主义违背了民族意愿，增加了敌人的力量，不如回到自然合理的限度中去，坚持和平共处的睦邻友好关系。战事一停，为了使奥斯曼帝国和希腊摆脱令人头疼的少数民族问题，凯末尔首先同希腊达成了交换人口的协定，不惜采用残忍但十分有效的交换人口的办法，解决了奥斯曼帝国与希腊之间从古到今的民族纠纷问题，在以后的几年中确实使两国建立了一种良好的外交关系。此外，凯末尔还宣布放弃一切对外野心和一切形式的大奥斯曼主义、泛突厥主义和泛伊斯兰主义的意识形态，有意地把自己的行动和意愿限制在洛桑和平条约所规定的奥斯曼民族领土的范围之内，并把他的后半生贡献给了艰苦、费力而又不引人注目的国家经济建设和社会改革当中，显示出了一位现代政治家的明智与胸怀。1923年7月，凯末尔在一次精彩的演讲中提醒奥斯曼人民：“至今我们的军队已经取得的胜利，不能被认为已经能够使我们的国家真正得救了。这些胜利，仅仅只是为我们将来的胜利奠定了基础。我们不应该为我们在军事上的胜利而感到自豪，我们还应该更多地为取得科学与经济方面的新胜利而做好准备。”凯末尔的这一席话既有情又有义，起到了无与伦比的号召作用。一旦挣脱了奥斯曼帝国桎梏和卸下额外领土这副重担，去实施凯末尔世俗主义的政治理想，使奥斯曼帝国完全接受西方文明，从而推动奥斯曼帝国的现代化发展和社会改革成为一件不难的事情。此外，凯末尔所倡导的社会改革之所以能够比较容易地进行，还因为奥斯曼帝国经过几代改革家们承前启后的不断努力，此时已经在奥斯曼帝国培植出一种改革传统和社会发展方向，这种方向便是全面学习西方的制度、思想和习俗。虽然奥斯曼帝国的传统和伊斯兰教古老的信仰、仪式与习俗并没有完全消失，但有的已经被改造，更多的则是面临能否存在下去的挑战。这种新老体制的共存，时常造成人们的精神痛苦。
凯末尔不仅是奥斯曼帝国历史上一位具有杰出才能的军事家，而且也是一位胸怀大志向，具有敏锐政治眼光的社会改革家。从奥斯曼帝国几百年来社会改革的历史进程中，思路宽纵的凯末尔总结判断出：要想巩固他对国家政权的控制，掌握奥斯曼帝国未来的发展命运，首先需要解决的问题是迫在眉睫的政治体制问题，即奥斯曼帝国的形式与结构问题。以凯末尔为首的民族革命派，从一开始便坚持声称他们是忠于素丹的，帝国的君主之所以反对他们的正义事业，那是由于听信了谗言和受到了外国人控制的缘故。但是这些原则，从奥斯曼帝国资产阶级民主革命长远的目标来看，又是同保留素丹君主制相矛盾的，因为凯末尔所领导的民族、民主革命是一场以摆脱近代以来国家经受的屈辱为动力的，是以世俗化为核心的一场社会革命。早在1920年7月，凯末尔在经久不息的掌声中，向安卡拉民族革命派大国民议会宣布：“我想，使我们今天能够存在的这个基本现实，已经显示出我们民族总的发展趋势，那就是民族主义和人民政府，这意味着政府正在转向人民的手里。”此后，在许多重要场合，凯末尔一直宣扬这种政治观点。
奥斯曼帝国是一个伊斯兰教国家，奥斯曼帝国封建专制制度的特点是封建神权的专制制度，即王权（素丹）和教权（哈里发）是紧密结合在一起的。素丹既是奥斯曼帝国的君主，又是宗教的最高精神领袖。奥斯曼帝国的素丹于1517年征服阿拉伯的哈里发末代王朝统治的埃及以后，又给自己加上了哈里发的尊号，因而素丹又成为整个穆斯林世界的最高领袖。素丹与哈里发融为一体，形成了奥斯曼帝国的封建神权君主专制制度。这种政教合一的伊斯兰文明政治体系，逐渐演变成为一成不变的守旧心态和千古一揆的社会制度，使得奥斯曼帝国失去了适应时代发展与变革的活力，成为奥斯曼帝国社会向前发展的主要障碍。促使凯末尔下定决心从此一劳永逸地结束奥斯曼帝国君主的政治权力，把同哈里发制分离开来的原因是，在召开瑞士的洛桑和会之前，以英、法为首的协约国同时向安卡拉的民族革命派政权和伊斯坦布尔的素丹政府发出正式邀请，而这种双重邀请展示出来的国家权力行将分裂的前景，不得不使凯末尔下定决心彻底地废除素丹制。凯末尔在进行这项重大的国家政治体制改革时，充分表现出他的政治魄力和灵活的策略。他分两步来进行这项重大的政治体制改革：先废除素丹制，后废除哈里发制，以解决国家政治体制改革中的老大难问题。然而，当时凯末尔要进行的这项政治体制改革所面临的困难是很大的，不仅封建神权专制的拥护者们坚决反对这项政治体制改革，同时凯末尔的许多忠于传统制度思想的亲密同事和一些大国民议会议员也坚决反对。
当凯末尔决心一劳永逸地结束奥斯曼帝国封建君主政治权力的时候，他曾经向一些最亲近的同僚征求意见，结果却发现他们仍然对素丹表示忠诚。例如，凯末尔在问起民族解放战争时期他的最亲密战友劳夫关于这个问题的看法时，后者回答说：“在良心和感情上，我是离不开素丹和哈里发的，我有责任继续对君主保持忠诚，我对哈里发的爱戴，是我所受教育的结果。”劳夫用严肃的口吻继续说道：“废除素丹和哈里发，而另设其他性质的官职来代表，将会造成失败和灾难，这是千万做不得的。”当时坐在凯末尔身边的许多亲密战友也都表示同意此种看法，并且还说：“事实上，根本就不存在废除素丹制和哈里发制以外还有其他形式的政府。”然而，凯末尔估计了当时国家的政治形势，并得出了与他的那些亲密战友不相同的结论。在他看来，素丹和哈里发由于在奥斯曼帝国民族解放战争中同外国侵略势力相勾结，所以已经被弄得声名狼藉、威信扫地，他们的政治影响已经成为过去的东西，而民族革命派在民族解放战争中则建立了崇高的威望，并且手中有强大的军队做后盾，所以逐步废除素丹和哈里发的时机已经成熟。特别是当协约国一方面同以凯末尔为首的民族革命派政权签订和约，另一方面又顽固地继续坚持承认素丹政府，这种别有用心的双重承认，企图使国家政权陷入一种分裂的状态，促使凯末尔更加坚定了废除素丹和哈里发制的决心。
在经过长时间的深思熟虑之后，凯末尔决定把素丹和哈里发这两个职位分开，并先废除前者，而暂时保留后者，从此在国家中将不再拥有素丹，而只让一位奥斯曼帝国的王子来担任哈里发的职位，并严格限定他仅拥有宗教权力，而没有政治权力。凯末尔希望通过这种折中的办法来瓦解宗教分子对社会政治变革的反对，这样既保持了一个超越国家政治之上的合法宗教权威所具有的优点，同时又结束了素丹的个人专制。1922年11月1日，安卡拉的大国民议会通过了包含两项条款的决议。第一项条款宣布“奥斯曼帝国的人民认为，在伊斯坦布尔的那种依靠个人统治形式的政府已不复存在，至此，已经永远成为历史。第二项条款承认哈里发职位应属于奥斯曼王室，但规定哈里发只能依靠国家而存在，并应该由大国民议会遴选奥斯曼王室中最为品学兼优的王子来担任。”同年11月16日，大国民议会又决定，以勾结英国的叛国罪，将把素丹及主要大臣交付国家最高法庭审判。素丹穆罕默德四世11月17日得到消息后，见大势不妙，还没有等到大国民议会来评定他是否品学兼优，便在一个伸手不见五指的漆黑夜晚，带着他那不满10岁的幼子，从王宫侧门仓皇逃出，登上了一艘英国军舰逃离奥斯曼帝国。至此，留传了600多年的奥斯曼帝国素丹制，随着这位最后一代素丹的逃亡而一去不存在。不久，素丹穆罕默德四世的堂弟麦吉德被选为新的哈里发。然而，此时的哈里发制，也随着素丹制的灭亡而，摇摇欲坠了。
凯末尔在终于办完了奥斯曼帝国素丹制的丧礼之后，又开始为下一阶段的国家政治体制改革做好了准备。他首先需要一个政治工具。虽然保卫权利协会曾经在奥斯曼帝国的民族解放战争时期做了许多工作，但它却满足不了一个享有和平与独立现代国家的需要。凯末尔这时着手要把它改变成为一个在现代国家政治体制运作中的真正政党。凯末尔经过走访全国各地，同国内各社会阶层的代表们诚恳地交换了意见之后，在他的领导下，1923年8月9日，一个叫做人民共和党的新政党宣布成立，凯末尔担任该党的主席，它是这一时期国家中的惟一政党。与此同时，凯末尔另外又准备进行一项更加彻底的政治体制改革。首先是在1923年10月24日，正式宣布定都安卡拉，其次是宣布共和。1923年10月29日，大国民议会云集各方显要数百人，在经过许多小时的激烈辩论之后，当天晚上8点30分，成立共和国的决议案以158票获得通过。虽然有许多人投了弃权票，却没有一个人投反对票。15分钟之后，也就是在8点45分，大国民议会一致选出凯末尔为土耳其共和国历史上的第一任总统。凯末尔任命他的亲密战友伊斯梅特·伊诺努将军为他的第一任内阁总理。同一天晚上，在全国各地发布了这项消息，午夜后，全国各地都鸣炮101响以示庆祝。定都安卡拉和宣布成立共和国，凯末尔的每个政治行动都象征着进一步割断与奥斯曼帝国历史的联系，以及预示着一个新时期的到来。
并不是所有过去奥斯曼帝国的臣民们都能够以同样的历史现实主义眼光看待国家时事的发展，所以虽然在许多地方宣布共和受到了热烈的欢迎，认为这是一个新时代的开始，但是在其他的一些地方，宣布共和则给人们带来了一种震惊和悲伤，以及对于未来的无限忧虑。特别是对于那些国内的保守派分子们来说，他们之所以反对共和，主要是认为它危及到广大民众同自己伊斯兰的过去，以及与自己帝国历史的联系，同时也危及到长期以来一直以他们为首的那个庞大的伊斯兰世界之间的联系。因此，传统的保守派势力也就不可避免地全都集聚到了作为两重感情的活生生象征者哈里发本人的周围来了。哈里发麦吉德虽然也不失为温和的、具有学者风度的、人品风范颇佳的人，然而他却不惜使他自己出来承担了一个很可能是反对土耳其共和国政治体制变革和凯末尔本人的精神领袖，他本人也试图把他在宗教上所起到的作用扩大到国家政治上，而不甘心充当徒有虚名的哈里发他曾一度谈到“哈里发宝藏”并在各项社会活动中极力模仿素丹的威严和奢华，置大国民议会的指令于不顾，除“穆斯林哈里发”的头衔外，他还给自己添加了“先知的哈里发”、“两圣地的侍从”、“阿布杜尔·阿齐兹之子”等令人眼花缭乱的头衔。他除了频繁接见以各种借口前来拜谒的人之外，每周五还要到不同的清真寺去参加聚礼，以此扩大其影响。他还多次要求大国民议会为他增加预算，来维持他那庞大的日常开支。哈里发麦吉德的这种所作所为不久便遭到了凯末尔的严厉指责。在1924年1月的一次大国民议会上，凯末尔对他发出尖锐申斥：“哈里发在他的府内，特别是在他公开露面的时候，似乎还是按照他的先辈素丹们的那一套办法在行事，而我们不能为了保持礼貌和表明道理而牺牲土耳其共和国。哈里发必须确实弄清楚他是什么人，他的职务是什么，并且应该要知足。”
以政教分离为核心的世俗化社会改革之后，国家政体仍然在传统文化的氛围中按照帝制的轨迹运行，这说明在土耳其社会发展的过程中，政治中心变革的复杂性，也说明在土耳其民族心理、意识形态和价值观念等精神文化层面上的社会变革，比政治、经济层面上的社会变革更为艰巨。因此，具有敏锐政治眼光的凯末尔，从奥斯曼帝国社会改革的历史进程中判断出，政治体制改革仅废除素丹制是完全不够的，还必须从政治的角度来考虑最终解决哈里发的问题。他认为，废除素丹制而单独保留哈里发制，只能使得国家元首问题变得很不明确，这是一件非常危险的事情。因为无论是在大国民议会里，还是在其他的一些地方，许多人都认为哈里发是合法的君主和国家元首，即哈里发制是一种君主立宪制，特别是对于那些狂热的宗教维护者来说这种看法更是顽固。
通过一段时间对局势的耐心观察，以及政治上的深思熟虑之后，凯末尔决心彻底解决作为封建神权精神支柱的哈里发制问题，从根本上消除国家政治制度中所存在的各种模糊观念和混乱局面。不过，废除哈里发制要比废除素丹制更为困难，甚至要冒极大的政治危险。巨大的压力是来自各方面的，首先是宗教界的代表们在大国民议会中公开声称：“议会应属于宗教，伊斯兰教就是一切。”1923年11月11日，土耳其国内一家著名的报纸《塔宁报》的一篇社论就真实地反映了一般民众当时的心理状态。文章中这样写道：“如果我们没有了哈里发，那么奥斯曼连同它的500万或1000万人口，就将失去他们在伊斯兰世界的重要性，并且在欧洲政界人士的心目中，我们将会下降到微不足道的小国之列。”此外，哈里发制问题所引发的社会关注，还远远超出了土耳其共和国的国界，并且从世界各方面，特别是从印度接到了对土耳其共和国政府意图不安的询问。1923年11月，印度什叶派穆斯林领袖阿加汗和阿米尔·阿里致函土耳其共和国总理伊斯梅特·伊诺努，要求将哈里发置于一种“能够获得各穆斯林国家的信任与尊敬，同时又能够给予土耳其共和国以特殊力量与尊严”的地位。这封信在送达伊斯梅特·伊诺努总理之前，土耳其最大城市伊斯坦布尔的报界已经抢先发表了全文。然而，国内外反动宗教势力相互勾结的这个政治信号，恰恰给废除哈里发制提供了最方便的口实。凯末尔决定抓住这个千载难逢的机会，排除一切干扰，彻底废除哈里发制，对国内的伊斯兰教教权组织进行一次毁灭性打击，不再让他们妨碍他所倡导的以政教分离为宗旨的政治体制改革，以便完成一项惊天动地的历史伟业。他首先同人民共和党和中央政府内几位职位显赫的主要支持者达成协议，然后说服国内几家具有影响力的大报编辑们，发动了一场反对哈里发制的舆论宣传运动，把哈里发制的存在说成是影响土耳其民族社会进步的最大障碍，并且呼吁把伊斯兰教的信仰从数世纪以来惯于充任政治工具的地位中拯救出来，使其得到纯洁与提高。
1924年3月3日，土耳其大国民议会开会讨论关于废除哈里发制的议案。在会上，司法部部长赛伊德首先作了长篇发言，论述哈里发制的起源及其发展，以此来说明哈里发制的存在纯粹是土耳其民族的事情，所以哈里发制的存在与否完全应该服从时代发展的需要。此后，议员们投票通过了废除哈里发制的法案，并决定将所有奥斯曼王室成员驱逐出土耳其共和国。第二天一早，天刚刚发亮，神色慌张沮丧的麦吉德被装进一辆小汽车，前往火车站赶乘开往欧洲的东方列车。至此，最后一位哈里发也随着最后一任素丹走上了流亡的道路，一个多民族、多语言、多宗教，具有悠久历史和辉煌成就的王朝帝国，在现代社会不断进步的冲击下终归于灭亡。