傅斯年死后，台湾国民党“行政院长”陈诚电邀胡适继任台大校长，但遭到谢绝。胡适在给赵元任信中说：“孟真死后，有一个时期，陈辞修（陈诚）逼我回去做台大校长。我力辞，并推荐钱思亮，听说辞修大概决定思亮就任了。”后来陈复电表示准辞，称“不强先生所难”，接受胡建议任钱为台大校长。在此之前，蒋介石曾写信给胡适，要他返回台湾，准备为他祝寿，也被他谢绝了。胡适说：“我本想回国看看，结果因事牵扯，分不开身，兼之心脏病复发，只好婉谢总统的盛意了。”由上述两事可看出，台湾当局那时是想积极争取胡适回到台湾，但结果都没有成功。
胡适虽然没有回到台湾，但他对台湾国民党政府仍抱着希望。同年3月1日，蒋介石在台北发表文告，宣布复职。他与在美的曾琦（青年党人）联名发电，表示祝贺。这时李宗仁仍居美国，后来“副总统”的名义，也被蒋介石收回了，可见台湾已成了蒋家的天下。胡适对这种独裁政治是感到怨烦的，但“皮之不存，毛将焉附”；故他还是把希望寄托在国民党身上。
1951年12月17日，这天是胡适的生日，天气很冷，大雪纷飞，他在普林斯顿大学讲学回家的车上暗自思量：今年已是61岁了，所得的心脏病连人寿保险公司都拒绝保险，他常带着药瓶走路，生命可能忽然结束，所以下决心无论如何应在有生之年，还清一生中所欠的债务，于是定下“生日决议案”：第一笔债是完成下卷《中国思想史》；第二笔债完成下部分《中国白话文学史》；第三笔债《水经注》的考证也应该判决了；第四笔债是如果国家有事，只要力所能及，无论为团结自由力量，为自由中国说话，都愿尽力而为。由此可看出，胡适客居外域，晚景并不乐观，其中苦楚凄凉、思念故园之情跃然纸上。在这种思想指导下，第二年他在普林斯顿的聘约满期后，接受台湾大学及台湾师范学院的邀请，11月19日由美第一次回台湾省，旋即在台大以“治学方法”为题，连续作了三次学术报告。讲的内容多是过去的老话，他说：方法是什么呢？我曾经有许多时候想用文字做一个公式或一个口号、一个标语，把方法扼要的说出来，但没有一个满意的表达方式。现在我想起二三十年的那两句话，即“大胆的假设、小心的求证”是治学方法的一种很简单扼要的话。第二次讲治学要养成“勤、谨、和、缓”的良好习惯，所谓勤，就是不偷懒，举他考证《水经注》上天下地去找材料经验为例。谨，是不苟且，不潦草，不拆滥污。孔子说的“执事敬”，就是小心求证的“小心”两个字。和，是虚心、不武断、不固执成见，不动火气。他说：“动了肝火，是非就看不清”，“谦虚的跟着事实走，不管它带你到什么危险的境地去”。这就是和。缓，是不要着急，不要轻易发表，不要轻易下结论。在证据不充分或不满意的时候，姑且悬而不断。悬不是不管，而是去找新材料，等到找了更好的证据，再来审判这案子。他认为这点很重要，“如果不能缓，也就不肯谨、不肯勤、不肯和了。”最后他说，有好习惯当然就有好的方法、好结果。第三次讲方法与材料，大意是说，材料可以帮助方法，材料不够，可以限制做学问的方法，而且材料的不同，又可使做学问的结果与成绩不同。他说，做研究工作要得到好的成绩，需要有三个条件：（一）直接的研究材料；（二）能够随时地扩大材料；（三）能够扩充研究时所用的工具。他举《红楼梦》的研究为例，说：因为所用方法比较严谨，比较肯去上天下地动手动脚找材料，所以我们研究工作才能有点成绩。这点他感到可以自慰的。
之后，他在台湾师范学院讲《杜威哲学》两次，又应社会各界之聘，作了多次演讲。有一次，在新闻界的欢迎会上谈他治学的经验，其中特别强调要“小题大做，不要大题小做”。他说，“我教书教了30多年，都是拿极小的题目，各方面研究周到。否则便毫无用处。”“能够这样研究下去，一定有成。”并引佛语“功不唐捐”来加以说明，努力是不会白费的。此外，他在台东曾与中学生讲《中学生的修养与择业》问题。关于修养，他说应该注意两点：（一）是工具的求得，不论就业或升学，语言文字是最需要的工具；其次是基本的科学知识，在学校里读书，应该把它当做求知识、做学问、做人的工具。他说，拿工具的观念看功课，功课便是活的，这也可以说它是中学生治学的方法。（二）要养成良好的习惯，他说中学生是定型的阶段，与其注重治学的方法，倒不如提高良好的习惯的养成。有了良好习惯，无论做人做事做学问，将来都会有成就的。至于择业，他主张应该根据个人的兴趣、性格、天才，看适于那一行、能干什么，就去干什么；不可赶时髦，求好的待遇。选择学业也如此，应该根据自己的性情、天才来决定，不可勉强从事。胡适在台湾住了两个月，于次年1月17日返美。
这次胡适返台，受到蒋介石热情的接待，约他共进晚餐。在交谈时，胡向他提建议，要求改良政治。胡适说：“台湾今日实无言论自由。第一，无一人敢批评彭孟缉。第二，无一语批评蒋经国。第三，无一语批评蒋总统。所谓无言论自由，是尽在不言中也。”对此蒋不表示意见，而问胡适道：“召开国民大会有什么事可做？”这使胡适感到很奇怪，回答说：“当然是选举总统与副总统。”蒋又问：“这一届国大可以两次选举总统吗？”胡适说：“当然可以。此届国大召集是民国三十七年（1948年）3月29日。总统任期到明年（1954年）5月20日为满期，2月20日必须选出总统与副总统，故正在此第一届国大任期之中。”蒋要连任“总统”，希望胡适帮忙制造舆论，故对胡说：“请你早点回来，我是最怕开会的。”蒋希望胡适返台，参加国民党召开的第二届“国大”，助他当选。胡适对此表示惊讶地说：“这最后一段话，颇使我惊异。难道他们真估计可以不要宪法了吗？”（以上见于《胡适的日记》）
胡适回到美国后，辞去所有教职，专心从事中国思想史的著述，其中大部分时间用在整理朱熹的学说，《水经注》的工作暂时停止。1954年2月18日又回台湾省，出席国民党政府召开的伪国大二次会议。当有人问他的生活时，他跟人家开玩笑地说，“已经‘失业’一年多，也‘自由’了一年多”。这次在台湾住了一个半月，对台大学生讲《中国古代政治思想史的一个看法》及《美国大学教育的革新者——吉尔曼的贡献》； 在省立第一女子中学讲《白话文的意义》；并出席了教育部动员月会。在这个会议上，他对台湾当局的留学政策发表了意见：希望放宽尺度，使青年学生有较多的出国升学机会。4月5日返美。后来他对为他作口述自传的唐德刚说，“共产党里白话文写得最好的还是毛泽东。”1955年又说：“我在这30年中从没有发表过一篇批评或批判马克思主义的文章，这是全国人知道的”。从这些话里，我们可以看出他对祖国大陆不是毫无眷念之情的。
胡适回到美国后，即出席哥伦比亚大学200周年纪念会，在会上以《古代亚洲的权威与自由的冲突》为题发表演讲。他说为讲这25分钟，却使我花了40余天的准备。它的要点有四：（一）是无政府的抗议：以老子为代表，主张无政府主义，他的哲学，可以说是无政府的抗议。（二）孔子、孟子提倡一种自由主义的教育哲学；认为个人有个人的尊严，“不降其志，不辱其身”。（三）古代极权政治的起来；以墨子的《尚同》思想为代表，它影响到商鞅。这种极权思想，后来用武力统一了中国，建立秦帝国。（四）由于汉朝初期有70余年无为而治的政策，使汉帝国有400年的安定局面。最后他说：中国2000年来的政治，实受“无为而治”的恩典，这是值得我们想想的。这篇演讲反映了他“自由主义”的立场、观点和方法，解释历史现象肤浅，当然谈不到是科学的了。之后，又为哥大东方学会及远东学会联合年会各提论文一篇：一是《中国思想史上的怀疑精神》，另一篇是《老子其人其书的年代考证》。这年6月在耶鲁大学容闳毕业100年纪念会上讲《容闳毕业一百年后》。9月撰《宁鸣而死，不默而生》。这是宋朝范仲淹的两句名言，他说，从国家与政府的立场看，言论自由可以鼓励人人肯说“忧于未形，恐于未帜”的正论危言；从时间上来说，这两句话是900年前一个中国政治家争取言论自由的宣言，比美国亨利柏得烈的“不自由，毋宁死”的话，要早740年。1955年后胡适除了做自己的研究工作外，先后接受美国一些大学的短期聘请，作学术演讲，如在加州大学讲学4个月，讲有关中国文化问题，共10讲；此外，在毕茨堡大学、耶鲁大学、哥伦比亚大学、弗吉尼亚州史威特布丙尔学院等校都作过短期讲学。
1957年2月17日胡适胃溃疡病重，随即住进纽约医院，将胃割去6／10，月余出院。3月17日写信给朱家骅，详述这次患病的经过，因伤风吃了治感冒的阿司匹林而引起。初未发现，直到吐血才进医院抢救。胡在信中说，“这个年轻朋友的当机立断，大概救了我的命。”可见病是不轻。6月4日他已经写下英文遗嘱，并请了台湾驻纽约的“总领事”游建文，中华教育基金会秘书叶良材，胡的同学、美籍友人李格曼及台湾驻加拿大“公使”刘锴等四人为签字的证人。其内容：身后愿火葬，骨灰则由治丧的友人们执行处理。遗产处理由四位证人代为处理。家中一切文稿、论文和存书全部捐赠台湾大学等等。7月26日写信给赵元任说：“我的看法是我有一个责任，可能留在国内比留在国外更重要。”之前，他有个想法：为要完成未完的著作，颇有回台定居的意思，经过这次大病后，自知来日无多。所以写信给赵元任提到回台湾的问题。此外他与台湾中央研究院的李济也表示过有回台居住的意思。他在信中说道：“想来想去最合适他的图书，是史语所的图书馆——这些书他以前在国内时，曾经常常地利用，现在他想回来完成几部著作，可就近利用史语所的藏书。他并且说，由他自己出钱，向中央研究院借一块地，建筑一座自己住的小房子。将来过了若干年后，就把这座房子捐给中央研究院”。胡适的消息不胫而走。蒋介石得知后高兴地说：“胡先生肯回来，不必自己花钱盖房子，政府可以给他办。”台湾当局很快作出反应，11月蒋介石以“总统”的身份明令发表胡适为台湾“中央研究院”院长，并称在他未到任以前，由李济暂行代理。与此同时“中研院”为他修建住宅，虚位以待。胡适经过一番客气后，终于允就，但他的医生不同意，认为还需要治疗，不宜开始工作。他不听劝告，1958年4月2日从纽约动身返回台湾。