胡适是安徽省绩溪县上庄村人。绩溪是徽州北面的一个小县，山多地少，农业不甚发达，经济来源主要靠经商。因此在旧社会，穷人家的孩子，十二三岁就出外谋生了，多数做学徒。所以社会上流传着“无徽不成镇”、“徽州帮”、“徽骆驼”等佳话。这说明在城市里各处都有徽州人在做生意，而他们经商的本领具有骆驼的奋斗精神，能吃苦耐劳，生财有道。正因为如此，胡适的家世，到他高祖时已在上海黄浦江对岸的川沙开了一家茶叶店了，后来他祖父又在上海设了一个分店。这两个铺子的收入，便是他们一家大小20余口的经济来源。
胡适父亲名叫胡传，原名珊，字铁花，号钝夫，乡里人称他为“珊先生”。1841年3月11日（道光二十一年二月十九日）生于安徽省绩溪县上庄村。上庄在绩溪城西大约40公里，是一个聚族而居的村庄。其地形背靠竹竿峰，村前有一条小溪，日夜不停地奔流。胡适喜欢南宋诗人杨万里的诗，曾用他的一首绝句《桂源铺》来描绘其景致，诗云：
万山不许一溪奔，拦得溪声日夜喧，
到得前头山脚尽，堂堂溪水出前村。
上庄的村景，大致如此。胡传兄弟共五人，他是老大，自幼聪明伶俐，甚得他伯父胡星五的喜爱。一天，星五对弟弟胡奎熙说“吾家世业茶，然此儿慧，勿以服贾废读”，建议让侄儿读书求学，不要以茶叶店里的事务耽误了他的前程。其弟接受他的意见，后来把胡传带到川沙，在茶叶店里一边读书，一边学做生意。
胡传25岁时进学为秀才。之后参加过几次“省试”，虽然未能得中，但仍继续努力攻读。27岁时入上海龙门书院学习。该院山长（院长）刘熙载是当时扬州有名的经师。胡传在此受教三年，学问大有进步，其中对宋明理学及地理学很有兴趣和心得。这些后来对胡适影响不小。
那时在这个书院学习的学生，每人每天得写一份“日程”和“日记”。前者记载学习的进度，后者记学习的心得。这种笔记本，其格式是由书院统一印发的，卷首均印有朱熹和张载等人的语录。其中张载的“为学要不疑处有疑，才是进步”一条，对胡适很有启发。由此我们可以看出，胡适当年提出“大胆假设，小心求证”的口号，其中不仅有美国杜威的学理，而且还埋藏着中国理学家的精神。
胡传“学而优”，但未能为仕，故从31岁起在家乡以教授子弟为生，并料理家务。如此11年，至42岁时，因家中人口渐增，生活成了问题，于是决定出门远游，另图发展。那时他们家族中有一位亲友胡宝铎在京任兵部主事，因此他借了一笔旅费北上谋事。到北京后，胡宝铎及另一位好友张佩纶分别给他写了信，介绍他到东北投奔当时与俄国人办理边界纠纷的钦差大臣吴大澂。胡传走了42天才到吉林。吴是一个自修成名的大学者，他一见胡传，问胡有什么可以替他为力的。胡回答说，没有什么，只求准我随您去解决中俄界务的纠纷，使我得以研究东北各省的地理。吴对他潜心好学的精神十分赞赏，于是聘请他为府中幕僚襄助一切。
胡传46岁时，母亲病故，回家奔丧。次年转往广州投奔新改任广东巡抚的吴大澂，吴派他到海南岛调查当地民情，拟作开发计划。胡传走遍琼岛，历尽艰辛，对当地风土人情、地理概况皆有详细记载。后来胡适将它发表在《禹贡半月刊》上，对研究地理学者是一份珍贵的历史资料。
1888年，黄河在郑州一带决口，吴大郘奉清廷命调任河道总督，设署于郑州，胡传闻讯，再次投奔，助吴修堤治河。因有劳绩吴保举他，以直隶州候补知州分发各省候缺任用。1889年春胡传请假回家结婚，时已49岁，为第三次娶亲，前二妻早已过世。婚后胡即携眷返郑州继续治河。次年胡离河南到北京等候签派官职。那时朝廷认为合格的官吏，派遣何处任职，多凭抽签决定。这次胡传抽得往江苏候补的签，因此他携眷到江苏省会苏州等候了两年。后来被派往上海任“淞沪厘卡总巡”（税务官），就在这年（即1891年）胡适降生了。胡传这时在官场中已稍有名望，具有“能吏”之称，而家中又得一子，自然是满心欢喜
翌年，胡传被清廷调往台湾任职，因路途遥远等情，将家眷暂留上海，只身赴台。不料此行一去竟达四年之久，开始是协助台湾巡抚邵友濂视察全岛军务，曾有《日记与禀启》记其事，对台湾军事防御力之差，甚为感慨！因此向上司反映，主张买炮舰，练就一支海军，以为全岛防务之用。这个建议当时曾得到上级的重视，所以他后来当上了武官。
1893年胡传被委派为代理台东直隶知州，旋即兼领台东后山军务。就在这年2月26日胡适随母及其四叔等人自沪抵台，合家才得以团聚。但不久遇中日甲午之战，他们又分离了。1895年中国战败，与日本签订《马关条约》，其中有这样一条，即中国割让台湾、澎湖列岛和辽东半岛给日本的条款，因此，清政府随即命令在台文武官员撤退回大陆，但遭到台湾居民强烈反对。他们要求继续抗日。在这种形势下，台南守将总兵刘永福被举为统帅，领导清军与民军共同抗日。但寡不敌众，又没有后援，他们坚持了四个多月，最后终于被迫撤退。他们走了，但当时反割台的斗争，仍一直在进行中。
胡传在这次反侵略的战争中，坚守台东后山地区。之前，他曾将家眷托四弟介如携返回原籍。1895年4月27日他接到上司撤退命令后，即准备离职内渡，可是当他行至台南时，已染上了严重的脚气病，两腿浮肿，行动困难。这时刘永福已宣布抗日，要留下他共同抗敌。胡传不好推辞，只得留下，协助永福，运筹帷幄与敌周旋。后因病情加重，刘始允他离台，同年8月18日上船内渡，22日即病故厦门。这时胡适不到四岁。
后来，胡适在《四十自述》里回忆当时的情景时说：“这时候我只有三岁零八个月，我仿佛记得我父亲死信到家时，我母亲正在家中老屋的前堂，她坐在房门口的椅子上。她听见读信的人读到我父亲的死信，身子往后一倒，连椅子倒在房门槛上。东边房门口坐的珍伯母也放声大哭起来，一时满屋都是哭声，我只觉得天地都翻覆了！我只仿佛记得这一点凄惨的情状，其余都不记得了。”