长期以来，中国共产党皖南地方组织及其领导下的人民武装始终坚持与国内外敌人进行艰苦卓绝的斗争。中共皖南地委成立于1946年2月，胡明任地委书记，负责组建、发展皖南地区各级党的组织，开展对敌斗争。1948年8月，为迎接人民解放军渡江，中共皖南地委决定在皖南沿江地区建立沿江工委，任命孙宗溶为工委书记，陈洪为副书记兼军事部长。沿江工委辖太平、石埭、贵池、青阳、泾县、南陵、铜陵、繁昌、芜湖、当涂、宣城11个县，并划分为6大片，分别成立6个县级工委。1949年1月8日，皖南地委发出《关于目前形势及任务的指示》，要求所属各级党组织和游击队，以迎接人民解放军渡江为中心工作，“紧急动员一切力量，准备迎接大军渡江”[20]。2月7日，皖南地委又发出补充指示，对迎接大军渡江作进一步的具体布置。2月20日，中共沿江工委根据皖南地委的指示，作出《为紧急完成迎接大军渡江任务的决议》，要求所属6个工委和游击队立即行动起来，做好“江边工作”、“党群工作”、“武装工作”、“财粮供给工作”、“敌军情报交通工作”、“政权统战工作”，[21]全力以赴为大军渡江准备好登岸、补充物资和休整的基地。
与此同时，中共领导的皖南沿江地区游击队在人员规模和武器配备上都得到了加强，并于1949年初改编为人民解放军皖南沿江支队（简称沿江支队），支队长由陈洪担任，李友白任副支队长，孙宗溶任政治委员。1949年1月至4月，沿江支队主动出击，拔除据点，袭扰敌人，“先后拔除太平县的新丰、郭村、焦村，青阳县的杨田，泾县的背屋里、汀潭，石埭县的乌石垄、夏村，南陵县的三里店等敌据点，歼灭守敌480余人，缴获机枪9挺、步枪280余支”[22]。
为搜集国民党军队布防长江的情报，中共皖南地委及其游击队采取多种办法：一是由皖南地委用电台直接向江北人民解放军发报，主要是将收集到的敌方战略性情报发送出去；二是由沿江工委及沿江支队负责收集敌方江防的战术性情报，并派人直接送到江北。为此，沿江工委确定由副书记陈洪和三工委（泾县、青阳、南陵地区）书记陈作霖具体组织沿江敌防情报收集传递工作。沿江各县地下党组织立即建立了一个由十几个情报站、点组成的途经铜陵、繁昌、芜湖、当涂的情报交通线，并和江北保持秘密、经常联系。中共铜陵县委还专门组织训练一支水手队，负责给江北传送情报。六工委（芜湖、当涂、宣城）又在芜湖安排情报员，将情报送往对岸二坝。
渡江战役前，沿江工委及沿江支队千方百计收集到3份重要情报。一份是由中共繁昌县委通过多种渠道获得的关于驻芜湖国民党第二十军将要调防铜陵、繁昌一线的情报，4月18日，由人民解放军先遣渡江大队的电台发往江北人民解放军前线指挥部；另一份是沿江支队铜陵游击队副指导员孙运松带两名侦察员，于4月15日化装深入到国民党军驻铜陵坝埂头的炮兵阵地内部，将大炮分布、数量、类型及指挥部位置绘制成图，交由水手赵邦银于4月17日泅水渡江，送往江北的人民解放军；还有一份是由芜湖、当涂、宣城工委搜集的国民党军在芜湖至当涂一线布防的军队番号、地形、火炮位置等情报绘制成图，由地下党员章启和趁黑夜乘小渔盆偷渡长江，送往江北人民解放军第二十二军。3份重要情报的获得和及时传递，对人民解放军夺取渡江作战的胜利具有十分重要的价值。
中共皖南地委还在宣传和统战方面做了大量工作。2月15日，在芜当宣工委组织下，芜湖、当涂、宣城的地下党将事先印制好的传单、标语一夜之间张贴散发至3县各城镇大街小巷，引起极大的社会反响。中共中央华东局国区部芜湖工作组在皖南地委支持、配合下，由组长方向明和组员范治农、石原皋出面，于渡江战役发起时，成功策动了国民党安徽保安第五旅、“安东号”军舰和芜湖县长谢汝昌的起义，这3次较大的、有影响的起义，有效地配合了人民解放军的渡江战役。
为进一步掌握国民党军江防情报，1949年4月6日夜，人民解放军第二十七军以侦察营为基础，组成300余人的渡江先遣大队，在第八十一师二四二团参谋长亚冰（又名章尘）、军侦察科长慕思荣率领下，分两批偷渡长江，在江南铜陵与繁昌交界地带登岸，并迅速越过国民党军江防封锁线，于4月10日在南陵县板石岭找到中共繁昌县委负责人王佐、杨鹏。11日，先遣大队到达泾县陈塘冲，与陈洪、陈作霖见面。13日，孙宗溶、李友白率沿江支队主力赶到陈塘冲，与先遣大队会合。随后，先遣大队与沿江支队全力合作，侦察国民党军兵力分布、工事构筑、兵舰航线及活动情况，及时传送至江北，为人民解放军拟定渡江作战具体方案提供第一手情报。
渡江战役打响后，渡江先遣大队和沿江支队及沿江各县游击队主动出击，占领繁昌县内的大磕山等地，攻击江防敌军的侧后；剪断敌军南陵至繁昌的电话线；在长江南岸部分地方点燃火堆，为人民解放军渡江部队指示目标。沿江支队和中共皖南地委组织领导的其他游击队在人民解放军胜利渡过长江后，参与解放了皖南多个县城，其中有些县城更是以皖南游击队为主要力量而获得解放的。中共渡江战役总前委书记、人民解放军第二野战军政治委员邓小平在渡江战役后的工作报告中，对皖南地下党、游击队给予充分的肯定，“江南地下党、游击队配合了渡江作战。我们曾开过去一支部队，埋伏了10天，敌人还不知道”。并将“群众支援，地下党和游击队之配合”[23]作为渡江战役获得胜利的三大原因之一。
二、皖南的解放
1949年4月20日夜，人民解放军发起渡江战役，拉开了皖南解放的大幕。在中共皖南地下党及其领导的游击队配合下，人民解放军部队势如破竹，摧枯拉朽，仅用不到10天时间就全部解放了长江安徽段以南地区。皖南的历史从此翻开新的一页。
4月21日，人民解放军第二野战军第三兵团突破长江天险，抵达南岸后，立即向贵池县城发起攻击，城内国民党守军溃逃。午夜12时，人民解放军第十一军攻入贵池。贵池宣告解放。
同日，人民解放军第三野战军第二十七军在渡江先遣大队的配合下，攻克繁昌县城，繁昌解放。
同日，人民解放军第二十四军突破国民党军长江防线，进抵铜陵城外，晚8时，在皖南沿江支队的配合下，攻下铜陵县城，铜陵解放。
4月22日，人民解放军第四兵团在21日抵达长江南岸后，乘胜追击，驻守东至县城的国民党军队不战而逃。人民解放军进入东至县城，东至解放。
同日，人民解放军第二十七军在皖南沿江支队的配合下，歼灭驻守南陵的国民党军队第八十八军一部，占领南陵县城，南陵解放。
同日，中共泾（县）旌（德）太（平）地区游击队在连续攻打太平县城一整天后，守城的国民党地方部队被迫投降，游击队接管县城，太平解放。
4月23日，人民解放军第七兵团于21日渡过长江后，立即向纵深发展，并与皖南沿江支队配合，歼灭驻守青阳县城的国民党军第八兵团一部，青阳解放。
同日，人民解放军第九兵团于21日在芜湖附近澛港一带突破国民党军队的防线后，进攻芜湖市。驻守芜湖的国民党海军第二舰队所属4艘军舰和城内军警人员全体宣布起义，人民解放军第三十军第八十八师从芜湖城南门、中山路进入市区，沿途受到芜湖市民的夹道欢迎。芜湖解放。4月27日，人民解放军芜湖市军事管制委员会成立，第三十军军长谢振华任军管会主任。
同日，人民解放军江淮军区部队于21日渡过长江，抵达马鞍山西面后，旋即向马鞍山进击，占领马鞍山，并接管矿警武装，马鞍山解放。
4月24日，人民解放军部队继续追击南逃的国民党军队，皖南沿江支队乘机攻占石埭[24]县城，解放石埭。
同日，人民解放军第二十七军迅速南进，歼灭驻守宣城的国民党第九十九军军直及所属第九十二师大部计4000余人，占领宣城。宣城解放。
同日，在人民解放军渡江后，驻守泾县的国民党军第一〇六军被迫南逃，皖南沿江支队迅速挺进泾县，并占领县城，泾县解放。
同日，中共泾（县）旌（德）太（平）地区游击队在拦击南逃的国民党军队的同时，派出武装攻打宁国县城，歼灭守城的国民党军队两个连，宁国解放。
同日，人民解放军皖南独立旅和绩（溪）旌（德）总队在攻打旌德县城24小时后，守城的国民党保安队缴械投降，旌德解放。
同日，皖南沿江支队进攻当涂县城，守城的国民党保安队不战而降，当涂解放。
4月26日，人民解放军第七、九兵团在广德一带集结，为切断从芜湖、南京、镇江等方向南逃而来的国民党军队退路，派兵攻占广德县城，广德解放。
同日，中共皖浙赣边区游击队攻打祁门县城，城内守军国民党保安队投降，祁门解放。
4月27日，人民解放军第十兵团渡江后，在郎溪县境内集结，以配合第七、九兵团共同作战，围歼南逃的国民党军队。因围歼战的需要，人民解放军攻占了郎溪县城，郎溪解放。
4月28日，人民解放军第十一军在进攻歙县县城，并全歼国民党守敌2000余人后，占领了县城，歙县解放。
同日，中共皖浙赣边区游击队攻下休宁县城，休宁解放。
4月29日，中共皖南游击队于27日进抵黟县城下，封锁县城所有向外突逃的通道，守城的国民党自卫队被迫全数缴械投降，中共皖南游击队开入城内，黟县解放。
4月30日，中共皖浙赣边区游击队派出一部分武装进攻绩溪县城，歼灭守城的国民党残兵，绩溪解放。
屯溪市位于皖南山区腹地，人口密集，商业和交通都比较发达。渡江战役前的1949年4月初，刚任国民党安徽省政府主席的张义纯即将省府各厅、局，从安庆、芜湖迁往屯溪，以图继续维持其统治。渡江战役打响后的4月26日，张义纯见势不妙，带着一批官员又匆匆撤出屯溪，向浙江方向南逃。省府留守处主任兼警备司令方师岳仅带400余人的部队守城。中共皖浙赣游击队敦促方师岳起义。方师岳见大势已去，接受投诚起义。4月28日，中共皖浙赣边区游击队战士列队开进屯溪市区，受到屯溪市民的热烈欢迎。屯溪，这个国民党政权在皖南的最后一个据点，获得了和平解放。4月30日，人民解放军屯溪市军事管制委员会成立，中共皖浙赣工委副书记余华任军管会主任。
4月30日，人民解放军主力部队到达屯溪，未及停留，继续追击南逃之敌。5月7日，人民解放军在浙江开化山区一举将南逃的张义纯和安徽省保安副司令兼皖南师管区司令阮云溪等捕获，同时俘虏国民党安徽保安部队5000余人。至此，国民党政权在安徽的统治被彻底消灭，皖南全境获得解放。
人民解放军在渡过长江、解放皖南的过程中，有三次大规模的歼灭国民党军队的战斗。一是湾沚之战：4月24日，人民解放军第二十五军第七十四师将从长江防线南逃的国民党军第二十军大部分和第九十九军一部分，阻截于湾沚东南，双方展开激烈的战斗。在人民解放军第三十军增援下，终于在傍晚5时后将国民党军队击败。是役共歼敌1.3万余人。二是广德之战：4月26日，人民解放军第九、十兵团日夜兼程，将从南京、镇江地区南逃的国民党军第二十八、四十五、五十一、六十六军包围在广德和郎溪山区，并实施猛烈攻击，战至29日，全歼国民党军8万余人。三是徽州之战：4月27日，人民解放军第十二军一部经过强急行军，插至徽州东南地区，截断驻徽州国民党第一〇六军南逃退路，歼敌1200余人。28日，又围歼自徽州向东南逃窜的国民党军3000余人，同时，将自繁昌、旌德两县南逃至徽州的国民党保安团1000余人包围、俘获。5月1日，人民解放军第十二军一部北返旌德时，围歼国民党军暂编第二师主力，歼敌3500余人。徽州之战共歼敌近万人。经过这三次大规模围歼战后，皖南境内再无国民党军主力的踪影。
1949年5月5日，人民解放军第二野战军第三兵团本部到达歙县，与中共皖南地委领导的皖南游击队会师，并举行有3000余官兵参加的庆祝胜利会师暨皖南全境解放大会。第三兵团司令员陈锡联在大会上讲话，他代表第三野战军司令员刘伯承、政治委员邓小平，充分肯定皖南地委和皖南游击队在策应大军渡江、解放皖南的战斗中所起的重要作用，赞扬他们在皖南敌后依靠群众，英勇顽强，坚持斗争的革命精神。皖南游击队司令员熊兆仁、政治委员胡明也在大会上讲话，欢迎主力部队的到来，庆祝皖南解放。
三、华北南下干部纵队随军抵达皖南
皖南在渡江战役前基本上为国民党政权控制，中共皖南地委处于地下状态，中共领导的皖南游击队大多在农村山区从事武装斗争。这片长期被国民党统治的地区在获得解放后，如何迅速建立中共领导的人民政权，是摆在中国共产党面前亟待考虑和解决的重要问题。