陈立夫像听天书一样还是直摇头，蒋介石又解释道：“美国的联邦调查局，神通广大。大概你不会陌生吧？”陈立夫点点头。蒋介石继续讲道：
“凡是一个国家，受了外力的侵袭，为求自保，必须有一个健全组织的调统机构，你如果读过《管子》一书，就知道齐国的调统组织的健全，老百姓的一切，政府都调查得一清二楚，对外更不用说了，故能九合诸侯，一匡天下。说白了，调统其实就是帮助政府洞察内忧外患的耳目，现代人赋予他们的俗称叫特务，官名叫秘密警察。设在组织部门，一是防范共产党的渗透，二是对付党内的反政府势力。”
说到这里，陈立夫眼前一亮：“总司令，我懂了，你看我能行吗？”
“能行！”蒋介石一言为定。
陈立夫的担心不是没有道理，自己是文弱书生出身，从没有干过偷鸡摸狗的事情，然而蒋介石对偷鸡摸狗的人偏不选，独选自己这个文弱书生。蒋介石有蒋介石的道理，他是要按照自己的意向改造世界的：“就这样定了，你就上任吧！”
陈立夫从蒋介石办公室走出来的时候，三星已指南方，天穹很黑又很深。心中的不安并没有因为刚才的谈话而减轻。他在自己的回忆录中很有意思地写道：“我奉到这个命令，感到我的个性对此颇不适宜，并且对这项工作丝毫没有知识和经验，因为我是学采矿工程的，对物而不对人。”于是，他便急急地找到戴季陶，因为是要好的朋友，一吐为快。戴季陶听完陈立夫的叙说，便发表个人的意见：“你是一位和善而有智慧的人，做调查工作的人，固然三教九流的人都需要，但是要去管这些人的人，需要一位慈祥而公正的人，才能管住他们而不出乱子。你看寺庙中两边站的十八尊罗汉，个个都是横眉怒目三头六臂的，但是中间坐的那位如来佛，却是何等的慈祥雍贵，唯其如此，才能管得住，做得好。所以蒋先生要你去做，就是这个道理，我看你还是从命吧。”
其实，戴季陶巧言令色，真正的用心处，还是帮衬蒋介石。直到抗战爆发后，陈立夫改做教育部长，戴季陶向陈立夫道贺时，才吐出真言：“你能够摆脱调统工作，是你的聪明过人，我当时劝你接受任命，喻之以如来佛之管十八尊罗汉，今竟能安全解脱，真是你的造化，恭喜恭喜。”此为后话不说。
陈立夫走马上任后，首先是专门人才短缺。陈立夫所任用的人，按他自己的原话说，“多半是美国留学生，学工程与自然科学或社会科学的，所以调查科开始组织，就是请这些人帮忙参加，他们中没有一个懂美国FBI（联邦调查局）或苏联的格别乌类似我们的调统工作的。我们的科分调查和统计两组，一面做，一面学。究竟这些人是受过高等教育而有科学训练的……我们的工作进行得非常顺利，不久就破获了若干共党秘密机关”，抓捕共产党人16000余人，这些“骄人战绩”，深得蒋介石的赞赏。
由于中央组织部调查科的班底由高学历的留美生组成，这就使得“中统”（后改名为中国国民党调查统计局）具有鲜明的技术专家的特征。由此波及他的工作方法、工作作风和办事特点等形成了与“军统”别样的风格。后来，“中统”与“军统”统称为蒋家王朝的两大特务组织，他们的互为犄角，明争暗斗，除了中统人士自恃白领身份看不惯军统的粗野狂妄外，“同行冤家路窄”是主要原因，而始作俑者恰恰是他们的主子——蒋介石。
就这样陈立夫在调查科干了一年多，没捅娄子，工作出色，得到主子的赞赏，被提升为国民党中央党部秘书长。虽说换了岗位，但调统方面的工作仍要他拿意见，还要亲自过问。这种情况一直持续到1938年陈立夫担任教育部长，整整10个年头。陈立夫在他的回忆录中大言不惭地称自己是“中国调统工作”的“创建者”。
“蒋家王朝陈家党”的由来
孙中山去世，广州革命政府群龙无首，国民党立刻成分裂状态：汪精卫、胡汉民、孙科、丁惟汾四派四个“山头”，蒋介石还不成气候，要排位的话，权且算“小五”吧。
历史像魔术师一样在无声地演变。廖仲恺被刺事件发生后，严惩凶手的呼声一浪高于一浪，胡汉民、许崇智被赶出了国民党中央，离开了广州；“中山舰事件”后，汪精卫的日子也不好过，下野出国，溜之大吉；孙科自成一派，仰仗的是革命领袖孙中山，孙科是留学生出身，实践不足，自己没有主见，跟随的人也没有主见，孙派可称为“扶不起的天子”，难成气候。所以，在广州国民党中，还存在以中央秘书长兼青年部长丁惟汾为首的丁派和新崛起的蒋介石、陈果夫为首的蒋派。当时国民党的党务实权还在丁惟汾手中。
斗争的第一阶段，陈果夫当了蒋介石的组织部长后，其职权只能在组织部门内行使。各省党部的工作，都由丁惟汾以国民党中央秘书长的名义一手包揽，陈果夫插不上手。对于国民党的清党工作和后来蒋介石与汪精卫的宁汉分裂，丁惟汾都旗帜鲜明地站在蒋介石一方。因为丁惟汾骨子里反共，而汪精卫一直以国民党正统领袖自居，为掌握党权的丁惟汾所不耻。所以这个时期，丁、蒋、陈尚能合作。也有人称是“蒋家王朝丁家党”。尤其是1927年到1928年是他们党务合作的最好时期。在这个时期，尤其是国民党的二届四中全会，他们在党务上，在用人上一唱一和，配合默契。在这之前，蒋介石、陈果夫与丁惟汾合作，赶走了胡汉民，挤垮了汪精卫，威镇了孙科派。因为蒋介石复职上台不久，需要表现出一种大度宽容的姿态，所以在二届四中全会上选出的五名中央执行委员的人选中，丁惟汾的大名赫然在上。
天下大事分久必合，合久必分。就在这次会议上，也为丁、蒋间的冲突埋下了伏笔。
会后，蒋介石重任中央组织部长，陈果夫负责整个部务。在蒋的授意下，把整个国民党都纳入自己的势力范围。因此再次决定整理各地党务。按照二届四中全会规定，各地各级党部一律暂停一切活动，听候中央派人整理。为纯洁组织，各地党员一律重新登记。因为蒋介石抛开了丁惟汾，丁惟汾心想，不管怎样，我也是中执委五名委员之一呢！蒋丁之间立马出现裂缝。蒋介石可不管那一套，我行我素，四中全会结束后不久，蒋介石一纸命令又解散取消了国民党中央青年部，调丁惟汾改任中央训练部长。这样丁惟汾丢掉了青年部的组织人事大权，这些均收为中央组织部工作。权力一大一小，使丁惟汾感到了权力的危机。
1928年8月，蒋介石与陈果夫加紧了策划，在策划的基础上，在南京召开了国民党二届五中全会。此时蒋桂冯阎合作的第二次北伐刚刚结束，蒋介石的声望可以说是如日中天。胜利使他头脑发热，于是他乘战胜张作霖、孙传芳、张宗昌之余威，开始在国民党内部向其他党派开刀。
在这次会议上，蒋介石的既定目标是：对冯玉祥、阎锡山、李宗仁等手握重兵的新军阀，他倡议裁兵；对有独立王国姿态的各地政府分会，他主张取消；对国民党党权，他要求独揽。由此蒋介石的野心昭然若揭。
国民党五中全会激化了蒋介石、陈果夫和丁惟汾的矛盾。会后不久，胡汉民回国，倡导实行孙中山提倡的“五权宪法”，利用五权分离的办法和孙中山这顶大帽子，压蒋介石让权。这次丁惟汾采取坐山观虎斗的中庸策略，既不反蒋，也不反胡。蒋介石、胡汉民既互相利用勾结，也互相指责、争斗。
丁惟汾和蒋介石、陈果夫在党权上的争斗，一直在或明或暗地进行，但公开爆发是在1929年3月15日召开的国民党第三次全国代表大会前夕。
按理说国民党第三次代表大会是在清党和整理党务的基础上召开，可是在这个问题上陈果夫、陈立夫出了点儿偏差。在建立新党部时，由于受时间的限制，二陈一时找不到那么多完全可靠的人员派往各地，饥不择食地拼凑了一些人，包括一些表面可靠实际反蒋的人，这些人下去就出了乱子，他们与当地反蒋分子串通一气，新党部建立了，却成了反蒋者的天下。在这种情况下，代表不能产生，于是自以为聪明的蒋介石灵机一动，采取圈定与指定代表的办法，召开大会。没想到这种办法遭到了各派的强烈抗议。这时，丁惟汾带领三民主义大同盟公开跳出来反对。他们递交抗议书，散布不满情绪，希望扩大事端。
且说丁惟汾的三民主义大同盟，以北平、天津两地为核心，势力遍布全中国。这时的丁惟汾采取以退为进的战略，公开提出辞职，并离开南京赴北平。在临上车时，他吩咐在南京的大同盟组织把矛头紧紧对准蒋介石，他本人回北方地区策应。这样南北夹击，把战火烧起来。
丁惟汾回到北方，通过大同盟发动学生，以阎锡山、白崇禧解散平津两地工会为导火索，很快把火点起来。学生的游行队伍开到了街头，红绿标语贴满了大街小巷，锣鼓声、口号声震天响：抨击国民党中央党部，要求打倒蒋介石，并将胡汉民、戴季陶、陈果夫三人赶出国民党中央。随后运动波及全国。
蒋介石听到这个消息如坐针毡，他要求中央政府不能坐视不管，要立即采取措施，制止这种活动的蔓延。同时召开党务会议，通过“申明党纪令”。随后，宣布撤销浙江、河北、山西、江西、绥远、北平的党务指导员，另行改派。国民党中央企图用高压手段平息这场风波。
面对高压政策，大同盟在丁惟汾的支持下并不低头，相反发起了更大规模的运动。这次丁蒋交恶，阎锡山、白崇禧利用维护国民党威望的名义，对丁在平、津的支持者强行开刀，用大炮说话，以武力镇压了平、津两地工人和学生运动。
且说丁惟汾遭到阎锡山、白崇禧一阵痛击后，陈果夫、陈立夫指挥自己的人马，趁机打入北平、天津党部，对大同盟成员大打出手。随后又逐个击破。丁惟汾见势不好，举手投降。就此，丁惟汾的三民主义大同盟土崩瓦解。二陈也乘机将自己的人马填补丁惟汾的空额，基本上控制了各地的党部。他们又借1929年3月国民党“三大”召开的机会，塞进一些自己的人马。在这次大会上，二陈都当选为中央执委会委员，陈果夫出任中央组织部部长，陈立夫出任中央秘书长，都进入了中央核心层。这样“蒋家王朝丁家党”一下变成了“蒋家王朝陈家党”。