“仁社”成立后，发展迅速，与黄金荣的“荣社”、杜月笙的“恒社”鼎足而三，成为上海帮会中最有势力的三个帮会团体之一。
后来，张仁奎在全国拥有徒子徒孙三万多，骨干人员就有三四千，渗透到民国各个行业，张仁奎俨然成了民国教父。
张仁奎从他精选的三四千个徒弟中又精心挑选了二百余人作为“仁社”成员，其中有杨虎、蒋鼎文、韩复榘、陈铭枢、黄琪翔、孙桐萱、范绍增、张镇、黄金荣、董显光、郑介民、韦作民、张竞立等。据说只有社会上层人物即文职是特任、简任、荐任以上者，武职是将校以上者才有资格加入仁社，故有“一时国内海外群英并集于夫子之门墙”之说。
“仁社”每年的会员大会定于10月张仁奎的生日召开，该社的宗旨是团结张门弟子，以谋互利，至1937年初，“仁社”会员已发展近千人。
1924年，张仁奎因病退休，隐居在上海法租界，同时在山东原籍滕县盐店街投资建房一处，花木楼台俱全。他偶尔在春秋佳日离沪北上返老家小憩。北伐战争兴起后，张仁奎出任军事委员会高等顾问，为国民革命军北伐出谋划策，颇有赞助。据张仁奎的得意门徒韦作民私下透露，蒋介石曾在上海经人介绍拜张仁奎为师入帮。
黄金荣原先并非青帮却仗势擅自收徒，他说他属于“天”字辈，比“大”字辈还多一画，引起了青帮人士的不满。这次在上海青帮“大”字辈高士奎、曹幼珊等人的竭力劝说下，黄金荣决心向张仁奎投帖拜师，同时带去共舞台一班艺人为张仁奎演剧祝寿。
中国国货银行总理朱成章被绑票案发后，交通银行的钱新之为了利用张仁奎的声威震慑上海流氓，决定将张仁奎请进上海海格路（今华山路）“范园”内供养。不少商界人士、军政官员得悉张仁奎是青帮“大”字辈，又是黄金荣的师父，为了寻求保护或为了在社会上谋求发展，纷纷前往“范园”拜师，其中有国民政府交通部高级官员韦作民和张竞立。张仁奎收韦作民和张竞立二人入帮后，特许他们在南京设立“文社”，以交通部官员和复兴社成员为主要发展对象，向政界扩张他的帮会势力。
1933年9月中旬，张仁奎返回原籍为长子张殿梁操办婚事，新娘是滕县望族、清末翰林高熙喆的长孙女高炯云。一时间滕县张寓冠盖云集，高朋满座，山东全省军政要员、各埠商会会长、知名人士几乎倾巢出动前往祝贺并向张仁奎请安。
此时张仁奎已经69岁了，他借故年老体衰，向蒋介石提议辞去军职，寓居上海，蒋介石当即同意。闲居上海时，张仁奎时不时收些徒弟，当然，对方必须有一定社会地位，闲杂人等不收。其中，军阀韩复榘拜师的过程相当有趣。
1933年9月，当上山东省主席的莽夫韩复榘，心血来潮要召开全省军政会议，通知一下去，居然没几个人来！韩复榘大发雷霆，下令其心腹随从密查。心腹密查后告之原因：青帮老太爷张仁奎在山东滕县老家给儿子操办婚事，山东全省军政要员都去送礼了！
这些人胆敢擅离职守，难道张仁奎比我还狠？韩复榘虽然粗鲁，但他不傻，马上就想到了自身的利益，张仁奎能够一呼百应，势力不小，自己怎么相处？
经过几番考虑后，韩复榘认为要想牢牢控制山东，跟张仁奎合作很重要，如果跟张仁奎拉上关系，青帮人物在山东就轻易不会给自己找麻烦。要拉近与张仁奎的关系，最好的办法就是拜张仁奎为师。主意拿定，韩复榘即刻从济南发急电，一是向张仁奎贺喜，二是请张仁奎大驾光临济南，在致贺道喜之余敦请张仁奎莅临泉城指教。张仁奎接电后登上韩复榘下令派出的蓝钢皮专列小火车，在驻滕县孙旅长的亲自迎候护送陪同下抵达济南，张仁奎步出火车站之后立刻被请入韩复榘的轿车直抵省政府大厅。
张仁奎虽不怎么喜欢韩复榘这个莽夫，但也不好拒绝，只有跟着前往。
张仁奎到济南的时候，韩复榘带着一大帮子人敲锣打鼓地迎接，隆重地将张仁奎迎进政府大厅。张仁奎在韩复榘陪同下步入大厅时军乐大作。
大厅里早摆好了香案公桌，蜡烛高烧，烟雾缭绕。张仁奎在韩复榘等人的陪同下，刚步入大厅，四面顿时军乐齐鸣，有马屁精高声吟诵“迎张老太爷”。
张仁奎一下愣了，还以为韩复榘要跟他拜把子。
韩复榘随即坚请张仁奎在正中坐定，自己却退到前面，郑重其事地向张仁奎行了三跪九叩大礼，然后毕恭毕敬地呈上了一张早已准备好的门生大红帖双手过顶呈给张仁奎，高声喊道：“师父，请您收下徒儿吧！”
张仁奎见堂堂省政府主席如此心诚意切，便顺水推舟，认了这个新徒入帮。
在政府大厅弄江湖仪式，可谓既隆重又滑稽，张仁奎哭笑不得。
韩复榘由此正式加入了青帮，统治山东也多了条手段：帮规！不过他是个重诺之人，自从成了张仁奎的弟子，时不时就送钱送物孝敬师父。
张仁奎还帮了蒋介石一次大忙。
1935年，日本帝国主义加紧了侵华的步伐。11月，日本派天津驻军司令多田骏飞抵济南，邀韩复榘参加冀察鲁“自治”的商谈。次年3月，日本新任第十二师留守师团长土肥原贤二赴济南活动，与韩复榘商议山东“自治”问题。在土肥原贤二的威胁利诱下，韩复榘为了利用日本势力实现独霸山东的野心，竟与土肥原贤二签订秘密协定，要点是接受日本的“经济援助”，拒绝中央军进驻山东。韩复榘还宣称救国“务要镇静”，取缔反日宣传，下令解散“反日会”。
1936年，在“八·一三”日军侵华之前，蒋介石据军统密报，得知山东省政府主席韩复榘跟日本人勾结，想反叛，蒋介石虽然早就看韩复榘不顺眼了，但实在腾不开手：一边想围剿共产党红军，一边得防着小日本，东北三省已丢，华北五省“自治”，要是跟韩复榘闹起来，无疑多些麻烦。
蒋介石获悉后对韩复榘的何去何从十分焦虑不安，他认为韩复榘拥兵四师一旅，非中央所能绝对控制。如果处置不当，致使韩复榘公开倒戈卖国，后果极为严重。有参谋提醒蒋介石，不如请张老太爷出面。蒋介石豁然开朗，为了尽早查明“韩土秘密协定”的虚实，戴笠赶紧派出张仁奎在南京的高徒董显光赴沪，邀约张仁奎的得意门生、上海市市长吴铁城等人一道赶到“范园”，敦请张仁奎到南京与蒋介石共商山东大事，并派了辆专列去上海接张仁奎。
蒋介石早年与青帮关系很深，因此知韩复榘和他手下的几位高级军官都是张仁奎的徒弟，遂托张仁奎的门生、上海市市长吴铁城和交通银行董事长、张仁奎的好友钱新知请张仁奎去南京见面，商讨如何解决山东问题，张仁奎觉得此事与己关系重大。而且对国家也是关系重大，便决定去南京见蒋介石。
此事往小处说，是张仁奎的“门内家事”，因为蒋介石和韩复榘均和青帮有过关系；往大处说就关系到国家民族，张仁奎思虑一番，决定要亲自去解决这个问题。
到南京时，蒋介石亲率文武百官在火车站迎接，按青帮规矩，蒋介石恭敬尊称张仁奎为“张老太爷”。二人会谈了近三个小时，谈当前的中国形势，谈山东问题如何解决，解决与否的利与弊，最后蒋介石庄重地请老太爷去山东一趟，劝韩复榘回头。让韩复榘以民族大义为重，以国家统一为上，并慨然表示如果韩复榘能够回心转意，中央保证立即增拨协饷以示慰劳，以示诚意。这对国家和双方都是有益的，张仁奎慨然应允。
到山东后，韩复榘也是隆重迎接。主客刚落座，张仁奎开门见山摆明来意。青帮帮规极看重的是尊师重道，张仁奎向韩复榘指陈利害，以古哲先贤为例，劝导韩复榘万不可贪图小利而成为民族罪人。“你十万兵马能打得过中央百万之师吗？区区一个山东，其物力财力能抗衡全国十几个行省吗？真正闹起来你必败无疑，听我一句话，别折腾了。”张仁奎苦口婆心相劝。韩复榘听尊师言之有理，频频点头称是。张仁奎在泉城逗留的短短一周内，还频繁会见包括地方军政要员在内的众多门徒，宣传抗日爱国的主张。韩复榘手下的四个师长都是张仁奎的弟子，入门时间早，对张仁奎很尊重，听师父一分析，也觉得韩复榘难成大事。在韩复榘几个具有帮会身份的师长的敦促下，韩复榘最终打消了联日自雄之谋。
张仁奎山东之行的功劳，蒋介石一直十分感激。
张仁奎返沪后，蒋介石决定将驻守苏鲁交界的正规军改编为以黄杰为首的税警总团进驻青岛，以加强山东海防。不料韩复榘根本不买黄杰的账，对黄杰置之不理。
黄杰后根据戴笠的建议，专程赴沪经杜月笙引见拜访了张仁奎。
张仁奎事先已得戴笠电告，一见黄杰就主动表示要他的徒弟韩复榘对黄杰多加关照，搞好关系。黄杰借此机会拜张仁奎为师，于是成了韩复榘的同门弟兄。不久在青岛市长沈鸿烈举行的宴会上，韩复榘见到黄杰时主动起身与之握手，称兄道弟，税警总团进驻青岛一事也随之迎刃而解了。