此时，李鸿章已是一个过气的人，头顶汉奸的骂名，活得很痛苦。袁世凯不是白眼狼，心里牢记李鸿章对自己的知遇之恩，为了报答这份恩情，他还从淮军旧部中挑选一些老将领过来帮忙。
这些人有姜桂题、龚元友、段祺瑞、杨荣泰、吴长纯、徐邦杰、任永清、王士珍、王英楷等，其中与袁世凯关系最好的徐世昌担任了全军总参谋长。其实，徐世昌那时已飞黄腾达，官职比袁世凯还高，但当时的背景下，文官前途暗淡，军人则更容易发迹。
徐世昌虽然是文人，不懂军事，但看的书特别多，足智多谋，为袁世凯出谋划策， 立下了汗马功劳。徐世昌在袁世凯麾下相当于张良那样的角色。
此时呢，还缺少一个郦食其那样的外交家。不过这人也不难找，就是唐绍仪，唐绍仪曾在美国留学，见多识广，英文很棒，有幽默天赋。他和袁世凯是在朝鲜认识的，袁世凯离开朝鲜后，唐绍仪接替他的位子。
军事英才有冯国璋、段祺瑞、王士珍等人，这三人后来名声都很臭，但是从现在人的立场来说，他们也没那么坏，只是逆流而行，没有与时俱进而已。
冯国璋是个颇有远见的人，他自己是“国”字辈，给后人定出了“国家海禁开，东方大事起”，说明他那时就意识到与西方的文化接触，是中国崛起的必经之路。冯国璋也是书生出身，后来学习军事，参加过甲午战争，战败后，曾经到日本研习军事。袁世凯听说他是个人才，便拉到麾下，后来冯国璋升为总办。
段祺瑞是武人出身，毕业于北洋武备学堂，专业是炮兵学，曾被李鸿章派到德国留学。在袁世凯麾下，他的能力也大发异彩。
王士珍跟段祺瑞毕业于同一个学校，受袁世凯重用后，先后担任军政要职。
这三人被称为“北洋三杰”，有人称他们为“王龙”、“段虎”、“冯狗”。
除“三杰”外，袁世凯源源不断地从武备学堂引进一些优秀的毕业生，如曹锟、段芝贵、张怀芝、王占元、卢永祥、李纯、陆建章、鲍贵卿等等。这些人后来成为小站练兵的骨干。
甲午之战对袁世凯的影响是刻骨铭心的，中国军队在人数上是占有绝对优势的，结果却被日军打得落水流水。日本军队不仅在装备上过硬，军人的素质也是相当地高。袁世凯练兵的时候，时常以日军为假想敌。装备这东西只要花钱就能搞定，但是军人的素质却是花钱买不来的。
对袁世凯最大的考验是：如何提升士兵的素质？
治军就应该这样
当官考验的是一个人的忍术，治军考验的却是一个人的意志力。
现在人们讲教育要从娃娃抓起，练兵呢，当然要从兵源抓起。
老式军队在招募新兵时，注重数量，不太注重质量。袁世凯认为兵在精，不在多。在招募新兵时，他要求所有新兵必须是20岁左右的农民，要求身体强壮，为人老实。至于老弱病残、吸食鸦片、娇生惯养的人一律不要。这样做有双重考虑，首先当兵就是能吃苦，其次农民朴实忠诚。
练兵思想方面，袁世凯主要是糅合德国和日本的军事思想。当然，他也注重结合中国国情，先后制定了《练兵要则》、《营制》、《饷章》等。这些新兵文化水平都很低，徐世昌为了让士兵操练起来更方便，将一些军操做成图画，士兵们跟着图片练就行。徐世昌这个大才子，还主编出版过《战法学》、《战略学》、《陆战新法》、《德国军政要义》、《日本陆军大学战术讲义》等军事理论书。
袁世凯是个实干家，徐世昌则是个理论家，这两人相得益彰，是个最佳拍档。
军事训练方面，袁世凯非常注重自上而下的方式，所谓“兵熊熊一个，将熊熊一窝”，只有军官的素质提高了，士兵的素质才能得到根本提升，一级级地培训下来收到的效果事半功倍。现在很多企业注重提升管理者的素质也是这个道理。
让一些士兵接受“洋练”，如果想一蹴而就反而适当其反，必须让他们一步步地接受西方的军事训练。这点袁世凯做得不错，他讲究“先易后难，循序渐进”，先从基本的训练开始，然后是持枪训练，最后才到实战演习。同时，治军一个非常重要的原则是赏罚分明，中国的传统军事理论对这点也很看重，袁世凯在这方面做得非常出色，这符合他果断客观的性格。
当然，袁世凯的练兵也给人培养个人势力的感觉，也许事实就是这样。他要求官兵绝对服从上级，士兵不服从命令，仗肯定是没法打的，不过这支“袁家军”服从的更多是袁世凯。为了让将士们心甘情愿地服从自己，袁世凯一改旧军队那种贪污腐败的习气，每次发放军饷都要亲临现场，保证每个士兵都能拿到足额的军饷。
像许多能征善战的将领一样，袁世凯和军官与士兵们走得非常近，甚至对一些下级军官和士兵，都能叫出他们的名字，甚至还了解他们的性情。有一次他亲临校场观看士兵操练，当时下起了大雨，有人给袁世凯撑伞，袁世凯坚决拒绝，说道：“士兵们都在雨中，我怎么能独自打伞！”
为了激发士兵们的激情和斗志，徐世昌还编写了许多军歌。这些做法与传统的治军方式截然不同， 在当时的中国， 确实可以谈得上走在时代的前列。
会用人，运气好
古往今来，成功者无不是用人高手。
袁世凯这方面也不赖，大棒加胡萝卜历来是用人的最基本诀窍。袁世凯做上军机大臣后，曾对张之洞谈及练兵的秘诀：“练兵这事，不了解内行的人可能以为非常复杂，其实很简单。就是培养士兵们‘绝对服从命令’ 的意识。 我们一手拿着官和钱， 一手拿着刀， 服从命令就有官有钱，不服从就吃刀子。”
也就是俗话说的“恩威并施”，有一个故事最能反映袁世凯用人特点：
阮中枢是袁世凯旗下一个很有名的文案，文笔那是相当地好，草拟奏章、书写公函样样出色，袁世凯对他很是信赖。
文人自古风流，阮中枢也是个好色的主。某日，阮大才子在妓院里认识一个貌美的解语花小玉，这小玉很懂风月，迷得阮才子神魂颠倒。两人沉沦在温柔乡中，醉生梦死。日久生情，阮才子竟然想将小玉收为小妾。阮中枢把自己的想法告诉袁世凯，袁世凯其实也是个风流之人，但这时却板起脸孔训斥阮中枢：“你小子知道自己是干嘛的吗？这是军营，你这样做不怕把风气带坏吗？”
阮中枢一听这话，很是失望，心想：袁世凯啊袁世凯，你纪律严明是好事，但是也不能这么不近人情，你自己还不是个色鬼！
就这么郁闷了半个月，一天夜里，袁世凯忽然召见阮中枢，说是带他去天津办事。阮中枢稀里糊涂地跟着袁世凯进城，一路上袁世凯一句话也没说，带着阮中枢拐进城中一个偏僻的院子里。阮中枢刚进院子里，就发现这是一个大宅子，屋内装饰得灯火辉煌，里面陈设得十分华丽，大堂之上红烛燃烧。
阮中枢心想，袁大帅莫不是带我来参加婚礼吧！
阮中枢丈二和尚摸不着头脑，进门之后，只见一个丫鬟喊道：“姑爷到了！”
晕了，阮中枢真的晕了，袁大帅到底耍的什么把戏！这时，两个丫鬟从屋里扶出新娘子，阮中枢一看，心里狂跳又狂喜，这不就是自己朝思暮想的小玉吗？
到这里，阮中枢终于明白袁世凯搞的什么鬼了。原来袁世凯表面上斥责阮中枢作风不检点，私下里却让人赎出小玉，并购置房子，安排婚事，早已秘密替阮中枢操办一切。这下阮中枢感激什么似的，就这一下，阮中枢一辈子效忠袁世凯，直到袁世凯众叛亲离。
在培养军队对自己的忠心上，袁世凯下了很大的功夫，甚至比曾国藩李鸿章做得更绝，在训练新军的过程中，袁世凯一再向军队输入这样的理念：你们最终效忠的人就是我袁世凯。每天集合和解散之时，教官会大声地问：“咱们吃谁的饭？”士兵会声音洪亮地回答：“我们吃袁大人的饭。”又问：“你们穿谁的衣？”又答：“我们穿袁大人的衣。”再问：“我们为谁效力？”再答：“我们为袁大人效力。”
袁世凯对军队的管理真正做到了恩威并施，一方面他厚待将士，另一方面执法非常严酷，在《简明军律》中他规定了十八条斩罪，譬如临阵退却、不听号令、战后不归都是斩罪。据说，袁世凯有一次巡查的时候，发现一个士兵偷偷吸食鸦片，当场抽出佩刀将这个士兵斩杀。袁世凯确实是一个狠角色，让人敬，让人畏……
从这两个故事立可以看出袁世凯用人确实很高明，既照顾到集体，也照顾到个人。正因为袁世凯的这种高明的治军之术，新建陆军对他一百二十个忠心，军营中甚至供奉他的长生牌位。
保护伞荣禄
袁世凯的性格有非常强悍的一面，这种性格非常容易得罪人。
果不其然，有人向朝廷打小报告，说袁世凯横行霸道、滥杀无辜。一石激起千层浪，朝廷开始议论纷纷。原本举荐袁世凯的李鸿藻也将信将疑，李鸿藻是个非常爱惜名声的人，因为之前推荐过袁世凯，他怕自己被玷污，不但不帮这个后辈撑腰，反而落井下石，让人弹劾袁世凯。
前面反复提到袁世凯这人治军还行，但一碰到政治，就显得手生，心理素质也显得相对差点。听到有人弹劾自己，顿时心灰意冷，屡次想撒手不干。
朝廷对这次弹劾非常重视，慈禧派遣荣禄调查此事，引得袁世凯心慌慌，如一只蹦跳的兔子。荣禄是一介武夫，听到袁世凯这么胡作非为，气势汹汹地赶过来，想杀掉袁世凯，兼并新军。但是荣禄到达小站，检阅士兵的时候，满腔怒火化为乌有，袁军那股气势和阵容深深地感染了荣禄，再加上现代化的装备，简直看得这位老式大将心潮澎湃。
荣禄不但不想杀袁世凯，反而认为他是一个军事天才，将其收为自己的心腹大将。袁世凯运气真好，李鸿章得势的时候，他受到李鸿章的栽培。李鸿章失势后，荣禄得势，他又受到荣禄的恩宠。
荣禄回京后，向慈禧太后大赞袁世凯，说新建陆军军容整齐，战斗素质一流，并且给出一个评价“近年所见各军，尚无出其右者”。
1897年7月，袁世凯因练兵有功，晋升为直隶按察使，这一年，袁世凯39岁。