阎锡山留学日本期间，日本明治维新已经进行了30多年。经过维新，日本积极学习吸收西方国家的先进文明，其政治、经济、军事、教育、文化、外交都发生了巨大变化，取得了明显效果，步入了世界列强的行列。在东京振武学校、士官学校学习的阎锡山，周围的许多新鲜事物，不能不吸引他，因而，他除了功于学习外，对日本社会的现实状况，也予以了相当的关注，并进行了仔细的观察。后来，他在追述这段经历时，曾感慨地说“最使我迄今不忘者两事：一，无论有人向任何人问路，无不尽客气告知，甚至送到所询问之路口；二，有人无论在任何地方遗失东西，定有人想尽方法送还。如无法送还本人，则报告警察收存待寻”。而日本人民的敬军精神，更使他十分感佩。他说：“我们参加野外实习，晚间有人争让我们换衣洗净熨干，再换穿。吃饭饮水之后，安顿寝息，问明早起时间预备早餐，并叫起床。一切周到，并在行军路旁，见老年人拱手低头，若敬神然，后经询知，他们脑筋中以为军人是真正保护人民者”。当时，正值日俄战争期间，战争结果，日胜俄败，他对于此，认为这是由于“日本维新，以发扬武士道，提高军人精神为其主要目标”（《阎锡山年谱》（一），第25—26页）。其实，日本明治维新，并非完全是以提高军人精神，崇尚武力建立军事强国为主要目标。发展资本主义经济，增强国民教育，拓展海外市场，也是维新的主要内容。阎锡山这样讲，说明他当时对于日本的军国主义是十分崇尚的，而这也许是他从日中两国强烈反差的比较中，对清政府顽固保守，军备松弛，致使国家落后挨打的一种反思吧。这也是他于辛亥革命前任山西陆军学校教官时建议改行征兵制，执政山西后，又编写《军国主义谭》，大力宣扬军国主义，主张“政府政策是军国政策，人民教育是军国教育，社会组织是军国组织”的重要原因（山西省政协文史资料研究委员会编：《阎锡山统治山西史实》山西人民出版社1981年版，第61页，以下只注书名、页码）。
在日本对孙中山的三民主义的接受和明治维新后日本社会所表现出的一派振兴气象，使阎锡山不断坚定了推翻清政府反动统治，振兴中国的信念。而在士官学校毕业返国途中，路经朝鲜时的见闻，更深深地触动了他，刺激了他，感到了国破家亡的悲惨。朝鲜当时已沦为日本的殖民地。阎锡山经过汉城时，偶见朝鲜人即是其高级官员，往来官署，多顺着墙根而行，并且不时地向后窥视，其状如鼠之畏猫。日本人上下马车则以朝鲜人代足凳。及至住进旅馆后，有朝鲜籍的记者来访，当知道阎锡山是中国人时，欲言又止，含泪而出。到了平壤，看见一座崭新的大楼，方知是妓女学校。因而他“深感亡国之民，其生命、财产、人格及廉耻，均不得自保”。沦为亡国奴的朝鲜人的如此遭遇，不能不使阎锡山触景生情，因为中国自清末以来就屡遭列强欺凌，甲午战争的惨败，八国联军在北京的烧杀，种种不平等条约的割地赔款，照此下去，中国将会国将不国，步朝鲜的后尘。因而，他发出如此感叹，并且，这也更加激励了他奋发图强，争取民族独立解放的决心。辛亥革命后，他提出的“亡国之民不如丧家之狗”，“救国要在国未亡之前努力”等口号，以作警示（《阎锡山年谱》（一），第27页）。
在日本的留学生活，很快就结束了。这5年，对于阎锡山确实非同寻常。从其登上赴日轮船的最初感受，到抵达日本后所看到的种种振兴之象，再到途径朝鲜时的见闻，这一切都给他留下了终身难忘的印象。虽然他是在校学生，无暇更多地去接触社会，也不可能对其所见所闻产生的原因深入研究，然而，他从这些新与旧、先进与落后事物的对比中，却领悟到了不少道理，尽管其中的一些认识还是片面的，肤浅的，但其倾向却是向上的、进步的。并且正是由于有了这些感性认识，使他更容易地排斥保皇派的种种谬论，而接受资产阶级的革命理论，进而加入资产阶级的革命政党，积极进行革命的初步实践和锻炼。因此，阎锡山留学日本五年的最大收获，可以说，不在现代军事知识和军事理论的增长与提高，而是其在思想观念、人生价值取向的变化上，在革命道路上的成长与进步上。
对于阎锡山在日本的表现，也有另一些说法，如：“阎锡山当初加入同盟会的动机就严重不纯，他一贯伪装、善变，是在进行政治投机活动”，就是一个突出的观点。然而，它却没有确凿的，令人信服的论据。倒是从同盟会当时所处的不利环境，及其凶吉未卜的前景，阎锡山临危不惧，勇敢闯关，以及他在家乡的积极活动等事实上，有力地否定了加在阎锡山头上的这些不实之词。而更能否定这一观点的，则是阎锡山返国后，对新军的积极运动和对武昌辛亥首义的极力响应。不可否认，辛亥革命后，特别是1927年以后，阎锡山在中国新民主主义革命中的某个时期确实有着一些消极乃至反动的举措，但就其在日本留学这一时期的种种表现，还是应当予以肯定的。
3、 几经努力，阎锡山升任新军标统，他利用职务之便，积聚革命力量
1909年4月，阎锡山这批留日学生返回国内。
当初，清政府选派他们赴日留学深造，就是为了给新军培养中高级军官的，所以，阎锡山等回到山西后，都被山西当局在军界委以相当的职务。阎锡山被安排充任了山西陆军小学堂（1906年由山西武备学校改名）的教官。温寿泉当了山西大学堂的兵学教官，张瑜、黄国梁、姚以价、马开松、李大魁等同盟会员则被分配在山西陆军督练公所任教练员。据说，阎锡山回国后，打听到时任山西新军协统的姚鸿发之父姚锡光为清廷陆军部侍郎，为使自己回山西后能有个靠山，他便绕道北京，专门拜谒了姚锡光，姚对他挺赏识，并写信给其子，要他对阎锡山予以照顾。阎锡山回到山西后，能被安排到陆军小学堂任职，是否与此事有关，尚无实据可查，但却可以说明，阎锡山一回国便为自己能挤身军界而开始了积极的活动。由于阎锡山教学有方，恪尽职守，不仅得到了学生们的爱戴和同僚们的尊重，而且也受到了他的顶头上司姚鸿发的赏识。三个月后即升任山西陆军小学堂监督（校长），阎锡山遂趁机与姚鸿发主动靠近，以取得他的信任。
与此同时，阎锡山还利用他父亲的关系，加紧了与山西省咨议局议长梁善济的联络。梁善济是山西崞县人，翰林出身，是山西立宪派的首脑人物。他与时任山西巡抚丁宝铨的关系十分密切。为了靠拢梁善济，阎锡山又与梁的秘书定襄人邢殿元结为“金兰之交”，有了这层关系，邢常在梁面前褒扬阎锡山，逐渐取得梁善济的好感，并且通过梁，又取得了丁宝铨的信任，从而为他自己在山西军界的升迁打下了一定基础。
1909年11月，清廷为了鉴定阎锡山这批留日学生的学习成绩，由陆军部召集从日本归国的在各省服务的士官生，在北京举行会试。会试的结果，阎锡山名列上榜，被赏予步兵科举人，并授给协军校军衔。与他一同会试的温寿泉名列优等，赏给炮兵科举人，并授协军校衔；黄国梁、姚以价、乔煦、马开松、顾祥麟、武滋荣、王宝善、张维清、焦纯礼等，被分别赏给步兵、，马兵、辎重兵科举人，并授予协军校军衔（《并州官报》1909年12月3日，第109号）。清政府推行新政废除科举后，又赏予这些人举人的名分，只是给他们的一种恩典，其举人身份与通过八股考试取得的举人并不相同。会试后，清廷陆军部即发出指示：新军协统以下军官须以留日学生或带过新军者充任。这就为阎锡山这批学生担任山西新军领导职务提供了机会。不久，黄国梁、阎锡山分任山西新军第四十三协所属之第一、第二标（后改为第八十五标、第八十六标）教练官（相当于副团级）。温寿泉被委任为督练公所督办兼陆军小学堂监督。阎锡山等同盟会员掌握军权的计划，迈出了第一步。
对于阎锡山从日本回国后，靠近姚鸿发父子以及议长梁善济等权贵的活动，曾有论者说是他“走上层路线”，是为了自己的飞黄腾达，似乎他完全是出于利己的目的。不可否认，在封建社会里，绝大多数十年寒窗苦读的士子，都在追求着自己仕途的发展。阎锡山也不可能超然其外。但从阎锡山的一些表现来看，他主要的目的，还在于立足军界，掌握军权，以实现孙中山在东京再三嘱咐的“以图大举”，即发动革命，推翻清政府统治这一远大目标的。有一个事实可说明，即当阎锡山出任第八十六标教练官不久，与阎锡山交情甚笃的姚鸿发被调到山西督练公所当了总办，总管全省兵事。姚鸿发出于对阎锡山的爱慕，想让其出任协统一职。据阎锡山回忆说，姚曾告他，姚“已与北京方面洽妥，使我出五千两银子，协统遗缺由我升任。因其父为陆军部侍郎（次长），向主管人员说此事，甚有把握。丁巡抚梁局长亦皆劝我出此，我则以革命工作，贵在下层，若离开下层，即不易组织革命力量，掌握革命行动，遂婉拒谢之”（《阎锡山年谱》（一），第34页）。从阎锡山与姚鸿发的关系上来看，姚鸿发确实想抬举阎锡山，并且也完全可以办成此事。而阎锡山后面的那几句话也并非自褒，因为，后来的事实说明，他确实是这样做的。