埋葬父亲后，徐悲鸿决定离开家乡，去上海寻找半工半读的机会，继续深造。他写信给在上海中国公学担任教授的同乡徐子明先生，并将自己的作品寄去，恳求他的帮助。热心的徐子明先生见信后，立即催促徐悲鸿去上海。
徐悲鸿开始整备行装，并辞去了三个学校的教职。临行时，宜兴初级女子师范学校的国文教师张祖芬先生殷勤送别，并勉励他说：“你年轻聪敏，又刻苦努力，前途无可限量。我希望你记住一句话：‘人不可有傲气，但不能无傲骨。’我没有什么东西可以送你，就送你这句嘉言吧！”
这多么像父亲说过的话呀！徐悲鸿望着这位比他年长许多的同事，心里涌出一种感激之情。从那时起，他终身铭记这句临别赠言，并将它作为座右铭。
到上海后，谋生已难，想在绘画艺术上深造也不易。一天，徐悲鸿从报纸上看到上海哈同花园附设的仓圣明智大学为建校征求仓颉画像的广告，徐悲鸿立即画了一幅仓颉像去应征。
我国古文字原是劳动人民在长期生活中发明和创造的，聪明的仓颉将其总结归纳为系统的文字。徐悲鸿根据古书上仓颉“四目灵光”的记载，画了一个身披树叶、长发垂肩、满面须毛的巨人，浓眉下有四只重叠的大眼睛，射出犀利的光芒。宽阔的前额蕴藏着无穷的智慧，唇边浮起一抹笑意，十分慈祥。这是一幅足有一米高的水彩画，明智大学的教授看后无不热烈击掌赞赏。于是，学校立即派汽车去接徐悲鸿，请他到校讲授美术。
明智大学经常在哈同花园内举办私人收藏的金石书画展览，这给徐悲鸿提供了极好的借鉴机会，他从我国古代优秀的绘画中汲取了丰富的营养。
明智大学附设广仓学会，邀请一些名流学者讲学，其中就有康有为、王国维等当时颇负盛名的学者。
一天，康有为在哈同花园负责人的陪同下散步，发现一座房子的玻璃窗上有字迹，不禁大吃一惊，忙问身边陪同的人：“这是谁写的字？此人有天纵之才，非同小可，若悉心培养，必成国家大材。”
陪同人说：“是新来的徐悲鸿，精于绘画。”
康有为问道：“我可以见他一面吗？”
陪同人说：“当然可以。”
康有为见了徐悲鸿，发现他相貌英俊，谈吐不俗，才华出众，十分器重他，立即收他做入室弟子。
当年，康有为辅佐光绪皇帝变法，震动全国，给中华民族带来了希望。后来，变法大业被慈禧太后扼杀了，但徐悲鸿对戊戌变法时公车上书的康有为深怀敬意，不以成败论英雄。
康有为热心奖掖后进，对人循循善诱。康有为收藏的书籍、字画、碑帖极为丰富，他主动让徐悲鸿一一浏览，并一一详加解释。徐悲鸿在康有为的指导下遍临名碑，书艺大进，逐渐形成了他那雄奇潇洒的个人风格。
康有为在书画方面有卓越的见识，他鄙视清朝守旧的四王，推崇唐宋著名画家。四王是中国清代绘画史上的一个流派，其成员为王时敏、王鉴、王翚、王原祁四人，在绘画风尚和艺术思想上受董其昌的影响，画风崇尚摹古，不少作品趋于程式化。康有为说四王已经走上了末路，全无新意，必须改变画法，只有唐代吴道子、阎立本、李思训，五代黄筌，北宋李成、范宽等人的写实画才是博大精深的妙品。康有为鼓励徐悲鸿在绘画艺术上变法维新，徐悲鸿完全赞成他的观点。
康有为的渊博学识吸引着徐悲鸿。徐悲鸿在康有为的影响下，确立了自己的绘画艺术风格和创作思路。
为了答谢康有为的培养之恩，徐悲鸿为康有为全家画了一幅名贵的中国水彩画，即《康南海六十行乐图》。此图高86厘米，宽120厘米，上面题道：“孔子纪元二千四百六十九年，丁巳暮春敬为南海先生作六十行乐图。门人徐悲鸿。” 这幅画属于传统的中国画，表现出徐悲鸿深厚的国画功底。
康有为说徐悲鸿画得惟妙惟肖，盛赞他是画坛奇才。图中执扇者即康有为，人称南海先生。
在明智大学的日子里，勤奋的徐悲鸿作了许多画，除了仓颉像，还有人物、山水、花鸟、走兽，也画过一些舞台布景。通过这些作品，可以看到徐悲鸿在中国传统技法的基础上，开始尝试结合西洋画的明暗法和透视法来表现空间和体积，在革新中国画方面已经迈步前进了。
徐悲鸿向明智大学提出到法国留学、学习西洋绘画艺术的想法，明智大学全力支持他，赠给他一千六百块大洋作为稿酬，兼作旅欧的费用。因当时正处于第一次世界大战时期，海路不通。于是，徐悲鸿拿到这笔稿酬后，决定先东渡日本，再想办法。临行前，康有为赠“写生入神”的横幅为他送行，旁注小字：“悲鸿仁弟于画天才也。”
不料，到了日本后，仍然无法西去欧洲。
美丽的东京以它那明媚的岛国风光和异国情调吸引着许多游客，但年仅22岁的徐悲鸿并未流连于山光水色之中，强烈吸引他的是那丰富多彩的日本美术。
徐悲鸿整天在书店和画店观览，欣喜地看到日本画家渐渐脱去了拘守古人的陋习，开始仔细观察和描绘大自然，达到了美妙、精深、丰富的境界，尤以花鸟画最为出色。
当时，日本的美术印刷十分精美，种类繁多，一些仿制原画的复制品更吸引徐悲鸿，他一遇到自己喜爱的美术复制品便买下来。
徐悲鸿在日本不但饱览美术藏品，还结识了著名书画家兼收藏家中村不折，见到了许多中国流失海外的珍贵碑帖。
这次日本之行，徐悲鸿收获很大，创作了一幅名画——《群马》。
这幅水彩画是徐悲鸿到日本考察时留下的最重要的代表作，描写了马群的健壮活跃和原野的勃勃生机，场面宏大，气魄雄伟，笔力沉稳，体现出“西方画之可采入者融之”的明确理念。在画的前景上，方向各不相同的几匹大马正在细心地呵护着嬉戏的天真小马驹，动态天然，充满情趣。离观众最近的那匹灰马以尾巴朝向观众，和昂首鸣叫的栗色马一起处于巨大的短缩透视角度中。使用这种角度正是西方绘画的重要特点，能使画面强烈动人。画中一正一背的这两匹马，在大小动态各异的另外六匹马的配合之下，巧妙而自然地给观众以丰富的美感。此画构图新颖，运用了中国画传统的长卷章法，将中景的六匹骏马都安排在画面右方的中心位置上，让它们与散布在远景上悠然食草的骏马形成一道优美的弧线，并且在远近矗立的树木的掩映下，传达出水平与垂直的节奏交响乐。左半个画面留有大片原野的虚空，借助飘拂的云朵获得了画面的平衡。这种大胆的构图出人意表，通过大虚大实达到黑白与轻重和谐的手法与西方绘画有极大的不同，是中国优秀传统的刻意运用，正是徐悲鸿“古法之佳者守之，垂绝者继之”思想的具体表现。此画在造型上有独到之处，在白马身上使用了微妙的色调变化，马的结实形体呼之欲出。鬣毛的粗糙、皮的光滑、蹄的坚硬尽显无遗。用水彩颜料在绢上悉心刻画马的骨骼和肌肉，巧妙地运用了西方绘画的明暗造型。这幅《群马》是徐悲鸿在绘画艺术上变法维新和对世界艺术研究、探索的开始，具有非同寻常的意义。
在东京住了半年，钱很快用完了。生活上的花费并不多，绝大部分都用来买书画了。徐悲鸿已经无法继续在东京生活下去，只好回国了。
徐悲鸿回到上海后，拜见康有为。康有为鼓励了徐悲鸿，让他不要灰心，嘱咐他到北京去找罗瘿公想办法。罗瘿公是当时北京的名士，很有学识，交游极广，是康有为的大弟子。康有为特地给罗瘿公写了一封介绍信，交给徐悲鸿。
1917年12月，徐悲鸿登上了从上海到塘沽的轮船。
一到北京，徐悲鸿马上带着康有为的介绍信和自己的绘画作品去拜访罗瘿公。罗瘿公惊喜地看了徐悲鸿的作品，当即给教育部长傅增湘写了一封恳切的推荐信，盛赞徐悲鸿是个不可多得的人才，希望教育部在派遣公费留学生时，能考虑让徐悲鸿去法国深造，傅增湘同意了。
在北京等待留学的日子里，徐悲鸿结识了华林。这个身材高大的青年在北京文化界很活跃，常为北京的报刊撰写文章，文笔很犀利。他尚未结婚，单身一人租住东城方巾巷一所四合院内的三间厢房。徐悲鸿向他分租一半居住，成为近邻。经华林介绍，徐悲鸿拜访了蔡元培。蔡元培是北京大学校长，十分爱惜人才。他见徐悲鸿英气勃勃，画作不同凡响，才气横溢，非常赞赏，便延聘徐悲鸿担任北京大学画法研究会导师。
美丽的北京以它那辉煌灿烂的古代文化强烈地震撼着徐悲鸿。那红色的宫墙、巍峨的宫殿、描金彩绘的楼台亭阁、高大的古柏、挺拔的劲松，无不闪耀着我国劳动人民智慧的光芒，散发着古老文化的气息。在故宫博物院，徐悲鸿看到了大量的古代绘画，开阔了眼界，提高了欣赏水平，并从中汲取了极其有益的营养。
当时，北京的知识界十分活跃。《新青年》、《每周评论》等进步刊物对封建思想展开了猛烈的抨击，大力传播民主主义的思想和文化。徐悲鸿深受影响，他在画法研究会开学典礼上提倡吸收西洋绘画之长，创造新的民族风格。他为《绘学杂志》撰文说：“古法之佳者守之，垂绝者继之，不佳者改之，未足者增之，西方绘画之可采者融之。”这是一种科学态度，既反对泥古不化，也反对历史虚无主义，主张继承古代绘画的优良传统，汲取西方绘画的优秀技法，以丰富和发展民族的现代绘画。
徐悲鸿鲜明地指出“中国画学之颓败，至今日已极矣”，颓败的主要原因是“守旧”。他立下雄心壮志，要复兴中国美术，希望中国画家能在20世纪内取得超越先辈的成绩。徐悲鸿说：“中国画自明朝末年以来，三百多年，便处在这种毫无生气、陈陈相因的积习中。其间，虽然出现过少数优秀的画家，但整个国画界的风气是守旧，画一笔都要有来历，都要模仿古人，毫无生气和创造，思想和笔墨都僵化了。艺术应该追随时代，向前发展，而故步自封、复古守旧都是大敌。依我看，如何在我国古代绘画的传统上吸取一些西方绘画的优秀技法，用来丰富和发展我国的民族绘画，是我们这一代青年画家应做的努力。因此，我很希望有机会到欧洲去学习。”
有一天，罗瘿公请徐悲鸿为梅兰芳画一幅《天女散花图》。徐悲鸿欣然答应，很快便画出来了。在这幅中国画上，既有西洋画的写生技法，又有中国画的线条和勾勒，使婉丽多姿的天女栩栩如生。罗瘿公看了，喜不自禁，高兴地在画面上题诗一首：“后人欲识梅郎面，无术灵方更驻颜。不有徐生传妙笔，焉知天女在人间。”
在《天女散花图》中，一片云海中升腾而起的天女，俏丽的脸部用的是西洋写真画法，眉眼有神，呼之欲出，给人一种诗意想象。天女的服饰与花纹用的是国画的勾勒手法，随舞而动，飘飘欲仙。徐悲鸿在画上题道：“花落纷纷下，人凡宁不迷，庄严菩萨相，妙丽藐神姿。戊午暮春为畹华写其风流曼妙、天女散花之影。”
畹华是梅兰芳原名，当时人称梅兰芳为畹华大师。在《天女散花》这出新戏中，梅兰芳敢走前人未走之路，第一次突破程式的束缚，在京剧中糅进了绸舞。伴随激越的琴声与鼓点，大红长绸在台上伸展翻卷，观众无不报以热烈的掌声。走碎步的女性形象突然也能大起大落，狂放不羁，令人耳目一新。徐悲鸿将绸舞的飘逸瞬间在宣纸上定格，梅兰芳看后十分满意，夸赞不已。此画现为徐悲鸿纪念馆的镇馆之宝。
这一年暑假，北京大学组织教师和学生去香山避暑，徐悲鸿也报名参加了。
香山公园是一个160公顷的天然公园，最高处海拔557米。旁边的碧云寺依山建筑，层层上升，有描金彩画的亭台塔院，又有汉白玉的石台和雕栏，周围古木参天，门前流水潺潺，宛如仙境。
当时，正是五四运动前夕，许多爱国的知识分子都关心国家的安危。北京大学校长蔡元培采取“兼容并包，思想自由”的办学方针，不仅使北京大学成为学术研究的中心，也使北京大学成为新文化运动的摇篮，陈独秀、***、鲁迅等人的文章和讲演成为人们谈论的中心。新文化运动强烈地冲击着当时的知识分子，徐悲鸿和北大的一些教师三五成群地坐在碧云寺的台阶上讨论救国救民之道。
在碧云寺，勤奋的徐悲鸿没有一天停过画笔，画了不少山水画。那幽深的树林、清澈的山泉，白云悠悠、云雾霭霭，大自然的美给了徐悲鸿新的启示和灵感。
在京期间，徐悲鸿还结识了鲁迅，深受其影响，树立了民主与科学的思想。
1918年11月11日，第一次世界大战结束。消息传来，举国欢腾。不久，中国教育部将继续派遣留学生去欧洲学习。蔡元培写信给傅增湘，为徐悲鸿再次提出申请。傅增湘先生很快复信，表示不食前言。于是，徐悲鸿为了绘画艺术，踏上了留学之路。