1917年，徐悲鸿拿到了明智大学给的一笔稿酬，决定去日本研究美术。5月，徐悲鸿携蒋碧薇抵东京，整天寻觅藏画的处所观览。他感到日本一些画家已不囿于陈法，渐渐脱去积习，能仔细观察和描绘大自然，达到精深美妙的境界。这使徐悲鸿更坚定了融会中外技法的意愿。他在日本还结识了著名艺术家中村不折，看到他收藏的许多中国古代碑帖和日本绘画精品。中村不折还托徐悲鸿将《广艺舟双楫》的日文本带给康有为。
半年后，徐悲鸿从日本回到了北京。
徐悲鸿来到北京，开始以他那生气勃勃，富有民族风格的绘画在中国艺坛显露头角，被北京大学聘为画法研究会导师。他在故宫看到大量优秀的中国古代绘画，从中汲取了丰富的营养。
当时北京的知识界很活跃，《新青年》、《每周评论》等刊物对封建思想进行了猛烈的抨击，传播了民主主义的思想和文化。徐悲鸿也受到了深刻的影响，使他站在新文化运动的前列，成为中国画家中最坚决的革新者。他在北京大学的《绘学杂志》第一期上以《中国画改良论》为题，对中国画中的保守势力进行猛烈抨击，一针见血地指出：“中国画家之颓败，至今已极矣。凡世界文明，理无退化。独中国画之在今日，比二十年前退五十步，三百年前退五百步，五百年前退四百步，七百年前千步，千年前八百步。民族之不振，可慨也夫。”他认为中国画颓败的原因是：“曰守旧，曰惟失其学术独立之地位。”他慨叹地写道：“要之以视千年前先民不逮者，实为奇耻大辱。”在如何进行革新的问题上，他明确地提出：“古法之佳者守之，垂绝者继之，不佳者改之，未足者增之，西方绘画可采入者融之。”
