1884年，朝鲜开化党人在日本的指使下发动“甲申政变”，挟持国王李熙，杀害大臣，组建新政府。袁世凯闻讯，不待清廷指示，当机立断，冒着生命危险率军攻打王宫。支持政变的日军开始反击，经过一番激战，袁世凯终于救出朝鲜国王，一举粉碎了甲申政变与日本趁中法战争之际谋取朝鲜的企图。
甲申政变平定后，得势的袁世凯开始整日趾高气扬、居功自傲，很快就成为众矢之的，受到方方面面的谴责、反对与攻击。陷入窘境的他不得不托辞母病，请假回国。
不久，清廷欲将软禁在保定的朝鲜大院君李罡应释放归国，试图加以利用。经李鸿章保奏，清廷拟让袁世凯护送，委任袁世凯为“驻扎朝鲜总理交涉通商事宜”的全权代表，并以道员升用，加三品衔。返回朝鲜，袁世凯阻止俄朝结盟，禁止朝鲜谋取独立活动，维护华商及清廷在朝利益，在巩固、强化中朝宗藩关系方面可谓尽心尽力。但是，他锋芒太露，一点都不讲究艺术策略，不仅没有吸取上次教训，反而更变本加厉，摆出一副监国大员、太上皇的架势，遇事直入王宫，态度傲慢，颐指气使，咄咄逼人，结果伤害了朝鲜君臣的自尊心，激起他们的强烈不满。他们一方面要求清廷派员替换，一方面加速背离清廷。与此同时，袁世凯对朝鲜内政外交的过分控制，因阻碍了西方列强特别是日本的染指，也招来他们的一致忌恨。
1894年，朝鲜东学党起义，日本利用朝鲜君臣急欲脱离清朝的心理，趁机大举进攻。袁世凯多次恳请日本大使谈判的和平努力受挫，只有求助李鸿章派兵增援。李鸿章对敌强我弱的中日实力了如指掌，不想骤然开战，一心指望俄、英等国出面调停，也就未派援兵。日军布列朝鲜要津，以重兵包围袁世凯使署，并扬言要派兵将他押送出境。孤立无援的袁世凯在无奈之际只好给李鸿章连连拍发电报，托病请辞回国。
袁世凯落魄逃归，在天津散居了一段时间。当然，他并不甘心于自己的失利与失败，已尝到权力滋味与甜头的他，于表面上无所事事，实际上却以其特殊而敏锐的政治嗅觉，正紧张地观察分析着时局的发展与走向。
一番紧锣密鼓的活动很快就见成效，在袁世凯靠山的联合保奏与举荐下，光绪帝下旨，任命袁世凯为新建陆军督办大臣。
1895年12月16日，袁世凯奉旨前往距天津60余里、离北京300里许，素有京津南大门之称的小站，接管定武军，督练新建陆军。
袁世凯的人生，也因此而进入了第二个重要阶段。
清军由八旗、绿营，经曾国藩的湘军、李鸿章的淮军，已发生了重大变化。但就总体而言，清军之编练，并未达到真正近代化的程度，特别是中日两军对垒，清军简直可以称得上不堪一击、一触即溃、一溃千里。袁世凯投笔从戎置身庆字营，已深刻认识到淮军之不足，因此，他在编练朝鲜亲军时，除用淮军勇营的操练法之外，又采用了英美装备与德式操练法。而小站练兵，他更是全盘更新：聘请了十多名德国、日本、美国军事教官，武器装备由德国进口，清一色的曼利夏步枪、马枪、手枪和格鲁森速射炮，此外包括电台、手表、帐篷、雨衣、雨帽、毯子等，全部都是洋货，他成立新建陆军督练处，下设参谋、执法、督操三个营务处，以及粮饷局、军械局、转运局、军医局、教习处等，订立各种章程，完善军队的组织制度；建制更是以德国和日本的近代化军队为准，分为步、炮、马、工程、辎重等五个兵种。
新建陆军（简称新军）以过去的4750名定武军为基础，后又在河南、山东、皖北、苏北、奉天等地招募了2250人，共计7000人。新军不像湘军、淮军那样是由私自招募组成，但袁世凯从曾国藩、李鸿章身上吸取养料，决心将其打造成一支替他效忠的“袁家军”。为此，袁世凯任命军官，多用自己亲信，还有一部分则为陆军大臣荫昌与李鸿章推荐的军事骨干，他便通过拜把兄弟、收义子门生等方式，建立起紧密牢靠的宗法式关系，让他们成为他的心腹死党。为让官兵效忠，新军各营都供奉有袁世凯的长生禄位牌，每日上操、下操集合之时，将领都要大声问道：“咱们吃谁的饭？”所有士兵异口同声地回答：“吃袁宫保（袁世凯曾被宫廷封为太子少保，简称‘宫保’）的饭！”再问：“咱们穿谁的衣？”再答：“穿袁宫保的衣！”又问：“咱们为谁出力？”又答：“替袁宫保出力！”
