清末，安徽巢县竹柯村有一户贫苦的农工人家，这家有个男丁名叫冯有茂，为人侠义豪爽，刚直不阿，继承了从祖上传下来的一手泥瓦匠技艺。一次，因为战乱冯家举家逃难到一处偏僻村落的破庙里寄居。这一时期，冯有茂投到一位张姓富翁家里做工，他看到张富翁的两个儿子跟着一名武师习武，从小酷爱武艺的他便暗自留心偷师学艺。不想武师很快窥破了他的举动，但见他生就一副练武术的好材料，于是便去和张富翁商量，允许冯有茂一边做工，一边习武。
张富翁虽然富贵，却是个好人，他一听二话没说，一口应允下来。就这样，冯有茂练得一身好功夫，考入武庠。当时，遍地战火纷飞，干戈不断。一腔热血的冯有茂渴望建功立业，成就男儿大志。他打定主意后，毅然离开武庠、离开故乡，投身到“铭军”之中。铭军，因为其统领刘铭传之故而得其名，隶属直隶总督李鸿章的淮军，在晚清很负盛名。
起初，冯有茂在差遣队当差，满清政府的腐化无能以及残酷压迫，不仅激起了汉族人民的暴动与革命，连其他民族也对它仇视和反抗起来了。后来，冯有茂在奉朝廷命令去新疆平乱之后，回到山东济宁驻防时，成家立室，娶妻游氏。第二年，游氏产下一子，取名基道。次年（光绪八年，即1882年），再产一子，名为基善，这便是日后扬名中外的冯玉祥将军。
游氏一共育有冯玉祥兄弟七人，可是由于生活艰难，导致七兄弟从小营养不良，未成年时竟然先后夭折五人，仅剩下冯玉祥及其兄长安好于世。而游氏在生下最后一个儿子没多久即病故，自幼失去母亲的冯玉祥在童年时随父亲的军队驻守到保定，保定成了他的第二故乡。而此时的冯有茂也从最初的当差一步一步地升到哨长至哨官，他虽然屡升军级，但官饷无多，再加上他秉性正直，不屑中饱私囊，因此冯家的生活依旧举步维艰。
冯玉祥自幼时起，所穿衣物均是布衣布履，从没沾过绫罗绸缎。这竟然成为他日后的生活习惯，无论他身居如何的高官显位，始终粗布衣裤，不改平民本色，因此他被称为“平民将军”、“布衣将军”。冯玉祥长到10岁时，在他父亲的长官苗开泰管带的帮助下，进入淮军中挂名领饷，这种给军人的孩子挂名领饷的做法在军中称作“恩饷制”。虽然没几个钱，但总算可以补贴些家用。
说到冯玉祥领恩饷还有一段轶事，挂名需要填名册，可冯玉祥的大号基善苗管带并不知道，差人去问又来不及。苗管带事急从权，随手在名册上填了个“冯玉香”的名字。这个女里女气的名字也不知道跟了冯玉祥多久，总之是他长大建功立业后，既舍不得丢弃这个人人知道的大号，又讨厌它的娘娘腔劲头，于是自己想办法改了个谐音“玉祥”。这样，既没改变原来名字的发音，又变得男性化十足。
光绪二十年（1894年），中日“甲午战争”爆发，冯玉祥跟随父亲的部队到大沽口修筑炮台。离他们施工地20里远的海面上，赫然停泊着日本军舰。从这时起，冯玉祥经常听到关于日本及其他列强欺侮中国的事，一种民族的仇恨，尤其对日本的仇恨，在他幼小的心灵里迅速萌生。他在心中暗暗想：“今后我不当兵则已，若当兵，誓死要打日本，尺地寸土决不许由我手里让日本夺了去！”
经过整整两年的艰辛劳作，大沽口炮台修筑完成。这一建筑之坚固，堪称全国首屈一指的海防工程。19尊崭新的大炮，威风凛凛，都是李鸿章从德国买的。冯玉祥他们对自己的辛劳成果打心眼里感到自豪。从大沽口回到保定以后，冯玉祥正式入营服役，他的军旅生涯从此开始了。这一年，冯玉祥只有14岁。
几年后，八国联军打进北京，慈禧太后仓皇出逃，李鸿章出头议和，结果是与列强签订了丧权辱国的《辛丑条约》，不但赔偿了四亿五千万两白银，其中还有一条就是拆毁大沽口炮台，而且以后永远不准中国再在大沽口设置任何国防工事。各炮台还没一试伸手就要拆毁，消息传来，冯玉祥内心无比悲痛。从这一刻起，他心中就树立了有朝一日要雪洗国耻的决心，并在以后练兵中，都是以日本为假想敌。
冯玉祥不但遗传了父亲高大健壮的身材、孔武过人的身手，而且还继承了父亲正直侠义的性格、忧国忧民的思想。他为了能够早日驱逐日寇，每天刻苦训练，别人还没起床时，他已出去腿绑沙袋疾行15里，练习脚力。回到军营中，大家还在睡觉，他又扛出长枪去继续操练。由于冯玉祥的自强不息，使他从一名籍籍无名的小卒逐渐升迁到教习的职位。然而这并没有令冯玉祥感到欣慰，因为他发现在淮军的军营中存在着太多问题，譬如积习太深、功过不明、赏罚失当、士兵疾苦无人过问等等。
光绪二十七年（1901年）年底，李鸿章去世，袁世凯接任直隶总督兼北洋大臣。次年，袁世凯编练新建陆军，这时，对淮军充满失望的冯玉祥改投到新建陆军的武卫右军中。
到了新的军营里，往日那股拼搏进取的精神，在冯玉祥身上更胜过去，入新军的头一年就被提为头棚副目，翌年又升为四棚正目，第二营右哨哨长。冯玉祥的长官叫陆建章，陆长官见冯玉祥德才兼备，又知他尚未成家，便将自己夫人的侄女刘德贞许配给他。
冯玉祥与刘德贞结为伉俪后，夫妻二人相敬如宾，育有两男三女五个孩子，共同生活将近20年。刘德贞身为官太太，没有一点贵夫人的架子，平时与孩子们吃的都是粗茶淡饭，穿的是粗布衣，出门从不坐轿，在家里照样缝缝补补。因此，人们都称她为“平民夫人”。
冯玉祥成亲的那一年已经23岁，也是在这一年，武卫右军改编为新军第六镇，冯玉祥由哨长改任司务长，再升为第十二协二十四标第二营后队队官，移驻奉天新民府。成家立业的冯玉祥心想，这回终于有能力、有条件孝敬自己的老父亲了。他的父亲冯有茂多年前已被部队精编裁员下来。一直过着贫苦的生活。然而天不遂人愿，冯有茂此时患肺病已到了晚期，不久便撒手人寰。冯玉祥悲恸过后将父亲的尸骨运回保定，与母亲的灵柩合葬在一起。
转眼又过了三年，冯玉祥升为第一混成协督队官。正是在这时，他结识了革命党人孙谏声，读到了《嘉定屠城记》和《扬州十日记》等反清书籍。孙谏声明里是新军第六镇工兵营排长，暗里是革命党人身份。一天，孙谏声来到冯玉祥房里，见他正在看《曾国藩家书》，于是很不高兴地说：“你还想当满清的忠臣孝子吗？”
“当忠臣孝子难道有什么不好？”冯玉祥反问道。
“当孝子，我不反对。当忠臣我可不赞成！”孙谏声低声说，“等一会儿，我拿两本书给你看看，你就知道我的话不错了”。
孙谏声出去后又很快回来，他的神色看上去很是有些不寻常，又向四周巡视了一会儿，确定没人后才从腰里掏出两本书来，正是《嘉定屠城记》和《扬州十日记》。孙谏声把书交到冯玉祥手里，很郑重地说道：“没人的时候，你再拿出来看，千万不要叫别人看见，这可不是闹着玩的。”说完，他匆匆地离去。
其实对于满清政治的不满，在冯玉祥心中也早已存在，只是远不如革命党人对满清政府仇视的那么深刻。他到新民府第二年，《中日安奉铁路协约》刚刚签订，接着又发生了关岛问题。这些问题的发生，在冯玉祥看来都是满清政府的软弱无能所致，更是日本帝国主义侵略中国东北三省一贯政策下不可避免的。当他偷偷读完孙谏声送来的两本书时，才恍然知道满洲异族入关之初，屠杀汉人之惨状。冯玉祥大为愤懑，为清廷尽忠效力的思想忽而因此转变。从此他痛恨满清政府，更加仇恨日本侵略者。
在当时，新军中一部分有良心的年轻的热血军官，对于清廷的昏庸误国，也都愤恨不平，深恶痛恨。冯玉祥便暗中联络了一批这样志同道合的朋友，其中除了孙谏声外，还有王石清、郑金声、王金铭、施从云、戴锡九、张之江、张树声、张宪廷及刘骥等人。这些人虽然有的在工兵营，有的在辎重营，有的在骑兵营，有的在步兵营，但共同的革命信仰把他们紧紧联系在一起。
王金铭、施从云二人都是由第五镇第十八标拨到七十九标的，分别是第七十九标第一营和第二营的营副。他们两人一个足智多谋，一个勇猛善战，而且均是品行端正，吃苦耐劳，内外如一，好学不倦。于是冯玉祥和王、施二人私下商量，成立一个秘密组织，名义上以读书为名，暗地里联合有志之士共同推翻满清统治。三人一拍即合，经冯玉祥的提议，他们的秘密组织定名为“武学研究会”。
起初，除了冯玉祥他们三个人以外，还有第八十标第一营管带王石清、第二营管带郑金声以及岳瑞洲也参与了成立武学研究会的事，一共六个人，大家共同立下“先驱清廷，后御外侮”的誓言，并公推冯玉祥为会长。
武学研究会的范围逐渐扩大到军中各营各连。陆续秘密加入会中的还有第二十镇参谋长刘一清、第八十标第三营参谋官孙岳以及张之江、李鸣钟、韩复榘等人。对冯玉祥来说尤其一位重要的人物，那就是在学兵营的鹿钟麟也参加了武学研究会，他因此和冯玉祥相识，并结为知己，从此追随冯玉祥戎马近40年。
为了扩大联系面，加紧准备武装起事，冯玉祥和王金铭又在武学研究会的基础上成立了“山东同乡会”，筹措钱款，购置弹药。山东同乡会旨在武装反对清政府，鹿钟麟虽不是山东籍，但也加入为会员。他奉命潜入奉天、北京、唐山、天津等地，联络会员，并出色地完成任务，很受冯玉祥赏识。
宣统二年（1910年），冯玉祥的第一混成协与原本的独立第一、二团合编为第二十镇，冯玉祥晋升为第二十镇第四十协八十标第三营管带。清末时期的陆军章制，每隔三年举行一次秋操，次年八月，即辛亥年秋季，又到了三年一度的秋操季节，地点在滦州（今滦县，在山海关西南约二百里处）。与此同时，革命党方面传来消息，革命军队伍亦于八月间发动“武昌起义”，东南各省纷纷响应。
冯玉祥一听，感觉革命的时机终于到了，遂与第二十镇的武学研究会的骨干暗中同第六镇吴禄贞、第二混成协蓝天蔚密谋，趁秋操之机，将枪中演练用的子弹换上真的，相继见机起事，发动“滦州起义”。大家商定，推选王金铭为北方革命军的大都督，施从云为总司令，冯玉祥为参谋长，鹿钟麟任右路军司令。
冯玉祥等人的本意是，北方的滦州起义以响应革命党在南方的武昌起义，然后直接打到北京，推翻满清政府的统治。可是没想到，吴禄贞在新军中的军职屡屡升迁，而他本人又锋芒毕露，常常在东北三省一带宣传革命思想，所谓树大招风，因此清廷早已对他心存戒备。还未到秋操之日，朝廷便通知停止第六镇参加。
屋漏偏逢连夜雨，南方孙中山领导的同盟会中有位革命党人名叫白雅雨，他与孙谏声同是负责跟冯玉祥等北方革命派保持联络工作的。起义前夕，白雅雨过高估计了形势而提前发出了“反正文告”，因而走漏了消息，遂引起北京政府的警觉。
眼见消息败露，王金铭、施从云当机立断，迅速高举革命旗帜，率先起事。接着通电南北，主张共和，通电的署名亦有冯玉祥的名字。当时冯玉祥正奉命带领本部人马镇守奉天府，王、施二人的通电一出，冯玉祥等革命派立即遭到保皇派的监禁。
滦州地处京畿近地，北京政府闻听革命派提前起义，大为震惊，急忙一面调遣军队镇压，一面派出王怀庆前往滦州劝谕革命军。可是，王金铭与施从云并不吃清廷的这一套，他们将前来游说王怀庆扣下。王怀庆见势不妙，谎称归顺革命军，得到释放后却趁机逃跑。
王、施二人按照预定计划，指挥北方革命军沿铁路直驱天津，再攻北京。他们率部登上开往天津的火车，不料，王怀庆在前方提前破坏了通向天津的铁轨，而第三营管带张建功竟与王怀庆勾结，二人一前一后将革命军夹在中间。火车行至雷庄车站不得不停下来。王、施二人只好率部下车，与堵截在前方的王怀庆部展开殊死搏斗。战斗一直打到深夜，王怀庆部渐渐不支，随即发出信号请求停战议和，并派出代表邀请王、施二人过去谈判。革命军的战士们都深知王怀庆为人老奸巨猾，大家都劝说他俩不要过去。
王金铭挥手止住大家的劝说，他说道：“我辈革命军人，早已抱定为国牺牲的宗旨，纵是龙潭虎穴，我又何足惧哉？”旁边的施从云也慷慨地说道：“难道我施某是贪生怕死的人吗？”就这样，二人大义凛然地来到王怀庆一边。
王、施二人刚一坐定，还未见到王怀庆本人，便突然冲出来十几个荷枪实弹的士兵，将他们按住捆绑起来，旋即杀害。同行的一个护兵名叫黄云水，王怀庆命人释放他时，他非但不走，反而破口大骂：“王怀庆你这个害民贼，甘心当满清的奴才，残杀同胞的猪狗！……”王怀庆一听，不由得恼羞成怒，抬手一枪，可怜黄云水一条好汉也倒在血泊之中。
革命军领袖一死，群龙无首，滦州起义最后以失败告终，孙谏声、白雅雨也在这次起义中壮烈牺牲。而当时冯玉祥已被监禁四日，事后，幸得他的老上级，也就是他夫人刘德贞的姑父陆建章极力周旋，他才平安无事。鹿钟麟则是在他的长官车震力的担保下，也侥幸没被有查处。冯玉祥没想到自己的第一次革命居然失败的这样惨痛，更让他难过的是失去了许多位情同手足的革命战友。
后来，民国十三年（1924年），国民军北京政变成功后，冯玉祥在北平中山公园（旧名中央公园）为王金铭、施从云、孙谏声三位烈士铸立铜像，但是国民军北撤后，军阀张宗昌入据，即将铜像毁去。四年后，国民革命军北伐成功，冯玉祥追怀先烈，复高竖三铜像于原处，且另为三位烈士篆刻碑文以纪念其起义殉国的经过，以流传千古。
