1781年1月8日，关天培出生在江苏省淮安县的一个贫穷的农民家里，他的祖祖辈辈都是种田的，过着朝不保夕的生活。关天培从小便随父母下地干活，帮助家里挣饭吃。他生性好动，一有工夫，便舞枪弄棍，厮杀滚打，从小就练就了一副好身板。他从小就显得有勇有谋，与小朋友玩时，大家总是听他指挥，围着他转。关天培从小便渴望将来能领兵打仗，成为大将。他曾上过学，但因家里太穷了，实在没有办法念下去，他便弃学投戎，开始了当兵的生涯。关天培虽然读书不多，但绝对不是个大老粗。他注意自学文化知识，不过他学文并不是为了风花雪月，吟诗作对。他说：“我不学作诗吟赋，只学上奏章行公文，这才是实用之术。”每次他奏章行文时，必定亲自撰文改稿。因此他的奏章行文流畅，言之有物，颇有文采。关天培于1833年写的条幅可以证明这一点。“南史称谢朓好奖人才，会稽孔颙粗有才华，未为时知，孔珪尝令草让表以示朓。朓嗟吟良久，自折简写之，谓珪曰：‘士子声未立应。'”条幅上的字迹刚劲有力，布局严整有度，具有相当的书法功力，其内容也风雅不俗。
在军队中，他勤学苦练，学成一身好武艺。他不想成为一介武夫，草莽英雄，他要成为智勇双全，指挥有方的将军，所以，白天练习武艺，晚上勤学苦读。他念过的书很少，只好从头学起，一字一句地学习。他不喜欢八股文及诗赋、论策，特别喜欢《孙子兵法》等军事书籍，从中学得很多谋略，增长了他的军事才干，成为军队中出色的一员。在他22岁时，顺利地考取了武秀才，走上通往将领之路。关天培凭借自己的一身技艺和精通的战略战术，很快便脱颖而出。由于他办事认真，勤勤恳恳，得到上司的信任，迅速被提升，可以说是平步青云。在清军中，他历任把总、千总、守备、都司、游击、参将、副将、总兵、代理江南提督等职。无论担任何职，他都兢兢业业，一丝不苟，严于律己，身先士卒，很得士兵的爱戴，并且屡次受到朝廷的嘉奖和道光皇帝的召见。
关天培的脱颖而出，要从1826年的“漕河浅阻”讲起。衙门筹办由海上转运漕米，这是一次十分危险的航程，要“行汪洋大海，遇警风骇浪”，关天培“不避毛遂之嫌，力请身任”，于是被委任率领一支由1254只船组成的庞大船队，运漕米124万余石赴京。途中虽然发生过三百余艘船只漂入高丽（今朝鲜）境内的插曲，但他指挥若定，化险为夷，出色地完成了任务，受到道光帝的嘉勉。1827年，特旨补授苏淞镇总兵。
1834年，这一年可以说是关天培人生旅程的一个转机。9月，英国驻华商务监督律劳卑率船来华，他们无视中国政府的法律，以通商贸易为借口，公然率两艘军舰闯过广州虎门海口各炮台，直抵黄埔港，进行侵略性的试探。当时的广东水师提督李增阶疏于防犯，水师官兵松散无力，根本不能抵御外来侵略者。广东督府卢坤等见此情景，非常着急，火速上奏皇帝。道光皇帝看到卢坤的奏折，龙颜大怒，下令将广东水师提督李增阶革职查办。那么由谁来接替李增阶的提督之职呢？谁来守朝廷的南大门呢？这时他想起了关天培，见此人有干济之才，堪当此任，便下诏，将关天培由代理江南提督升任为广东水师提督。
年过半百的关天培接到皇帝的诏书后，心里百感交集。他为皇帝的赏识和重用感到高兴，从此，自己成了朝廷的高级将领，实现了自己多年的宿愿。到广东水师当提督，也可以更充分地展示自己的军事才能，有着更广阔的前程。另一方面，他也为接广东水师这个大烂摊子感到担子太重。广州是祖国的南大门，英国侵略者律劳卑轻而易举地闯进内港，说明这个大门已经不堪一击了，自己接管这扇大门，牢牢地守住，不让侵略者进入，那将是一个多么重的担子啊！
关天培心事重重地回到家里，看到文弱的妻子、年近八旬的老母和不懂事的孩子，心情更沉重了。他的妻子见他心情烦躁不安的样子，轻声地问道：
“不知何事令大人如此不开心，能否说给我听听？”关天培抬头看了看妻子，起身坐到妻子身边，对妻子说：
“夫人，我今天接到皇帝的圣旨，任命我为广东水师提督，过几天就要到广州赴任去了。”
妻子一听，高兴地说道：
“夫君高升了，应该高兴才对呀，为何闷闷不乐呢？”
关天培重重地叹了口气，说道：
“我是为有此机会而感到高兴。可是此番前去，任务繁重，恐怕无暇照顾母亲和孩子，心里不安啊！”
只见他妻子淡淡一笑，说道：
“你请放心。大丈夫应以国家事业为重，不应为儿女私情所累，有我照顾母亲和孩子，你就放心去吧！我想带母亲和孩子回江苏老家去，这样就免得拖累你，行吗？”
望着如此贤惠而又通情达理的妻子，关天培内心充满感激之情，他决定只身南下，不负皇帝的重托和妻子的希望，为祖国守好南大门。
11月，关天培派人将老母与妻子等送回老家，只身带着个家丁前往广州虎门赴任了。
