1861年,在安徽、江西战场上,太平军作战不利。这年夏天,清军围攻安庆,太平军增援安庆失利,形势十分危急。程学启在清军的军事压力和利诱之下,率手下三百余人出城投降,被编人曾国荃的湘军,丁汝昌就在这三百降军之中。此时,他并不懂得革命战争的意义,只知道紧跟上峰,服从命令,奋勇作战。编入湘军后,程学启被曾国荃授为参将,统领开字营,丁汝昌升为哨官,授千总。
1862年2月,李鸿章奉命在安庆一带编练地主武装,建成了著名的淮军。不久,曾国荃派李鸿章率领淮军到苏南地区与太平军作战,李鸿章趁机扩充淮军实力,向曾国荃提出让程学启部队隶属其麾下,曾国荃同意了李鸿章的要求。从此,丁汝昌又跟随程学启被编人淮军。这年5月,李鸿章率七千淮军进驻上海,投入镇压太平天国的战争中。在与太平军的作战中,丁汝昌逐渐以骁勇善战闻名淮军,被都司刘铭传看中,刘铭传向李鸿章提出要调用丁汝昌,李鸿章答应了。于是丁汝昌从程学启部来到了刘铭传的帐下。刘铭传对他很器重,将其升为营官,统领马队。随后,丁汝昌率领着他的马队,参加了镇压东西捻军的战争,并屡立战功,被先后晋升为副将、总兵加提督衔,赐协勇巴图鲁勇号,使丁汝昌的从军生涯达到了辉煌的时期。
十几年的戎马生涯使丁汝昌仿佛变了一个人。他如今是身材高大,体态魁梧,外表上给人一种不易接近甚至冷漠的感觉,实际上却是极富同情心和正义感的。生存也已不再是他的唯一追求,他现在是报国心切,遇事果断,嫉恶如仇。士兵们都十分爱戴他。