咸豐九年底、十年初，左宗棠因為受到湖廣總督官文參奏，決定離開駱秉章幕府，準備赴京考試，但途中接受胡林翼勸說，改為到駐紥於安徽宿松的湘軍大營，與湘軍統帥曾國藩會晤，之後奉旨回湖南招募士兵，編練為「楚勇」，參加征伐太平天國，被視為湘軍其中一支部隊。

湘軍的起源，是太平軍於咸豐二年（1852年）中攻入湖南時，路過之處，地方官兵無法抵擋，圍攻省城長沙八十日，幸而長沙城牆堅固，巡撫張亮基率領軍民堅守，擊殺太平天國猛將西王蕭朝貴，太平軍退走，轉往湖北武漢，沿江東下，進攻南京。當是時，湖南鄉紳曾國藩（原任禮部侍郎）因為母親逝世，回鄉守孝，咸豐二年底（1853年1月），曾國藩接到聖旨，在湖南省幫辦團練，即組織民兵。曾國藩與巡撫張亮基及繼任巡撫駱秉章商議籌劃，在湖南各地招募士兵，並整合各地武裝力量，依靠師徒、親戚、好友等人際關係為軍官，建立了一支地方團練，稱為「湘軍」，或稱「湘勇」。咸豐四年（1854年）初編練陸軍十三營六千五百人、水師十營五千人，加上兵勇、伕役工匠等，共一萬餘人。其後人數不斷增加。兵隨將轉，兵為將有，全軍只服從曾國藩一人。最初在衡陽練兵。

咸豐四年（1854年）二月，湘軍練成，會集湘潭，曾國藩發佈《討粵匪檄》，聲討太平天國「竊外夷之緒，崇天主之教」，廢孔子之經，崇耶穌之說，焚學宮、毀廟宇，「無廟不焚，無像不滅；斯又鬼神所並憤怒」，是「開闢以來名教之奇變」，開始領兵討伐太平軍。

是年三、四月間，太平軍兵分兩路；回攻湖南，北路進攻長沙以北戰略要地靖港（今望城區靖港鎮），南路攻佔湘潭，對長沙展開南北夾擊。曾國藩親自率領水師主力進攻靖港，卻遭遇伏擊，損失慘重，曾國藩跳江謝罪獲救。幸而彭玉麟等大敗南路太平軍，收復湘潭，太平軍敗走。湘勇在湘潭大捷，得到清朝重視，此後幾年，轉戰江西、湖北、安徽各省，在長江中游協助清朝官兵阻截太平軍。

清朝執政者並未完全倚賴、信任湘軍，各省督撫對湘軍的軍需、糧餉處處制肘，湘軍只能擔當輔助角色。清朝對太平天國的作戰主力，是在天京（今南京）附近設置南、北兩處大營：欽差大臣向榮領重兵，在南京城東孝陵衛駐紮，號稱江南大營；琦善領重兵，在揚州城外駐紮，號稱江北大營，圍困、監視太平天國首都，兼防止太平軍侵犯清朝經濟命脈江南大運河。

咸豐六年（1856年）秋，太平天國發生「天京事變」，天王洪秀全利用北王韋昌輝等，誅殺東王楊秀清，隨後又殺誅韋昌輝曾，翼王石達開不滿天王濫殺兄弟，又擔心惹禍，憤而率領部屬數萬人出走。天國內鬨，曾國藩乘機指揮湘軍反撲，年底再攻陷武漢，確立湘軍在長江中游的主導地位。

咸豐十年初，左宗棠與曾國藩在安徽宿松會面的時候，湘軍正準備進攻當時的安徽省會·長江中游戰略重鎮安慶。這個時間前後，清朝的政局，正陷於內外交困的嚴峻處境。

「天京事變」之後，天王洪秀全獨攬大權，他任用族弟洪仁玕主持政務，年輕將領忠王李秀成、英王陳玉成統領太平軍，咸豐十年初，洪仁玕提以「圍魏救趙」策略，解除江南、江北两座清軍大營對天京的威脅：忠王李秀成率軍攻打杭州，待江南大營分兵往援時，迅即回師北上，會同各軍，攻破江南大營，清軍主帥和春戰死。李秀成乘勝東進，連克丹陽、常州、無錫等重鎮，四月十三日(6月2日)攻佔蘇州，隨後攻佔杭州，並準進攻上海。與此同時，英王陳玉成西征，在安慶被湘軍擊敗，李秀成則在江浙建立「蘇福省」「天浙省」，完全控制江南大運河。於是湘軍成為清政府的主要軍事力量，曾國藩被授兩江總督和欽差大臣。

同一時期，廣東爆發「英法聯軍事件」。咸豐六年十月，英國借廣東省扣查已過期英國登記走私船亞羅號，與廣東省府發生衝突，10月23日，英國海軍上將米高·西摩（Sir Michael Seymour，香港西摩道紀念此人）率軍艦三艘、划艇十餘隻、海軍陸戰隊約二千人，從香港向虎門口開進，24日向廣州發炮。兩廣總督葉名琛以為英方虛張聲勢，不予抵抗。英軍有意攻入廣州，報請倫敦加派戰艦；與此同時，廣西發生村民殺死法國神父，法國亦決定派兵向清朝施壓。咸豐七年（1857年）九月英法聯軍抵達廣東，十一月，攻陷廣州，兩廣總督葉銘琛被俘，押往印度加爾各答，絕食而死。英法聯軍佔領廣州城，以巡撫柏貴為傀儡，統治廣東省三年。

咸豐八年（1858年）3月，英國特使額爾金（8th Earl of Elgin，香港譯伊利近，中環有街道紀念）會同法、美、俄四國公使前往上海，向兩江總督施壓，要求到京談判，不得要領，於是集結軍艦，北上天津，炮轟大沽炮台。清朝派大學士桂良等赴天津議和，最終談判破裂，英、法使者要求赴京，被拒，強行前進，清軍發炮阻止。咸豐九年11月英、法兩國政府分別再次任命額爾金、葛羅為特命全權代表，以陸軍中將格蘭特、陸軍中將孟托班為聯軍總司令，率英軍約一萬八千人和法軍約七千人組成一支新的遠征軍，開往中國。次年中，大軍抵達天津，9月6日，咸豐帝下達對英國與法國的宣戰上諭，聯軍發動進攻，與蒙古親王僧格林沁在八里橋展開決戰，9月18日，清軍大敗，僧格林沁部隊全軍覆沒，咸豐帝以避暑為名逃往承德。聯軍兵臨城下，炮轟城牆，10月13日，北京打開城門，向聯軍投降。