同治七年（1868）十月，左宗棠接任陝甘總督後，負責平定西北回民之亂，但他的更重要目標，是收復新疆失地。

清朝初年，天山南北的古代西域，被蒙古準噶爾部所控制，清朝康熙、雍正、乾隆三朝，與準噶爾展開長達七十年的角力和戰爭，最終在於乾隆二十年（1755）春，清朝趁準噶爾貴族爭權內亂，發兵出征準噶爾。準噶爾首領歸降，但不久復叛，乾隆二十一年（1756）三月，清朝再次出兵，攻佔伊犁。至乾隆二十四年，肅清準噶爾殘餘勢力，隨後，清朝降服原本受準噶爾控制的天山以南維吾爾人諸城邦，各國成為清朝藩屬，於是清朝在西方「拓地二萬餘里」，天山南北盡入清朝版圖，稱之為「新疆」。

新疆地域廣袤，交通阻隔，清朝容許維吾爾人首領世襲管治各城邦，委派「伊犁將軍」領兵監督。

太平天國起事之後，中原爆發捻軍之亂，西北又有回民動亂，清朝對新疆的監督已經鞭長莫及，天山以南維吾爾人城邦不時發生叛亂。

同治三年（1864）庫車爆發叛亂，頃刻間便波及新疆全境。新疆以西的中亞地區，受到俄羅斯人入侵，曾經強盛一時浩罕汗國在俄國軍事壓力之下開始分崩析離。部分浩罕汗國貴族希望另闢新疆土，乘機領兵進入新疆，其中一位軍官阿古柏，自稱是聖人後裔，趁局勢混亂奪取了喀什噶爾（今喀什市），建立穆斯林政權，並建立了「哲德沙爾汗國」，不久幾乎佔領新疆全境。阿古柏得到英國在印度的殖民地政府支持，貿易中獲得的利潤。

阿古柏在新疆取得勝利的同時，1868年，俄國與中亞布哈拉汗國聯手，迫使浩罕汗國臣服俄羅斯，並於1871年兼併浩罕。俄軍在征服浩罕的時候，順勢進攻伊犂，清朝伊犂將軍退至塔城。俄國聲稱，佔領伊犁，是代替清朝守土，假如清朝收復天山以南城邦，俄軍便歸還伊犁予清朝。而當時清朝在新疆所控制的地方，只有東部的哈密，及西北部的塔城。左宗棠決心收復新疆，實在難之又難。

同治十一年（1872）七月，清廷正在爭論是否應該重海防而棄守新疆，左宗棠認為「既事關君國，兼涉中外，不能將就了局，且索性干去而已」，率師進駐蘭州，準備收復新疆。同治十二年（1873）九月，左宗棠打敗據守肅州（今甘肅省酒泉市）的最後一個回族叛軍首領馬文祿之後，立刻坐鎮肅州，策劃出兵新疆。

左宗棠採用「緩進速決」的戰略，要打算展開積極而迅速的戰鬥。所謂「緩進」，就是積極治軍，他用一年半的時間籌措軍餉，積草屯糧，整頓軍隊，減少冗員，增強軍隊戰鬥力。即使是自己的主力湘軍，也剔除空額，汰弱留強，凡不願出關西征的，不加勉強，一律給資，遣送回籍；所謂「速決」，就是考慮國庫空虛，為了緊縮軍費開支，大軍一旦出發，必須速戰速決，力爭在一年半左右獲取全勝儘早收兵。因此，在申報軍費預算時，左宗棠親自做了調查和精微的計算，絕對不能有絲毫浪費。經過周密計劃，估算出全部軍費開支共需白銀八百萬兩。為防止意外開支，留有餘地，宗棠向朝廷申報一千萬兩。朝廷對此爭論激烈。兩宮太后支持左宗棠，作出批示：「宗棠乃社稷大臣，此次西征以國事而自任，只要邊地安寧，朝廷何惜千萬金，可從國庫撥款五百萬，並敕令允其自借外國債五百萬。」其後得胡雪岩出面，向外國銀行貸款，才勉強籌得軍費。

光緒二年（1876）二月，左宗棠命大將劉錦棠統兵自甘州（今張掖市）移師至肅州，七月，令劉錦棠領湘軍二十五營一萬三千兵馬，與滿族將領金順率清兵四十營二萬一千兵馬，共三萬四千兵力先鋒，出星星峽進入新疆，一舉奪回失陷十四年的烏魯木齊，光緒三年（1877年）初，天山以北基本上收復，同年進軍南疆門戶庫爾勒，擊敗白彥虎，再收復東四城：庫車、拜城、阿克蘇、烏什。阿古柏政權分崩析離，劉錦棠迅即攻入喀什噶尔（今喀什市），破其都城葉爾羌（今莎車縣）阿古柏已死，南疆全部收復。左宗棠大功告成，需要解決的是，收復被俄國佔據十年的伊犁，於是有「左宗棠枱棺西征」的傳說。但解決伊犂問題，是清朝與俄國的外交較量。