后勤准备就绪后，左宗棠制定\"先北后南\"的进军路线：先收复北疆的乌鲁木齐、玛纳斯，切断阿古柏与沙俄的联系，再南下攻取南疆诸城。光绪二年（1876年）四月，左宗棠进驻肃州（今酒泉），设立大本营，此时他已年近七旬，常咳血，但仍坚持\"每日阅军操，查粮运，无一日懈怠\"（《清稗类钞·将帅类》）。临行前，他命人抬着一口棺材随大军出征，以示\"不破楼兰终不还\"的决心，将士见之，无不感奋。
光绪二年（1876年）七月，清军打响收复新疆的第一战。提督张曜率军攻占古牧地（今米泉），歼灭阿古柏军三千余人，随后乘胜收复乌鲁木齐。阿古柏在北疆的势力土崩瓦解，\"残部逃往南疆，沿途百姓争献食物，助我军追剿\"（《新疆图志·武功志》）。
光绪三年（1877年）春，清军兵分三路南下，直指吐鲁番。阿古柏派其子海古拉率军抵御，却在达坂城遭清军火炮重创，\"城破之日，尸积如山，海古拉仅带数骑逃脱\"（《左文襄公奏稿》）。三月，清军收复吐鲁番，切断南疆与北疆的联系，阿古柏众叛亲离，在库尔勒服毒自杀（一说被部下所杀）。
同年秋，左宗棠令刘锦棠率大军继续南下，连克喀喇沙尔（今焉耆）、库车、阿克苏。当地各族民众\"箪食壶浆以迎王师\"，许多人加入清军，充当向导。至光绪四年（1878年）一月，清军收复喀什噶尔，阿古柏残部逃往俄国，除伊犁外，新疆全境光复。捷报传至京师，光绪帝下旨嘉奖：\"左宗棠力排众议，督师西征，克复新疆，厥功甚伟，加恩晋封二等恪靖侯。\"（《清德宗实录》卷70）
收复新疆大部后，收回伊犁成为当务之急。然而，沙俄却拒不履约，反而提出\"割让伊犁部分地区、赔偿兵费\"等无理要求。光绪四年（1878年），清廷派崇厚赴俄谈判，崇厚昏聩无能，竟在沙俄胁迫下签订《里瓦几亚条约》，将伊犁霍尔果斯河以西大片领土割让给俄国，还赔偿兵费九百万卢布。
消息传回，举国哗然。左宗棠怒斥：\"崇厚之约，无异卖国！伊犁乃我固有领土，一寸不可让！\"他随即上奏，请求\"整军备战，以武力收回伊犁\"。光绪六年（1880年），左宗棠再次率军进驻哈密，\"三路布防，扬言进取伊犁\"，同时清廷改派曾纪泽赴俄重谈。
曾纪泽（曾国藩之子）凭借扎实的外交功底，在谈判中据理力争，而左宗棠的军事威慑成为其坚强后盾。沙俄见清军势盛，又慑于国际舆论，最终同意修改条约。光绪七年（1881年），中俄签订《中俄伊犁条约》，中国收回伊犁九城及特克斯河流域，但仍割让霍尔果斯河以西部分领土，赔偿兵费九百万卢布。尽管这仍是一个不平等条约，但相较于《里瓦几亚条约》，已算是\"虎口夺食\"的重大成果。
收复新疆后，左宗棠深知\"治疆必先固边\"。他多次上奏，建议在新疆设立行省，取代传统的伊犁将军府制，\"改土归流，推行郡县制，与内地划一\"（《左文襄公奏稿》）。光绪十年（1884年），清廷正式批准新疆建省，以迪化（今乌鲁木齐）为省会，任命刘锦棠为首任新疆巡抚。
新疆建省意义重大：它打破了原有的民族隔离政策，促进了各民族融合；推行屯田、兴修水利，推动了当地经济发展；设立学堂、传播汉文化，加强了国家认同。正如《清史稿·地理志》所载：\"新疆建省，实乃千古创举，自此边庭稳固，与内地唇齿相依，不复有分裂之虞。\"
光绪十一年（1885年），左宗棠在福州病逝，临终前仍牵挂新疆：\"惟新疆之事，臣心未安，望朝廷善抚百姓，固我疆圉。\"（《左文襄公全集·家书》）这位\"中兴名臣\"以垂暮之年，率师西征，收复百万平方公里国土，其功绩正如林则徐生前所