几名士兵趁攻破营寨的机会，抢了当地百姓的财物。曹彬知道后，立刻把这几人抓来，当着全军将士的面按军法处斩。王全斌见状上前劝：“这不过是小事，何必这么严厉？”曹彬严肃地说：“将军这话不对！陛下临行前特意叮嘱要安抚百姓，今天要是纵容士兵劫掠，明天就会有更多人跟着学，到时候蜀地百姓把咱们当仇敌，咱们还怎么顺利拿下成都？”王全斌心里不快，却也知道曹彬说得有理，只能作罢。从那以后，北路军的将士再也不敢妄动，行军途中对百姓秋毫无犯。
第二年正月，两路大军在成都城下会师。后蜀后主孟昶见大势已去，只能献城投降，存在了三十一年的后蜀政权就此灭亡。破城那天，王全斌麾下不少将领提议“犒赏三军”，其实就是想纵容士兵去劫掠城中财物，曹彬坚决反对。他一边派兵驻守城门，严禁士兵随意进出，一边亲自去街巷里巡视，安抚百姓，告诉他们“大宋军队只是来平定战乱的，不会侵扰大家的生活”。成都百姓一开始还很害怕，见宋军确实纪律严明、秋毫无犯，才渐渐放下心来，不少人还主动给宋军送水送粮。
可王全斌终究没忍住。攻克成都后，他觉得大功告成，就放松了警惕，不仅纵容部下劫掠百姓，还私自克扣蜀军降兵的粮饷。降兵们不满，很快引发了大规模叛乱，蜀地各地纷纷起兵反宋，局势一下子紧张起来。赵匡胤知道消息后震怒不已，立刻命令曹彬率军平叛。曹彬接到命令，迅速集结兵力，分几路前往平叛。他清楚蜀地百姓是因为遭了劫掠才心生不满，所以每到一处，先下令禁止士兵扰民，再贴出告示安抚百姓，说明叛乱的危害，劝大家归降。对那些被迫参与叛乱的百姓，他一律不追究；对带头叛乱的将领，才坚决镇压。只用了几个月，曹彬就平定了蜀地的叛乱，恢复了当地的秩序。
战后论功行赏，曹彬因为伐蜀时治军严明、平叛有功，被任命为宣徽南院使、义成军节度使。而王全斌因为纵容劫掠、引发叛乱，被削去官职，贬为崇义军节度观察留后。这时有人劝曹彬：“王全斌之前跟你有嫌隙，现在他被贬了，你不如趁机进言，把他彻底打压下去？”曹彬却摇头说：“我跟王将军只是治军的理念不一样，不是有私人恩怨。他这次被贬是国法所在，我要是再落井下石，就不是君子该做的事了。”这番话传到赵匡胤耳朵里，他对曹彬更欣赏了，感叹道：“曹彬不光有将帅的才能，还有君子的德行，真是国家的幸运。”
平定后蜀后，北宋又先后消灭了南汉、荆南等割据政权，下一个目标就是占据江南富庶之地的南唐。南唐后主李煜虽说文采很好，却没有治国的能力，面对北宋的步步紧逼，只知道一味求和，根本不积极整军备战。宋开宝七年（公元974年）九月，赵匡胤任命曹彬为升州西南路行营马步军战棹都部署，潘美为副都部署，率领十万大军讨伐南唐。
这次出征，赵匡胤对曹彬更信任了，不仅把全军指挥权交给了他，还特意赐给他一把尚方宝剑，叮嘱道：“这次伐唐事关重大，全军将士都归你节制，要是有不听号令的，不管官职大小，你可以先斩后奏。”曹彬接过尚方宝剑，对赵匡胤说：“臣愿意用恩信安抚将士，用谋略攻克南唐，尽量减少伤亡，不到万不得已，不愿动用刑罚。”赵匡胤点头说：“朕相信你能做到。”
大军出发后，曹彬定下“先断后路，再围都城”的战略。他先率领水军从江陵出发，沿长江东下，攻克了南唐的重要军事据点池州（今安徽池州），接着又拿下了采石矶（今安徽马鞍山南）。采石矶是长江下游的重要渡口，南唐在这儿部署了重兵防守，曹彬利用夜色，派奇兵偷渡长江，绕到南唐守军背后，前后夹击，攻克了采石矶。拿下采石矶后，曹彬让人建造浮桥，把江北的陆军源源不断地运到江南，跟水军形成呼应。
消息传到南唐都城金陵（今江苏南京），李煜