管辖西突厥右厢五姓部落，他与阿史那都支早就有勾结，还偷偷派使者去吐蕃，约定一起对抗唐朝。
叛乱发生后，阿史那都支和李遮匐很快占领了昆陵、蒙池两个都护府，杀害了唐朝派去的官员，还切断了丝绸之路的北道，不少中原商人都被他们抢劫杀害。消息传到长安，唐高宗立刻召集大臣商议对策。
有的大臣主张派大军征讨，说：“阿史那都支和李遮匐叛乱，必须用武力镇压，不然西域诸国都会跟着反叛！”他们建议派十万大军，由大将军裴炎率领，从河西走廊出发，直捣西突厥腹地。
但也有大臣反对，说：“西域路途遥远，十万大军出征，粮草消耗太大，而且冬天西域寒冷，士兵们难以适应，恐怕会有不测。不如先派使者去安抚，劝阿史那都支和李遮匐归降，若他们不听，再出兵也不迟。”
双方争论不休，唐高宗也拿不定主意，这时他看到裴行俭站在一旁不说话，就问：“裴卿，你刚从西域回来，熟悉那里的情况，你说说，该怎么办？”
裴行俭思考了片刻，说：“陛下，阿史那都支和李遮匐虽然叛乱，但他们的势力还不稳固——西突厥的部落大多是被迫归附他们的，心里还是向着唐朝；而且吐蕃虽然和他们有约定，但还没派军队来支援。若是派大军征讨，他们必然会联合吐蕃和所有部落抵抗，到时候仗就难打了，还会让西域百姓遭受战乱之苦。我有个主意：我之前在西域认识不少部落首领，他们都愿意归附唐朝。我可以再以‘安抚西域诸国’的名义去西域，暗中收集阿史那都支和李遮匐的情报，找机会把他们擒获，这样不用打大仗就能平定叛乱。”
唐高宗觉得这个主意好，既不用消耗大量粮草，又能避免大规模战争，当即就任命裴行俭为安抚大食使，让他率领一支五千人的军队再次前往西域。
出发前，裴行俭特意去找了药罗葛·比栗——他是回纥首领药罗葛·婆闰的儿子，此时已经继承了首领之位，并且率部归附唐朝，被封为瀚海都督。裴行俭对药罗葛·比栗说：“比栗首领，阿史那都支叛乱，扰乱西域，我这次去西域，需要你的帮助。你能不能派一些回纥勇士跟着我，万一遇到危险，也能有个照应。”药罗葛·比栗早就不满阿史那都支抢劫回纥的商队，立刻答应：“裴大人，你放心，我派三千名勇士跟着你，他们都是能骑善射的好手，一定能帮你平定叛乱！”
调露二年（680年）春天，裴行俭带着五千名唐军和三千名回纥勇士，从长安出发，再次前往西域。和上次一样，他对外只说“去西域安抚诸国”，不提平乱的事，还特意带上了不少丝绸、茶叶和中原的工艺品，装作是去赏赐西域部落首领的样子。
军队行至西州时，麴智湛早就带着当地官员和部落首领在城外迎接。裴行俭把麴智湛拉到一边，悄悄告诉他：“麴都督，我这次来，其实是为了平定阿史那都支的叛乱。你帮我召集一下西州附近的部落首领，就说我想跟他们一起打猎，增进友谊。”麴智湛立刻明白了裴行俭的意思，当天就派人去通知各个部落首领。
第二天，西州城外的草原上聚集了十几个部落的首领，他们都带着自己的随从，有的还骑着马、带着弓箭，准备和裴行俭一起打猎。裴行俭穿着一身便装，没带多少护卫，显得很随和。他和首领们一一握手，笑着说：“各位首领，我离开西州好几年了，一直想念这里的草原和猎物，今天能和大家一起打猎，真是高兴！”
首领们见裴行俭没架子，还和他们聊起了以前在西州的往事，都很放松。打猎开始后，裴行俭表现得很出色——他骑着尉迟伏阇雄送的汗血宝马，拉弓射箭，一箭就射中了一只奔跑的黄羊。首领们都拍手叫好，说：“裴大人不仅有学问，射箭也这么厉害！”
接下来的几天，裴行俭每天都和首领们一起打猎，有时候还会组织射