葛·比栗嗣位）、于阗的尉迟伏阇雄，告诉他们自己要护送波斯王子归国，让他们帮忙留意沿途的敌情；然后，他从军队里挑选了三千名精锐士兵，这些士兵大多有过西域作战的经验，会骑马、会射箭，还能适应沙漠气候；最后，他准备了充足的粮草和水囊，还装了好几车丝绸、茶叶、瓷器和书籍——丝绸、茶叶、瓷器是送给西域部落首领的礼物，书籍则是为了向西域传播中原文化。
调露元年（679年）秋天，裴行俭带着军队和泥涅师从长安出发，经河西走廊进入西域。刚进入沙漠时，泥涅师很紧张，因为他听说沙漠里有很多危险，比如沙尘暴、缺水、迷路。裴行俭看出了他的不安，就安慰他：“泥涅师王子，你别怕，我在西州待过五年，知道怎么在沙漠里走。只要跟着我，咱们一定能安全到达波斯。”
果然，出发没几天，他们就遇到了沙尘暴。那天中午，原本晴朗的天空突然暗了下来，狂风卷着沙子呼啸而来，能见度不足一丈。士兵们慌了，有的想乱跑，有的想躲进帐篷。裴行俭立刻下令：“所有人原地不动，围成一个圆圈，用衣服捂住口鼻，不许说话！”他自己则站在圆圈的最外围，指挥士兵保持阵型。沙尘暴刮了整整一个时辰，等风停了，士兵们才发现，要是刚才乱跑，早就被沙子埋了。泥涅师看着裴行俭，感激地说：“裴大人，多亏了你，不然我们今天就完了。”
又走了十几天，军队遇到了缺水的问题——随身携带的水囊快空了，沿途的水源要么干涸了，要么被西突厥残部污染了。士兵们口渴难耐，有的甚至开始喝马尿。裴行俭很着急，他想起西州的老驿卒说过，沙漠里有些地方虽然表面是沙子，但地下有水，只要找到“红柳丛”，昏时分，找到了一片茂密的红柳。裴行俭让人在红柳丛中间挖洞，挖了大约三尺深，果然渗出了清水。士兵们都高兴坏了，赶紧用皮囊接水，烧开后喝了起来。泥涅师看着清澈的泉水，忍不住感叹：“裴大人，你真是太厉害了，连这种地方有水源都知道。”
就这样，裴行俭带着军队和泥涅师，历经三个多月的艰苦行军，终于到达了吐火罗（今阿富汗北部）。这里是波斯的东部边境，虽然大部分地区已经被大食占领，但吐火罗的国王还是倾向于唐朝。泥涅师见到吐火罗国王后，双方达成了协议——吐火罗国王愿意支持泥涅师建立流亡政权，帮助他召集波斯旧部；而泥涅师则承诺，将来若能夺回波斯，会继续与唐朝保持友好关系。
任务完成后，裴行俭准备返回长安。临走前，泥涅师拉着他的手说：“裴大人，这一路多亏了你，我这辈子都不会忘记你的恩情。将来我若能复国，一定亲自去长安向陛下和你道谢。”裴行俭说：“王子不必客气，这是我作为唐朝将领的职责。你在吐火罗要多加小心，有困难可以随时派人去唐朝求援。”
返回长安的路上，裴行俭还去了西州和于阗，见了麴智湛和尉迟伏阇雄。麴智湛还是老样子，拉着裴行俭喝了好几杯酒；尉迟伏阇雄则送给裴行俭一匹汗血宝马，说：“裴大人，这匹马能日行千里，你带着它回长安，能快些。”裴行俭推辞不过，只好收下。
回到长安后，唐高宗特意在大明宫召见了裴行俭，听他讲完护送的经过，高兴地说：“裴卿，你这次不仅护送泥涅师安全归国，还稳定了西域局势，功劳不小啊！”当即任命他为吏部侍郎，负责官员的选拔与考核——这是个正四品上的官职，比他被贬前的长安令高了好几级。
裴行俭刚任吏部侍郎没两个月，西域就又传来了坏消息：调露元年（679年）冬天，西突厥十姓可汗阿史那都支联合别帅李遮匐，举兵反叛。阿史那都支原本是唐朝任命的昆陵都护府都护，负责管辖西突厥左厢五姓部落，但他一直不甘心受唐朝管辖，苏定方去世后，他就开始暗中联络西突厥残部，积蓄力量；李遮匐是蒙池都护府的都护，