源，两家闹得很僵，甚至差点动手。裴行俭得知后，主动去见药罗葛·婆闰和处月部落的首领处月阙俟斤。
他先去了回纥部落的帐篷，药罗葛·婆闰见他来了，还带着丝绸和茶叶，很是热情，摆上烤羊肉、马奶酒招待他。裴行俭喝了一口马奶酒，说：“婆闰首领，我听说你和处月部落因为水源的事闹得不愉快？”药罗葛·婆闰叹了口气：“裴长史，你不知道，那条月牙河是我们两家唯一的水源，今年天旱，水少了，他们却把水都截住了，我们的牛羊都快渴死了！”裴行俭又去见处月阙俟斤，处月阙俟斤也有一肚子委屈：“我们部落的人比回纥多，需要的水也多呀。”
裴行俭听了两边的话，心里有了主意。他带着两个首领去月牙河考察，指着河道说：“这条河从雪山流下来，到这里分成了两条支流，一条流向回纥，一条流向处月。我看不如这样，我们在主河道修个分水闸，根据两家的人口和牛羊数量分配水量，旱季的时候，每天早上由两家各派一个人去闸口放水，谁也不许多占。另外，你们两家可以一起养羊，回纥的羊肉质好，处月的羊繁殖快，一起养既能多赚钱，又能减少摩擦，你们看怎么样？”
两个首领听了，都觉得这个办法好——分水闸能解决水源问题，一起养羊还能互利共赢。当天下午，他们就握手言和，还杀了羊、喝了血酒，发誓以后再也不打仗。这件事传开后，西州附近的部落都知道裴行俭是个“会讲道理的官”，有矛盾都愿意找他调解，裴行俭在西域的威望也越来越高。
显庆二年（657年），苏定方率军平定西突厥，擒获沙钵罗可汗，唐朝在西突厥故地设立了蒙池都护府和昆陵都护府，西域的局势暂时稳定下来。但好景不长，显庆五年（660年），苏定方去世，西突厥的残部又开始活跃起来，他们在西域各地烧杀抢掠，扰乱商路；与此同时，大食也开始向东扩张，攻占了波斯（萨珊王朝）的大片领土。
龙朔元年（661年），波斯国王伊嗣俟三世在逃亡途中被大食军队杀害，他的儿子泥涅师带着几百名残部逃往唐朝，一路历经艰险，终于在龙朔二年（662年）到达长安。泥涅师见到唐高宗后，跪在地上痛哭：“陛下，大食残暴，灭我国家，杀我父亲，求陛下出兵相助，帮我夺回故国！”唐高宗很同情泥涅师的遭遇，但当时唐朝正忙于平定高句丽，无力派兵远征波斯，只能先封泥涅师为波斯都督，让他在长安暂住。
一晃十几年过去，到了调露元年（679年），唐朝已经平定了高句丽，终于有精力关注西域的局势。此时泥涅师在长安已经住了十七年，他再次向唐高宗请求归国，说：“陛下，如今波斯的百姓还在盼着我回去，只要有唐朝的支持，我一定能召集旧部，抵抗大食！”唐高宗考虑到波斯是唐朝的属国，保护泥涅师归国，既能稳住西域局势，又能遏制大食的东扩，便决定派使者护送泥涅师返回波斯。
可派谁去呢？西域路途遥远，沿途不仅有沙漠戈壁，还有西突厥残部和大食军队的威胁，必须找一个既懂军事、又熟悉西域局势的人。这时候，有人想起了裴行俭——他在西州待了五年，熟悉西域的地理和部落关系，还懂兵法，是最合适的人选。
此时裴行俭已经调回朝中，任司文少卿，负责管理皇家图书馆的典籍。他得知朝廷在物色护送人选后，主动找唐高宗请命：“陛下，西域的路我熟悉，那里的部落首领也大多认识我，我愿意带兵护送泥涅师归国。路上若是遇到乱兵，我也能应付，顺便还能跟西域诸国打个招呼，让他们安心归附唐朝。”唐高宗早听说裴行俭在西州的政绩，当即就应了，封他为安抚大食使，让他率领一支三千人的军队护送泥涅师西行。
出发前，裴行俭做了充分的准备。他先派人去西域，找以前认识的部落首领，比如回纥的药罗葛·婆闰（此时已去世，由儿子药罗