辩在肃州抵御吐蕃入侵，立下了大功。
另外，裴行俭不管是在西域行军，还是在朝中任职，只要有空闲时间，就会练字。他的草书和隶书越来越有名，长安城里的士人都以能收藏他的书法作品为荣。有一次，唐高宗在宫中举办宴会，邀请了不少大臣，席间高宗说：“裴卿，你的书法很好，不如就在这宫墙上写一幅字，让大家欣赏欣赏。”裴行俭没有推辞，让人拿来笔墨，在宫墙上写了一幅草书《将进酒》——他的笔法刚劲有力，如龙蛇飞舞，在场的大臣都看呆了，高宗更是赞不绝口，说：“裴卿，你的字比虞世南、褚遂良也不差啊！”
后来，裴行俭还撰写了《草字杂体》一书，这本书里收录了他的书法作品，还记录了他的书法心得，比如“草书要注重气韵，隶书要注重结构”“练字要先摹后临，先慢后快”等。这本书出版后，很快就传遍了长安，不少学书法的人都把它当作教材，甚至西域的一些部落首领，也托人买来这本书，学习中原的书法。
永淳元年（682年），裴行俭六十四岁，这一年他的身体开始变差，经常咳嗽、气喘，大夫说他是常年在西域奔波，染上了风寒，需要好好休养。可就在这时候，西域又传来了坏消息：突厥贵族阿史那骨笃禄举兵反叛，攻占了唐朝的云州（今山西大同），杀害了云州刺史，还掠夺了大量人口和财物。
阿史那骨笃禄是东突厥的后裔，东突厥在贞观四年（630年）被唐朝平定后，其部众大多归附唐朝，但阿史那骨笃禄一直不甘心，他趁着唐朝忙于平定西突厥叛乱，暗中召集东突厥残部，建立了后突厥汗国，这次叛乱就是他对唐朝发起的第一次大规模进攻。
消息传到长安，唐高宗很着急，他知道裴行俭熟悉突厥事务，又有平定叛乱的经验，就想让裴行俭率军征讨。但他又担心裴行俭的身体，犹豫了很久，才派人去裴行俭的府中探望。
裴行俭当时正躺在床上休养，看到宫里的使者来了，知道肯定是有急事，就挣扎着坐起来，问：“使者大人，是不是西域又出事了？”使者把阿史那骨笃禄叛乱的事告诉了他，裴行俭听了，立刻说：“请你回禀陛下，我愿意率军征讨阿史那骨笃禄！”
使者劝他：“裴大人，你的身体不好，还是好好休养吧，陛下会派其他人去的。”裴行俭摇头：“不行，阿史那骨笃禄很狡猾，而且突厥人熟悉草原地形，若是派不熟悉突厥事务的人去，恐怕会吃败仗。我虽然老了，但还能骑马、能射箭，只要能为朝廷平定叛乱，就算死在战场上，我也心甘情愿！”
使者把裴行俭的话告诉了唐高宗，高宗很感动，也很敬佩裴行俭的忠诚，当即任命他为金牙道行军大总管，让他率领十万大军征讨阿史那骨笃禄。
裴行俭接到任命后，立刻开始准备出征——他让人把自己的铠甲找出来，试穿了一下，虽然有些吃力，但还是能穿上；他还召集了以前跟随自己的将领，比如程务挺、崔智辩，和他们一起研究突厥的地形和阿史那骨笃禄的战术；他甚至还亲自去军营视察，鼓励士兵们：“突厥人虽然勇猛，但他们不懂章法，只要我们团结一心，一定能打败他们！”
可就在出征前几天，裴行俭的病情突然加重——他咳嗽得越来越厉害，甚至咳出了血，连床都下不了。大夫来看过之后，摇着头说：“裴大人，你的身体已经支撑不住了，不能再出征了，否则会有生命危险。”
裴行俭躺在病床上，看着窗外的天空，眼里满是遗憾。他对儿子裴光庭说：“光庭，我这辈子，从西州到长安，从护送波斯王子到平定西突厥叛乱，从来没有辜负过朝廷。可这次，我恐怕不能再为朝廷效力了……我死后，你要记住，做人要忠诚，做事要尽心，不要给裴家丢脸。”裴光庭跪在床边，哭着说：“父亲，您一定会好起来的，您还要率军征讨突厥呢！”
永淳