有就此消沉，反而觉得中原朝堂束缚太多，不如去边疆闯一闯。恰逢此时，汉朝要派官员去西域，陈汤便主动请缨，朝廷见他熟悉边疆事务，又没人愿意去那偏远之地，便任命他为西域都护府的副校尉，辅佐西域都护甘延寿。
这西域都护府，是汉朝在西域设立的最高行政和军事机构，治所在乌垒城（今新疆轮台一带），负责管理西域三十六国，维护汉朝在西域的利益。甘延寿是将门之后，为人谨慎稳重，行军打仗有章法，但决断力不够；而陈汤呢，为人沉勇有谋，眼光毒辣，尤其擅长洞察局势，制定奇策。这两人一稳一勇，一慎一断，本是绝佳的搭档，可刚开始的时候，甘延寿对陈汤并不信任，觉得他早年有“不孝”的污点，行事又太过张扬，怕他惹出麻烦。
陈汤到了西域后，并没有因为甘延寿的不信任而消沉，反而四处巡查，了解西域各国的动向。他看到郅支单于在康居横行霸道，欺压邻国，又得知郅支正在建造郅支城，招募兵力，心里便有了一个大胆的想法：必须趁郅支羽翼未丰，出兵讨伐，否则等他势力壮大，不仅西域各国要遭殃，汉朝在西域的统治也会动摇。
一日，陈汤找到甘延寿，对他说：“将军，郅支单于残暴不仁，杀我汉使，欺辱西域诸国，如今又在康居筑城练兵，其野心不小。若等他站稳脚跟，联合周边小国对抗汉朝，到时候再想讨伐，就难了。不如我们现在就调集西域诸国的兵力，再加上汉朝在西域的屯田兵，一举攻克郅支城，斩杀郅支，既能为谷吉等使者报仇，又能震慑西域，扬我汉威！”
甘延寿听了，心里也觉得陈汤说得有道理，可他为人谨慎，连忙摆手道：“子公，此事非同小可，出兵讨伐乃是军国大事，必须先奏请朝廷，等陛下批准了，才能行动。若我们擅自出兵，那就是‘矫诏’（假传圣旨），是灭族之罪啊！”
陈汤知道甘延寿是怕担责任，便又劝道：“将军，兵贵神速！西域离长安数千里，一来一回，至少要几个月的时间。等朝廷的圣旨下来，郅支说不定早就加固了城池，招募了更多兵力，到时候我们再出兵，怕是要付出更大的代价。再说，朝堂上大臣们意见不一，万一他们反对出兵，这事就黄了。不如我们先斩后奏，等平定了郅支，再向朝廷请罪，到时候陛下见我们立了大功，想必也不会过多追究。”
可甘延寿还是犹豫不决，他觉得“矫诏”的风险太大，万一失败，不仅自己要掉脑袋，还要连累家人和部下。两人就这么争论了好几次，甘延寿始终不肯松口，陈汤也只能暂时作罢，但他心里早已下定了决心，只要有机会，就一定要实施这个计划。
机会很快就来了。没过多久，甘延寿突然病倒了，卧床不起，西域都护府的事务，暂时就落到了陈汤手里。陈汤见时机成熟，立刻召集了西域都护府的各级军官，还有西域诸国的国王和将领，当众宣布：“奉大汉天子之命，调集汉朝屯田兵及西域诸国兵力，征讨郅支单于，为汉使报仇，扬我汉威！诸将若有不从者，以抗旨论处！”
这些军官和西域国王，一来敬畏汉朝的威严，二来也早就不满郅支的欺压，听陈汤说有天子的命令，纷纷表示愿意出兵。陈汤雷厉风行，当天就开始调兵遣将：他先是调集了汉朝在西域的屯田兵四千多人，又征集了乌孙、康居（部分不满郅支的部落）、大宛等国的兵力三万多人，总共四万多人，分成两路，一路从南道出发，经过葱岭，穿过大宛；另一路从北道出发，经过乌孙，直奔康居国的郅支城。
就在陈汤把军队集结完毕，准备出发的时候，甘延寿的病突然好了大半。他听说陈汤私自调兵，顿时大惊失色，连忙起身去阻止陈汤。甘延寿赶到军营，见士兵们个个盔明甲亮，士气高昂，正要出发，便拉住陈汤的手，急道：“子公！你怎么能私自调兵？这是‘矫诏’啊！快下令让士兵们解散，我们赶紧上奏