西北的山谷中，这是匈奴单于撤军的必经之路，武帝命他在此设伏，待匈奴军进入山谷后，便截断其退路，与其他部队夹击匈奴。李广领命后，率部进入山谷，依山布阵，将士们皆偃旗息鼓，耐心等待匈奴军的到来。
匈奴单于率领大军，一路顺利，行至距马邑城百余里时，却忽然心生疑虑——沿途只见遍野的牲畜，却不见一个放牧的百姓，这与以往汉朝边郡的景象截然不同。单于素来谨慎，当即下令大军停止前进，派少量骑兵前往附近村落侦查。恰好此时，汉军一名尉史（负责巡逻的低级军官）因迷路，被匈奴骑兵擒获。这尉史贪生怕死，竟将汉军在马邑周围设伏的全盘计划，一五一十地告诉了匈奴单于。
单于听闻后，大惊失色，冷汗直流，当即下令大军火速撤退。为防汉军追击，单于还命部分骑兵断后，沿途销毁桥梁、焚烧粮草。
此时，埋伏在山谷中的李广，正焦急地等待着匈奴军的到来。他不时派人登高了望，却始终不见匈奴军的踪影。直到天色渐暗，才有侦查兵回报，称匈奴军已撤军，且沿途设防，汉军难以追击。李广听闻后，不禁扼腕叹息：“天不助汉呀！”随后，他率部走出山谷，与其他汉军部队会合，此时韩安国、公孙贺等人也已得知匈奴撤军的消息，只得下令撤兵。
一场精心策划、动用三十万大军的伏击战，最终因一名尉史的泄密而功亏一篑。马邑之谋失败后，武帝大怒，将王恢下狱，李广虽未获罪，却也错失了一次大破匈奴、立功封侯的绝佳机会。
此次事件后，汉匈关系彻底破裂，匈奴断绝了与汉朝的和亲，更加频繁地入侵边郡，而汉朝也正式开启了对匈奴的大规模军事反击，李广的战场，也从之前的“边境防御”，转向了“主动出击”。
元狩四年（公元前119年），汉武帝为彻底击溃匈奴主力，发动了规模空前的“漠北之战”——任命卫青为大将军，霍去病为骠骑将军，各率五万铁骑，分东西两路出击，深入漠北，寻找匈奴单于主力决战。
此时的李广，已年过六十，头发花白，却依旧壮心不已。自马邑之谋后，他又先后参与了多次对匈作战，却始终未能立下足以封侯的战功（汉朝军功制度以“斩杀匈奴首级数量”“俘虏匈奴贵族”“大破匈奴部队”为主要标准，李广虽多次作战，却常因兵力不足、遭遇匈奴主力等原因，未能达到封侯标准）。此次漠北之战，是汉朝对匈奴的决战，李广深知这可能是自己最后的机会，便多次向武帝上书，请求随军出征。
武帝起初并未应允，认为李广年老，且“数奇”（古代认为“数奇”者运气不佳，李广此前多次作战不顺，武帝便有此顾虑），恐难担大任。但李广心意已决，接连上书，言辞恳切，甚至亲自前往宫门请愿。武帝见他态度坚决，又念及他一生守边有功，便最终应允，任命他为“前将军”，归属卫青麾下，随东路军出征。
大军出塞前，卫青从俘虏口中得知了匈奴单于的驻地，便决定亲自率领精锐部队，从正面追击单于，而命李广与右将军赵食其率领部队，从东路出发，迂回到匈奴单于的后方，与自己形成夹击之势。
李广得知这一部署后，当即找到卫青，恳切地说道：“臣结发与匈奴战，今乃一得当单于，愿居前，先死单于！”意思是，自己从年轻时便与匈奴作战，如今终于有机会正面迎战单于，愿担任先锋，与单于决一死战。
然而，卫青却拒绝了李广的请求。其中原因有二：一是武帝在大军出发前，曾私下叮嘱卫青，称李广“数奇”，不宜担任先锋，恐误大事；二是卫青想让自己的好友公孙敖担任先锋——公孙敖此前因作战失利被削爵，卫青想让他在此次战役中立功，恢复爵位。
李广听闻卫青的决定后，心中极为不满，却又不敢违抗将令，只得悻悻而归。他回到营中，并未向赵食其详细说