只是他反复无常的开始，也注定了他后来的结局。
董卓得了吕布之后，更是肆无忌惮，在洛阳城里胡作非为，不仅抢夺百姓的财物，还奸淫宫女嫔妃，甚至把已经下葬的汉灵帝的陵墓都给挖了，把里面的陪葬品洗劫一空。朝廷里的大臣们忍无可忍，纷纷暗中谋划，想要除掉董卓。其中，司徒王允就是其中的一个。
王允知道，董卓身边有吕布护卫，想要杀董卓，必须先拉拢吕布。他私下里找吕布谈话，一开始还不敢直接提杀董卓的事，只是旁敲侧击地跟吕布聊起董卓的残暴。聊着聊着，吕布自己也忍不住抱怨起来，说董卓这个人脾气暴躁，上次因为一点小事，就拿起手戟朝他扔过来，要不是他躲得快，早就没命了。
王允一听，机会来了，就趁机对吕布说：“董卓残暴不仁，天下人都想杀他，你要是能除掉他，不仅能报了自己的险遭不测之仇，还能救天下苍生于水火，到时候你就是再造汉室的功臣，名留青史啊！”吕布一开始还有点犹豫，说：“可我跟他是义父义子的关系，杀了他，会不会被人骂我不忠不孝？”
王允笑了笑，说：“你本来是丁原的义子，后来投靠了董卓，这义父本就不是亲生的。再说了，董卓对你根本没有父子之情，他上次能动手杀你，你还有什么可顾忌的？再说，你姓吕，他姓董，本来就不是一家人，哪来的父子情义？”
吕布被王允这么一劝，彻底下定了决心。公元192年四月，董卓要去未央殿参加皇帝的朝会，吕布事先安排了十几个心腹勇士，穿着宫廷侍卫的衣服，埋伏在未央殿的侧门里。等董卓的车马一到，埋伏的人立刻冲了出来，举刀就砍。董卓吓得赶紧喊：“吾儿奉先何在？”他以为吕布会来救他，可没想到，吕布从后面走了出来，手里拿着诏书，大声说：“奉诏讨贼！”
董卓这才明白，自己是被吕布给卖了，气得破口大骂，可已经晚了。吕布手起戟落，一下子就把董卓的脑袋砍了下来。消息传出去，洛阳城里的老百姓都高兴得不得了，纷纷走上街头，唱歌跳舞，庆祝董卓的灭亡。吕布也因为诛杀董卓有功，被封为奋威将军，假节，仪比三司，进封温侯，一下子成了朝廷里的大红人，风头无两。
可好景不长，董卓虽然死了，他的部下李傕、郭汜等人还在。这些人原本想逃回老家凉州，可后来听了谋士贾诩的建议，觉得与其逃跑，不如率军杀回洛阳，为董卓报仇。于是，李傕、郭汜就带着几万凉州兵，日夜兼程地往洛阳赶。
吕布当时虽然名义上掌握着洛阳的兵权，但他自己也没什么领兵打仗的大谋略，只是凭着个人勇武。双方在洛阳城外一场大战，吕布虽然勇猛，杀了不少凉州兵，可架不住对方人多势众，再加上有些士兵临阵倒戈，最终还是败了。
没办法，吕布只好带着几百个亲信，逃出了洛阳。这一逃，他就成了无家可归的军阀，只能四处投靠别人。他先是想去投袁术，可袁术觉得吕布反复无常，杀了自己的义父丁原，又杀了董卓，不是个可靠的人，就拒绝了他。吕布没办法，又去投袁绍。
袁绍一开始倒是收留了吕布，还让他跟着自己去打张燕的黑山军。张燕的黑山军有十几万人，战斗力不弱，袁绍打了好几次都没打赢。可吕布一到，情况就不一样了。吕布骑着赤兔马，带着几十个精锐骑兵，冲进黑山军的阵里，左冲右突，杀了敌人就回来，一天能来回好几次。黑山军的人见吕布这么勇猛，都吓得不敢跟他交手。袁绍借着吕布的势头，终于打败了张燕。
可打完仗之后，袁绍又开始忌惮吕布了。他觉得吕布这个人太能打了，而且手下的骑兵也很精锐，要是留着他，迟早是个祸害。于是，袁绍就暗中派人，想在夜里把吕布给杀了。吕布也不傻，他察觉到了袁绍的杀意，就趁着夜色，带着自己的人偷偷跑了。袁绍知道后，还派人去追，可那些追兵都